On Thu, Mar 21, 2013 at 1:31 AM, Robert Hogan <span dir="ltr">&lt;<a href="mailto:lists@roberthogan.net" target="_blank">lists@roberthogan.net</a>&gt;</span> wrote:<br><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">

<div class="im">On Thursday, 21 March 2013, Ryosuke Niwa  wrote:<br><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">


<div>I used to pull results from the bots where possible but creating inconsistency between png/text results is not good.</div>

</blockquote><div><br></div><div>It is unfortunate but it&#39;s much better than losing the complete test coverage.</div></div></blockquote><div><br></div></div><div>If that&#39;s the case then I&#39;m happy to land whatever garden-o-matic pulls in or I can sweep from the bots, even if it means that png results for Mac, Qt, et al. go bad as a result. </div>


<div><br></div><div>I guess we will always have ports whose bots do not run pixel tests so if those ports are happy to live with the downsides of doing that then there really is no obstacle to authors owning the job of updating the baselines for all ports when they land a change.</div>


<div><br></div><div>IMHO ports who don&#39;t run pixel tests would be better off deleting any png results they have in the tree. Is there a reason Mac hasn&#39;t done that? Don&#39;t you get lots of failures when you run pixel tests locally?</div>


</blockquote></div><br><div>Yes, but I&#39;d argue that it&#39;s better than losing the test coverage.</div><div><br></div><div>By the way, we can easily address this problem by always generating pixel results for unexpectedly failing tests. Namely, we can force --pixel when we&#39;re retrying tests.</div>

<div><br></div><div>- R. Niwa</div><div><br></div>