As I have said in the past, we should just import all tests, and treat non-text, non-ref tests as pixel tests. If we wanted to reduce the number of pixel tests we import, then we should submit those patches to W3C instead of directly submitting them to WebKit.<div>

<br></div><div>In general, I don't buy the argument that adding more pixel tests incurs more cost than the benefit we get from importing the tests. If that were the case, we can just get rid of the existing pixel tests we have.</div>

<div><br></div><div>The only sane argument I've heard so far to gate pixel tests is that the correctness of such tests need to be manually inspected, which requires a lot of manual labor and is very error prone.</div>

<div><br></div><div>For script-based tests that print PASS/FAIL, it seems better to just check in *-expected-failure.txt or even -expected.txt files because we'll see PASS/FAIL in the expected tests themselves.<br><div>

<br></div><div>- Ryosuke<br><br><div class="gmail_quote">On Wed, May 23, 2012 at 10:26 AM, Jacob Goldstein <span dir="ltr"><<a href="mailto:jacobg@adobe.com" target="_blank">jacobg@adobe.com</a>></span> wrote:<br><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">

<div style="font-size:14px;font-family:Calibri,sans-serif;word-wrap:break-word"><div>At the WebKit contributor's meeting in April, we discussed a process for importing third party tests into the WebKit repository (specifically, from the W3C test repository).</div>

<div><br></div><div>I documented the process that we came up with at the meeting on the WebKit wiki, here:</div><div><a href="http://trac.webkit.org/wiki/ImportingThirdPartyTests" target="_blank">http://trac.webkit.org/wiki/ImportingThirdPartyTests</a></div>

<div><br></div><div>It would be great if we could get some feedback on this process.  </div><div><br></div><div>Once we can finalize the details for how this should function, the effort can proceed - scripts can be written to help automate the effort and an actual import of select W3C test suites can be performed.  </div>

</div>
<br>_______________________________________________<br>
webkit-dev mailing list<br>
<a href="mailto:webkit-dev@lists.webkit.org">webkit-dev@lists.webkit.org</a><br>
<a href="http://lists.webkit.org/mailman/listinfo.cgi/webkit-dev" target="_blank">http://lists.webkit.org/mailman/listinfo.cgi/webkit-dev</a><br>
<br></blockquote></div><br></div></div>