<br><br><div><span class="gmail_quote">On 1/27/07, <b class="gmail_sendername">Stefan van der Walt</b> <<a href="mailto:stefan@sun.ac.za">stefan@sun.ac.za</a>> wrote:</span><blockquote class="gmail_quote" style="border-left: 1px solid rgb(204, 204, 204); margin: 0pt 0pt 0pt 0.8ex; padding-left: 1ex;">
On Sat, Jan 27, 2007 at 03:11:58PM -0700, Charles R Harris wrote:<br>>     Does anyone else see this happening?<br>><br>><br>> Yes,<br>><br>> test1:  0  differences<br>> test2:  51  differences<br>> test3:  0  differences
<br>><br>>  Oddly, the relative error is always the same:<br>><br>> 98 z different 2.0494565872e-16<br>> 99 z different 2.0494565872e-16<br>><br>> Which is nearly the same as the double precision 2.2204460492503131e-16
, the<br>> difference being due to the fact that the precision is defined relative to 1,<br>> and the error in the computation are in a number relatively larger (more bits<br>> set, but not yet 2).<br>><br>> So this looks like an error in the LSB of the floating number. Could be
<br>> rounding, could be something not reset quite right. I'm thinking possibly<br>> hardware at this time, maybe compiler.<br><br>Interesting!  I don't see it on<br><br>Linux alpha 2.6.17-10-386 #2 Fri Oct 13 18:41:40 UTC 2006 i686 GNU/Linux
<br>vendor_id       : AuthenticAMD<br>model name      : AMD Athlon(tm) XP 2400+<br>flags           : fpu vme de pse tsc msr pae mce cx8 apic sep mtrr pge mca cmov pat pse36 mmx fxsr sse syscall mmxext 3dnowext 3dnow up ts
<br><br><br>but I do see it on<br><br><br>Linux voyager 2.6.17-10-generic #2 SMP Fri Oct 13 18:45:35 UTC 2006 i686 GNU/Linux<br>processor       : 0<br>vendor_id       : GenuineIntel<br>model name      : Genuine Intel(R) CPU           T2300  @ 
1.66GHz<br>processor       : 1<br>vendor_id       : GenuineIntel<br>model name      : Genuine Intel(R) CPU           T2300  @ 1.66GHz<br>flags           : fpu vme de pse tsc msr pae mce cx8 apic sep mtrr pge mca cmov pat clflush dts acpi mmx fxsr sse sse2 ss ht tm pbe nx constant_tsc pni monitor vmx est tm2 xtpr
<br><br>Both machines are running Ubuntu Edgy, exact same software versions.</blockquote><div><br>Hmmm, and your problem machine is running smp linux. As is mine; fedora uses smp even on single processor machines these days. I think we could use more data here comparing
<br><br>OSX<br>Linux (single, smp)<br>Window<br><br>Chuck<br></div><br></div><br>