Hi,<br>
The unaddressed problem is how the user will see the result. This type
of thing leads type mismatches especially when doing array indexing. In
that case it is a really bad thing to do. But in terms of mathematical
computations it is usually a given that the highest possible precision
is used when possible. <br>
<br>
Regards<br>
Bruce<br>
<br>
<br><br><div><span class="gmail_quote">On 10/10/05, <b class="gmail_sendername">Stephen Walton</b> <<a href="mailto:stephen.walton@csun.edu">stephen.walton@csun.edu</a>> wrote:</span><blockquote class="gmail_quote" style="border-left: 1px solid rgb(204, 204, 204); margin: 0pt 0pt 0pt 0.8ex; padding-left: 1ex;">
Over on the scipy-dev mailing list, Travis Oliphant raised a question<br>which is of interest to the folks over here as well.  To summarize very<br>briefly, Travis wondered whether the rule of "safest conversion" might
<br>require that an integer to float computation conversion on a 64-bit<br>platform would require promotion of, for example, sqrt(2) to a long<br>double (128 bits).  I suggested that it would make the most sense for an<br>
M-bit integer to be converted to an N-bit real, where N>=M, on all<br>platforms.  For example, sqrt(2) would become a 32-bit real if 2 was a<br>32-bit integer on the plaform.<br><br>I am not sure if this is a change from current Numeric and numarray
<br>practice, but wanted to give a heads-up over here.  You can read the<br>entire original thread beginning at<br><br><a href="http://www.scipy.org/mailinglists/mailman?fn=scipy-dev/2005-October/003403.html">http://www.scipy.org/mailinglists/mailman?fn=scipy-dev/2005-October/003403.html
</a><br><br><br>-------------------------------------------------------<br>This SF.Net email is sponsored by:<br>Power Architecture Resource Center: Free content, downloads, discussions,<br>and more. <a href="http://solutions.newsforge.com/ibmarch.tmpl">
http://solutions.newsforge.com/ibmarch.tmpl</a><br>_______________________________________________<br>Numpy-discussion mailing list<br><a href="mailto:Numpy-discussion@lists.sourceforge.net">Numpy-discussion@lists.sourceforge.net
</a><br><a href="https://lists.sourceforge.net/lists/listinfo/numpy-discussion">https://lists.sourceforge.net/lists/listinfo/numpy-discussion</a><br></blockquote></div><br>