<div dir="ltr"><div>I was going to suggest numdifftools; its a very capable package in my experience. Indeed it would be nice to have it integrated into scipy.</div><div><br></div><div>Also, in case trying to calculate a numerical gradient is a case of 'the math getting too bothersome' rather than no closed form gradient actually existing: Theano may be your best bet; I have very good experiences with it as well. As far as I can tell, it is actually the only tensor/ndarray aware differentiator out there (maple and mathematica don't appear to support this)</div>
</div><div class="gmail_extra"><br><br><div class="gmail_quote">On Sun, Apr 20, 2014 at 4:55 PM, Alan G Isaac <span dir="ltr"><<a href="mailto:alan.isaac@gmail.com" target="_blank">alan.isaac@gmail.com</a>></span> wrote:<br>
<blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">Awhile back there were good signs that SciPy<br>
would end up with a `diff` module:<br>
<a href="https://github.com/scipy/scipy/issues/2035" target="_blank">https://github.com/scipy/scipy/issues/2035</a><br>
Is this still moving forward?<br>
<br>
It would certainly be nice for SciPy to have intuitive<br>
numerical gradients, Jacobians, and Hessians.  The last<br>
two are I think missing altogether.  The first exists<br>
as scipy.optimize.approx_fprime.<br>
<br>
`approx_fprime` seems to work fine, but I suggest it<br>
has the following drawbacks:<br>
- it is hard to find (e.g., try doing a Google search<br>
   on "scipy gradient" or "scipy numerical gradient"<br>
- related, it is in the wrong location (scipy.optimize)<br>
- the signature is odd: (x,f,dx) instead of (f,x,dx)<br>
   (This matters for ease of recall and for teaching.)<br>
<br>
In any case, as I understand it, the author's of numdifftools<br>
<a href="http://code.google.com/p/numdifftools/" target="_blank">http://code.google.com/p/numdifftools/</a><br>
expressed willingness to have their code moved into SciPy.<br>
This seems like an excellent way forward.<br>
There was talk of making this a summer of code project,<br>
but that seems to have sputtered.<br>
<br>
Alan Isaac<br>
_______________________________________________<br>
NumPy-Discussion mailing list<br>
<a href="mailto:NumPy-Discussion@scipy.org">NumPy-Discussion@scipy.org</a><br>
<a href="http://mail.scipy.org/mailman/listinfo/numpy-discussion" target="_blank">http://mail.scipy.org/mailman/listinfo/numpy-discussion</a><br>
</blockquote></div><br></div>