<div dir="ltr"><div>Hi,</div><div><br></div>There isn't much to advise you without any data or way to reproduce this. As a small value is added to the Jacobian to keep it positive semi-definite in the algorithm, the fact that it diverges seems to indicate that the eigenvalues of your system are not (or it is a bug, but for this, we will need more data to reproduce the issue).<div>Can you output at each stage your Jacobian and check that it doesn't present that kind of behavior?</div><div><br></div><div>Cheers,</div><div><br></div><div>Matthieu<br><div><br></div></div></div><div class="gmail_extra"><br><div class="gmail_quote">2016-12-27 15:13 GMT+01:00 William Heymann <span dir="ltr"><<a href="mailto:immudzen@gmail.com" target="_blank">immudzen@gmail.com</a>></span>:<br><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div dir="ltr">I am using scipy.optimize.root with method = 'lm' and jac=True and the descent algorithm looks like it is taking steps that are far too large.<div><br></div><div>I have 10 variables and my goal function returns a vector of 4374 outputs and 4374x10 for the jacobian. The initial jacobian matches the same one I generated when I use lsqnonlin in matlab and that works just fine. Instead with scipy I am getting no changes at all for the first two iterations and then suddenly a huge jump to basically the upper end of the double range which seems pretty extreme.</div><div><br></div><div>I would really like to make this work with scipy and I have my function along with the exact derivatives for the jacobian computed with AD. I have also looked at the singular values of the jacobian and they are all positive and non-zero so the system should be locally convex at least.</div><div><br></div><div>This is the call I make to scipy and it seems reasonable </div><div><br></div><div>sol = scipy.optimize.root(residual, start, args=(large, small, weight, data), method='lm', jac=True, options={'ftol':1e-6, 'xtol':1e-6})<br></div><div><br></div><div>Thank you</div></div>
<br>______________________________<wbr>_________________<br>
SciPy-User mailing list<br>
<a href="mailto:SciPy-User@python.org">SciPy-User@python.org</a><br>
<a href="https://mail.python.org/mailman/listinfo/scipy-user" rel="noreferrer" target="_blank">https://mail.python.org/<wbr>mailman/listinfo/scipy-user</a><br>
<br></blockquote></div><br><br clear="all"><div><br></div>-- <br><div class="gmail_signature" data-smartmail="gmail_signature"><div dir="ltr"><div>Information System Engineer, Ph.D.<br>Blog: <a href="http://blog.audio-tk.com/" target="_blank">http://blog.audio-tk.com/</a><br>LinkedIn: <a href="http://www.linkedin.com/in/matthieubrucher" target="_blank">http://www.linkedin.com/in/matthieubrucher</a></div></div></div>
</div>