<div dir="ltr"><div dir="ltr">Hello,<div><br></div><div>I have changed the normalizer to be a user specified argument, also I have changed the initializer so the user can enter multiple data points, and the initializer will take the best initial point (that minimize the unconstrained problem), or the user can let the initializer guess the initial point by using random search, grid search or global optimizer.</div><div><br></div><div>Any modification before submission?</div><div><br></div><div>Thanks</div><div><br></div><div><a href="https://drive.google.com/file/d/1c9JOJgcq_Ss761rt9SOxnmEtuczuLzAb/view?usp=sharing">https://drive.google.com/file/d/1c9JOJgcq_Ss761rt9SOxnmEtuczuLzAb/view?usp=sharing</a>  <br><br></div></div><br><img width="0" height="0" class="mailtrack-img" alt="" style="display:flex" src="https://mailtrack.io/trace/mail/034ce5989f902345ca340fd7a18aaef540473ae7.png?u=6962871"><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Sun, Apr 11, 2021 at 7:26 PM Mazen Sayed <<a href="mailto:sayedmazen70@gmail.com">sayedmazen70@gmail.com</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div dir="ltr"><br>This sounds really good and more reasonable.<div><br></div><div>Thanks for your help.<br><br><br></div></div><br><img width="0" height="0" alt="" style="display: flex;" src="data:image/gif;base64,R0lGODlhAQABAIAAAAAAAP///yH5BAEAAAAALAAAAAABAAEAAAIBRAA7"><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Sun, Apr 11, 2021 at 7:08 PM Pamphile Roy <<a href="mailto:roy.pamphile@gmail.com" target="_blank">roy.pamphile@gmail.com</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div><div><blockquote type="cite"><div style="font-family:Helvetica;font-size:12px;font-style:normal;font-variant-caps:normal;font-weight:normal;letter-spacing:normal;text-align:start;text-indent:0px;text-transform:none;white-space:normal;word-spacing:0px;text-decoration:none"><div dir="auto">I tend to agree with Daniel here, randomly choosing 50 points in a high-dimensional optimization space is not going to give any advantage. And why 50? </div></div><div style="font-family:Helvetica;font-size:12px;font-style:normal;font-variant-caps:normal;font-weight:normal;letter-spacing:normal;text-align:start;text-indent:0px;text-transform:none;white-space:normal;word-spacing:0px;text-decoration:none"><div dir="auto"><br></div><div dir="auto">The initialization part is one of the most important (and difficult to get right) part of any optimization algorithm, but this is mostly true for global ones: differential evolution, SHGO, Dual Annealing they’re all have their own way. Some of these and many others (especially local algorithms) rely on the user to explicitly pass an initial guess and take it from there.</div></div></blockquote><br></div><div>Agreed here, the random sampling must not be totally random in order to cover the parameter space in the most efficient way.</div><div>The global optimizers all use QMC methods (scipy.stats.qmc) so here you can just rely on these too.</div><div><br></div><div>Cheers,</div><div>Pamphile</div><br></div>_______________________________________________<br>
SciPy-Dev mailing list<br>
<a href="mailto:SciPy-Dev@python.org" target="_blank">SciPy-Dev@python.org</a><br>
<a href="https://mail.python.org/mailman/listinfo/scipy-dev" rel="noreferrer" target="_blank">https://mail.python.org/mailman/listinfo/scipy-dev</a><br>
</blockquote></div></div>
</blockquote></div></div>