分类：最速下降法

2020
09-25

基于Python共轭梯度法与最速下降法之间的对比

在一般问题的优化中，最速下降法和共轭梯度法都是非常有用的经典方法，但最速下降法往往以”之”字形下降，速度较慢，不能很快的达到最优值，共轭梯度法则优于最速下降法，在前面的某个文章中，我们给出了牛顿法和最速下降法的比较，牛顿法需要初值点在最优点附近，条件较为苛刻。算法来源：《数值最优化方法》高立，P111我们选用了64维的二次函数来作为验证函数，具体参见上书111页。采用的三种方法为：共轭梯度方法（FR格式）、... 继续阅读 >

2020
09-24

python实现最速下降法

本文实例为大家分享了python实现最速下降法的具体代码，供大家参考，具体内容如下代码：fromsympyimport*importnumpyasnpdefbacktracking_line_search(f,df,x,x_k,p_k,alpha0):rho=0.5c=10**-4alpha=alpha0replacements1=zip(x,x_k)replacements2=zip(x,x_k+alpha*p_k)f_k=f.subs(replacements1)df_p=np.dot([df_.subs(replacements1)fordf_indf],p_k)whilef.subs(replacements2)>f_k+c*alpha*df_p:... 继续阅读 >

2020
09-24

python实现梯度法 python最速下降法

假设我们已经知道梯度法——最速下降法的原理。现给出一个算例：如果人工直接求解：现给出Python求解过程：importnumpyasnpfromsympyimport*importmathimportmatplotlib.pyplotaspltimportmpl_toolkits.axisartistasaxisartist#定义符号x1,x2,t=symbols('x1,x2,t')deffunc():#自定义一个函数returnpow(x1,2)+2*pow(x2,2)-2*x1*x2-2*x2defgrad(data):#求梯度向量,data=[data1,data2]... 继续阅读 >