梯度下降

阅读数: 10000次 2022-01-17

作业

单变量：

$$
对1/2x^2-2x+3进行求解
$$

代码：

#函数：y=(1/2)*x^2-2x+3
#time: 2022/1/16
#Author Gyh
import matplotlib.pyplot as plt
import numpy as np
result=list()
#原函数
def h(x):
    return (1/2)*x*x-2*x+3
#导函数
def Gd(x):
    return x-2
#迭代函数
def Grad(x,alpha,mins,time):
    result.append(x)#将初始x值添加数组中
    next_x = x - alpha * Gd(x)
    next_y=h(next_x)
    cnt=1
    judge=abs(next_x-x)
    x_axis = np.linspace(-10, 10) #设定x轴的坐标系
    fig = plt.figure(1,figsize=(5,5)) #设定画布大小
    ax = fig.add_subplot(1,1,1) #设定画布内只有一个图
    ax.set_xlabel('X', fontsize=14)
    ax.set_ylabel('Y', fontsize=14)
    ax.plot(x_axis,h(x_axis)) #作图
    while judge>mins and cnt<time:
        x=next_x
        y=next_y
        result.append(x)
        next_x = x - alpha * Gd(x)
        next_y=h(next_x)
        judge=abs(next_x-x)
        cnt +=1
        ax.plot([x, next_x], [y, next_y], 'ko', lw=1, ls='-', color='coral')
    plt.show()
    return x
if __name__ == "__main__":
    print("迭代得到的最小值: ",Grad(10,0.1,0.00001,100))
for i in range(len(result)):  #输出每一次的迭代值
    if i==0:
        print("x的初始值为：",result[i])
    else:
        print("第",i,"次迭代: ","x= ",result[i])

部分结果：

迭代得到的最小值:  2.0002361013234453
x的初始值为： 10
第 1 次迭代:  x=  9.2
第 2 次迭代:  x=  8.479999999999999
第 3 次迭代:  x=  7.831999999999999
第 4 次迭代:  x=  7.248799999999999
第 5 次迭代:  x=  6.72392
第 6 次迭代:  x=  6.2515279999999995
第 7 次迭代:  x=  5.826375199999999
第 8 次迭代:  x=  5.443737679999999
第 9 次迭代:  x=  5.099363911999999
第 10 次迭代:  x=  4.7894275207999994
第 11 次迭代:  x=  4.51048476872
第 12 次迭代:  x=  4.259436291848
第 13 次迭代:  x=  4.0334926626632
第 14 次迭代:  x=  3.83014339639688
第 15 次迭代:  x=  3.647129056757192
第 16 次迭代:  x=  3.482416151081473
第 17 次迭代:  x=  3.3341745359733257
第 18 次迭代:  x=  3.200757082375993
第 19 次迭代:  x=  3.080681374138394
第 20 次迭代:  x=  2.9726132367245546
第 21 次迭代:  x=  2.875351913052099
第 22 次迭代:  x=  2.787816721746889
第 23 次迭代:  x=  2.7090350495722
第 24 次迭代:  x=  2.6381315446149802
第 25 次迭代:  x=  2.5743183901534823
第 26 次迭代:  x=  2.516886551138134
第 27 次迭代:  x=  2.465197896024321
第 28 次迭代:  x=  2.418678106421889
第 29 次迭代:  x=  2.3768102957797
第 30 次迭代:  x=  2.3391292662017302

多变量：

$$
对z=(x-10)^2+(y-10)^2进行求解
$$

代码：

#z=(x-10)**2+(y-10)**2
#time:2022/1/17
#Author:gyh
#原函数
def h(x,y):
    return (x-10)**2+(y-10)**2
#对x求导函数
def Gd1(x):
    return 2*(x-10)
def Gd2(y):
    return 2*(y-10)
def Grads():
    x=15#x的默认值
    y=15#y的默认值
    alpha=0.01#步长
    time=1000#跌打次数
    cnt=0
    for i in range(1,time):
        next_x=x
        next_y=y
        z=h(next_x,next_y)
        x=next_x-alpha*Gd1(next_x)
        y=next_y-alpha*Gd2(next_y)
        print("第",i,"次迭代的","x=",next_x,"y=",next_y)
if __name__ == "__main__":
    Grads()

由于结果代码较长在此省略