这是一个直线方程，h(θ)是我们的预测函数，x是输入特征。这里只有一个特征值；θ0和θ1是模型参数。预测过程就是利用现有的样本参数X和h(θ)数集，计算出θ0和θ1的最合适值。

如何精确测量模型对训练样本拟合的好坏程序呢？我们用到一个叫成本函数也叫损失函数的公式来计算。

预测值和实际值的差的平方的平均值的一半就是线性回归算法的成本函数。之所以取一半是为了计算方便。

有了预测函数，也有了可以测量拟合情况的成本函数。我们要如何求解θ0和θ1的值呢？这时就用上梯度下降算法了。

梯度下降算法的原理是：先随机选择一组θ0和θ1，同时选择一个参数a作为移动的步幅 。然后让θ0和θ1向特定方向移动这个步幅距离。经过多次迭代，让计算值趋向局部最小值。这时θ0和θ1就是最佳答案。

在[-2π,2π]区间内生成200个随机点，并添加了随机噪声。然后分别用2阶、4阶、6阶和8阶函数去拟合这个图型。

算出不同阶数函数的拟合评分和均方根误差

			from sklearn.linear_model import LinearRegression
			from sklearn.preprocessing import PolynomialFeatures
			from sklearn.pipeline import Pipeline
			from sklearn.metrics import mean_squared_error
			from matplotlib.figure import SubplotParams
			import numpy as np
			import matplotlib.pyplot as plt
			 
			def polynomial_model(degree=1):
				polynomial_features = PolynomialFeatures(degree=degree,include_bias=False)
				linear_regression = LinearRegression(normalize=True)
				pipeline = Pipeline([("polynomial_fetures",polynomial_features),("linear_regression",linear_regression)])
				return pipeline
			 
			if __name__ == '__main__':
			 
				n_dots = 200
			 
				X = np.linspace(-2*np.pi,2*np.pi,n_dots)
				Y = np.sin(X) + 0.2* np.random.rand(n_dots)-0.1
				X = X.reshape(-1,1)
				Y = Y.reshape(-1,1)
			 
				degrees = [2,4,6,8]
				results = []
			 
				for d in degrees:
					model = polynomial_model(degree=d)
					model.fit(X,Y)
			 
					train_score = model.score(X,Y)
					mse = mean_squared_error(Y,model.predict(X))
					results.append({"model":model,"degree":d,"score":train_score,"mse":mse})
			 
				for r in results:
					print("degree:{};train score:{};mean squared error:{}".format(r["degree"],r["score"],r["mse"]))
			 
				plt.figure(figsize=(12,6),dpi=200,subplotpars=SubplotParams(hspace=0.5))
			 
				for i,r,in enumerate(results):
					fig = plt.subplot(2,2,i+1)
					plt.xlim(-8,8)
					plt.title("LinearRegression degree={}".format(r["degree"]))
					plt.scatter(X,Y,s=5,c='b',alpha=0.5)
					plt.plot(X,r["model"].predict(X),"r-")
			 
				plt.show()