多項式回歸

習題預習

1. 什麼是多項式迴歸？它如何與線性回歸不同？
2. 多項式迴歸中，如何選擇最合適的多項式次數？
3. 多項式迴歸中，如何進行模型的評估和驗證？
4. 多項式迴歸的優點和缺點分別是什麼？
5. 如何在Python中實現多項式迴歸？

說明知識

多項式回歸 (Polynomial Regression) 是一個利用多項式進行回歸分析的方法。在進行線性回歸時，常常會遇到一些資料不符合線性關係的情況，這時就可以採用多項式回歸來進行分析。

多項式回歸的基本概念是將自變量 $x$ 進行多次方項的拓展，例如 $x$ 的平方、立方等，然後將這些項作為獨立變量進行回歸分析。通常，多項式回歸所使用的項數可以由資料集的形狀和特徵來決定。

例如，我們有一組數據，其中自變量 $x$ 和應變量 $y$ 的關係不符合線性關係，如下圖所示：

在這種情況下，我們可以使用多項式回歸來建立一個多項式方程，以逼近資料的分佈情況。在本例中，我們選擇二次多項式，使用以下方程來進行回歸分析：

$$
y = \beta_0 + \beta_1 x + \beta_2 x^2
$$

其中 $\beta_0$、$\beta_1$ 和 $\beta_2$ 分別是模型的截距項和斜率項，以及二次項的係數。

透過這個模型，我們可以得到以下拟合圖形：

從圖中可以看出，多項式回歸模型可以很好地拟合數據集，有效地反映出資料的分佈情況。

條列重點

1. 多項式回歸是一種機器學習模型，可用來模擬因變量和自變量之間的非線性關係。

2. 多項式回歸基於多項式函數進行建模，而不是直線或平面等線性函數。

3. 多項式回歸可以用於單變量和多變量情況下的數據建模。

4. 選擇最適擬合的多項式次數是多項式回歸的一個重要問題，這可以通過驗證集和交叉驗證等方法來解決。

5. 多項式回歸還可以進行正則化來避免過擬合，常用的正則化方法有L1正則化（Lasso）和L2正則化（Ridge）。

6. 多項式回歸的主要優點是它提供了更準確和靈活的模型適合性，但它也存在一些缺點，如需更多的計算和數據預處理。

知識測驗

1. 有一個資料集，其中包含十筆資料點，資料點的x值為1, 2, 3, 4, 5, 6, 7, 8, 9, 10，y值為3, 6, 10, 14, 20, 23, 26, 28, 30, 33。請使用二次多項式回歸來預測x為11時的y值。
   答案：37.47

2. 假設有一筆資料集，其中包含20個資料點，資料點的x值為1, 3, 4, 5, 7, 9, 10, 12, 13, 15, 16, 17, 19, 20, 21, 23, 24, 25, 26, 27，y值為3.4, 4.2, 4.9, 5.1, 6.2, 6.5, 7.1, 8.7, 9.2, 9.5, 10.3, 11.2, 12.3, 12.8, 13.1, 14.7, 15.8, 16.5, 17.6, 18.2。請使用三次多項式回歸來預測x為28時的y值。
   答案：19.29

3. 假設有一筆資料集，其中包含15個資料點，資料點的x值為1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11, 12, 13, 14, 15，y值為3, 4, 7, 9, 13, 15, 16, 17, 18, 19, 20, 21, 22, 23, 24。請使用四次多項式回歸來預測x為16時的y值。
   答案：25.97

4. 假設有一筆資料集，其中包含12個資料點，資料點的x值為1, 3, 5, 7, 9, 11, 13, 15, 17, 19, 21, 23，y值為8, 11, 14, 17, 19, 22, 23, 25, 27, 28, 30, 32。請使用五次多項式回歸來預測x為25時的y值。
   答案：33.42

5. 假設有一筆資料集，其中包含10個資料點，資料點的x值為1, 2, 3, 4, 5, 6, 7, 8, 9, 10，y值為2, 4, 7, 9, 11, 13, 15, 17, 19, 21。請使用六次多項式回歸來預測x為11時的y值。
   答案：23.22