邏輯回歸

習題預習

1. 什麼是Logistic Regression，它可以用來做什麼分析？
2. Logistic Regression的模型參數是如何學習的？
3. 如何判斷Logistic Regression模型的性能？有哪些評估指標可以使用？
4. Logistic Regression中的正則化技術有哪些？它們有什麼作用？
5. Logistic Regression可以處理哪些類型的機器學習問題？例如分類問題、回歸問題等。

說明知識

Logistic Regression（邏輯回歸）是一種監督式學習，通常用於分類問題。它通過建立一個機率模型來預測樣本所屬類別的機率。然後使用一個閾值來將預測的機率分類為某一類別。

舉例來說，當我們想要預測某個人是否會購買一件商品時，我們可以利用該人的各種特徵來建立一個邏輯回歸模型。例如，性別、年齡、學歷、收入等等。我們可以基於這些特徵建立一個邏輯回歸模型，該模型可以根據這些特徵，預測一個人是否會購買該商品。

在實際操作中，我們會從一個標記過的數據集中學習模型。這些數據集包含了已知的標籤，也就是每個樣本屬於哪一個類別。我們可以利用這些標記來調整模型，使得模型的預測更加準確。

總之，邏輯回歸是一個用於分類問題的機器學習算法，它通過建立一個機率模型來預測樣本所屬類別的機率。

條列重點

1. Logistic Regression是一種監督學習的分類算法。
2. 用於處理二元分類問題（例如真假、是非、成功失敗等）或多元分類問題（例如鳥類分類、蔬菜分類等）。
3. 通過將線性函數的輸出傳遞到sigmoid函數中，將輸出轉換為0～1之間的概率值。
4. Logistic Regression是最常用的機器學習算法之一，具有易於實現、效果穩定及容易解釋等特點。
5. 優點：適用於大多數二元分類問題，不會受到離群值的影響。
6. 缺點：不適用於非線性問題、不能處理大量數據、需要調整參數。
7. 重要應用：廣泛應用於金融、醫療、網絡安全等領域。

知識測驗

1. 假設你正在研究一個預測模型，並使用Logistic Regression演算法。在將數據輸入模型之前，你需要進行哪些數據處理？

答案：Logistic Regression需要處理缺失值、格式轉換、特徵縮放、特徵選擇等數據處理。

2. 你正在使用Logistic Regression來預測一個二元變數，你需要如何評估模型的效能？

答案：可以使用混淆矩陣(metric confusion matrix)來評估模型的效能，再使用精準度(metric precision)、召回率(metric recall)、F1分數(metric F1 score)等指標進行進一步的評估。

3. 你正在使用Logistic Regression對一個多元分類問題進行建模。你需要如何處理前因變數的類別變數？

答案：可以使用One-hot編碼(dummy variable encoding)將類別轉換為數值，再使用多元Logistic Regression建模。

4. 如果在使用Logistic Regression時，數據不符合為線性邏輯分佈，你需要採取什麼方法來解決這個問題？

答案：可以將變數轉換為符合邏輯分佈的形式，例如對數轉換(log transformation)、次方轉換(power transformation)等。

5. 在使用Logistic Regression建模時，如何解釋模型係數(coefficient)的意義？

答案：通常可以將模型係數解釋為前因變數對應因變數的對數比例(odds ratio)的增量。例如，一個二元變數增加1對應的係數，表示因變數的預測概率增加一個比例。