單詞嵌入模型

習題預習

1. 什麼是Word Embedding Model？
2. Word Embedding Model的原理是什麼？
3. Word Embedding Model用於什麼樣的自然語言處理任務？
4. 曼哈頓距離和歐幾里得距離有什麼區別，它們在Word Embedding Model中的應用是什麼？
5. Word Embedding Model的缺點是什麼，有哪些改進措施？

說明知識

Word Embedding Model 是一種自然語言處理技術，將詞語映射到向量空間中，訓練一個可以捕捉詞語之間相似度的模型。

舉例來說，假設有一個句子「我喜歡吃薯條」，首先會將句子中的詞語「我」、「喜歡」、「吃」、「薯條」轉換成對應的向量，這些向量會透過訓練，讓語意相近的詞語在向量空間中距離也較近，例如「薯條」和「薯片」的意思相近，因此在向量空間中也會比較接近。

Word Embedding Model 可以被應用在多種自然語言處理任務，例如文字分類、語言翻譯、問答系統等。它可以幫助模型理解自然語言的語意，更好地處理文本數據。

條列重點

1. Word Embedding Model是一種自然語言處理的技術，用來將文字轉換為向量形式，以便進行機器學習和人工智慧等任務。

2. 常見的Word Embedding Model包括：CBOW、Skip-gram、GloVe等。

3. CBOW模型又稱為Continuous Bag-of-Words模型，是基於單詞上下文預測中心詞的模型。

4. Skip-gram模型則是基於中心詞預測上下文詞的模型。

5. GloVe是基於全局詞頻統計的方法，用來獲得單詞之間的相對關係。

6. Word Embedding Model的訓練需要大量的語料庫數據，並且需要適當的調整參數才能獲得較好的結果。

7. Word Embedding Model能夠提高自然語言處理的效率和準確性，廣泛應用於文本分類、情感分析、機器翻譯等領域。

知識測驗

1. 什麼是Word Embedding Model？
   答案：Word Embedding Model是一種自然語言處理技術，將單詞轉換為低維向量表示形式，以利於模型更好地理解自然語言。

2. Word2Vec模型是如何訓練的？
   答案：Word2Vec模型通常使用神經網絡訓練，其中一種訓練方法是「連續詞袋」方法，該方法通過預測一個單詞的上下文來訓練模型。

3. GloVe模型中的「共現矩陣」指的是什麼？
   答案：GloVe模型中，「共現矩陣」是一個矩陣，用於記錄每個單詞出現在另一個單詞的上下文中的頻率。

4. 在FastText模型中，為什麼使用n-gram？
   答案： FastText模型使用n-gram，可以有效處理未知單詞和常見的拼寫錯誤，同時提高詞向量的魯棒性。

5. Word Embedding Model中的「one-hot encoding」用於什麼？
   答案： Word Embedding Model中，「one-hot encoding」是一種將單詞轉換為向量表示的方法，其中每個單詞都表示為一個唯一的向量，該向量在一個維度上為1，其他維度上為0。