1. Basic

Life Long Learning（LLL），期望機器不斷學習新的任務，又稱為 Continual Learning、Never Ending Learning、 Incremental Learning

注意：

在 LLL 中，讓機器不斷學習”不同的任務”，實際上是學習類似的任務但**”不同的 domain”**，只是習慣當成不同的任務

1.1 現實世界的應用

模型上線後蒐集到新的資料，新的資料就可以更新模型的參數

把舊有的資料想成是過去的任務，把新的、來自於使用者 feedback 的資料想成是新的任務

1.2 Catastrophic Forgetting

核心概念機器是學了新的任務（資料）就忘了舊的任務（資料）

1.2.1 Example 1：數字辨識

針對兩個 task，訓練一個模型對不同的數字進行識別

• 先後利用兩個任務的資料進行訓練，以 task 2 的資料訓練模型後，機器在 task 1 的表現下降許多

  

• 同時利用兩個任務的資料進行訓練，機器在兩個 task 上都表現不錯

  

1.2.2 Example 2：QA 任務

• 依序學 20 個任務，學到 task 5 時的準確率提升，但自 task 6 後準確率暴跌

  

• 同時學 20 個任務

1.3 Multi-Task Training

讓機器同時利用多個任務的資料進行學習的訓練方法稱為 multi-task training