1. 什麼是 Explainable ML？

要機器給我們它得到答案的理由

• 銀行判斷要不要貸款給某一個客戶，但是根據法律規定，銀行作用機器學習模型來做自動的判斷，它必須要給出一個理由
• 機器學習未來也會被用在醫療診斷上，醫療診斷人命關天的事情，也必須給出診斷的理由
• 機器學習模型幫助法官判案，幫助法官自動判案一個犯人能不能夠被假釋
• 自駕車突然急剎時，需要了解它急剎的理由

藉著機器解釋的結果，再去修正模型

2. Interpretable vs Powerful

不使用深度學習的模型，改採用其他比較容易解釋的模型，比如採用 linear model，它的解釋的能力是比較強的。根據一個 linear model 中每一個 feature 的 weight，知道 linear model 在做什麽事

缺點：

雖然比較容易解釋，但 linear model 功能不強大，有很多限制

2.1 Interpretable & Explainable

• **Interpretable：指模型不是黑箱，**我們可以容易知道它的內容
• Explainable：指模型是黑箱，所以必須想辦法賦予它解釋的能力

2.2 Decision Tree

decision tree 相較於 linear 的 model，它是更強大的模型，且相較於 deep learning，它非常地 interpretable

問題：

光 decision tree 的模型可能不夠強大，一般都是使用數棵 decision tree，也就是 random forest，如此就難以看出其到底如何作出判斷