深度解讀《人工智能的可解釋性》

2020-07-28 09:21

可解釋性人工智能的應(yīng)用場景

人工智能的可解釋性為使用它的人，使用它的產(chǎn)業(yè)，提供了一種信任的基礎(chǔ)。有了這樣的基礎(chǔ)，AI才可以在更廣的范圍內(nèi)發(fā)揮它更大的作用。那當(dāng)不同的人工智能模型組成一個(gè)復(fù)雜的系統(tǒng)時(shí)，我們該如何體現(xiàn)整個(gè)系統(tǒng)的可解釋性？

主講嘉賓：Element AI 聯(lián)合創(chuàng)始人、首席科學(xué)官 Nicolas Chapados博士

舉個(gè)例子：

我們使用計(jì)算機(jī)視覺對圖像進(jìn)行學(xué)習(xí)和分析，來判斷圖像當(dāng)中哪些是狼，哪些是哈士奇。在左下角的這幅圖里，這個(gè)算法錯(cuò)誤的把一只哈士奇當(dāng)作了狼。這是因?yàn)槲覀冊谶x擇培訓(xùn)數(shù)據(jù)，也就是這些圖片的時(shí)候，大部份狼的圖片背景中是雪地。于是這個(gè)計(jì)算機(jī)視覺的人工智能算法一下就偵測到了這個(gè)非常明顯的區(qū)別，將這個(gè)區(qū)別作為他判斷是狼還是哈士奇的一個(gè)標(biāo)準(zhǔn)，而不是專注于狼和哈士奇面部的一些細(xì)微的區(qū)別。如果我們事前不知道培訓(xùn)數(shù)據(jù)里的這樣的區(qū)別，僅僅基于這個(gè)計(jì)算機(jī)視覺所給我們的結(jié)果，我們非常難發(fā)現(xiàn)機(jī)器視覺是如何犯下這樣的錯(cuò)誤的。