深度解讀《人工智能的可解釋性》

2020-07-28 09:21

在Element AI 一項針對大型的零售商或者產品方使用的人工智能系統中，能夠非常有效的找出市面上已經存在的山寨產品，但是這個系統的工作原理卻是在一個黑匣子里面，它所做出的判斷非常難建立法理上的依據，這讓我們的使用方很難基于這套系統的結果對侵權的個人或企業采取法律行為。所以我們做的是，在這個人工智能系統的開發中，我們加入了一個熱能成像的視圖，去解釋山寨產品是如何在使用的過程當中侵犯到正規品牌的。而這一個可解釋性的設計，為我們的客戶提供了一個可以對侵權個人或企業采取法律行動的依據。我們之所以可以在我們的系統中設計出這樣的一個可解釋性，是因為我們對系統、對用戶、對使用場景，以及對監管部門的需求的深刻了解。

人工智能的系統中，它所有的參數和設置都是動態的，都是根據各種各樣的反饋系統自我調試和演化的。而且在這個過程中，人工智能系統的使用者也在與人工智能系統產生著互動和影響，我們不僅僅需要能夠解釋基本人工智能模型的能力，我們而且需要能夠解釋復雜人工智能模型的能力。

總結：可解釋性人工智能的挑戰和未來

人工智能的可解釋性依然面臨巨大的挑戰

1、人工智能的模型通常非常的復雜，非常的龐大；

2、人工智能的可解釋性還是一個相當早期的領域，我們并沒有非常成熟的，或是廣為接受的標準去判斷可解釋性的好壞。這就造成我們無法判斷我們是否在提高可解釋性，我們也無法非常準確的判斷解釋方法方式的優劣；3、目前我們所開發的可解釋性，對于大多數的使用者來說并不能用于指導他們的行為或者決策。

未來的可知解釋性必然是完整的

1、我們可以把系統各個組成部分中的，可解釋性集中在一起分析整理，從而得出通過一個培訓過的機器識別模型，把微觀層面上的可解釋性，轉化成為宏觀層面上的可解釋性，是我們覺得一個增加整體系統可解釋性的有效方法；

2、在人工智能系統開發的早期，就邀請政策法規的制定機構或相關人員參與。這樣我們在系統中可以更方便的加入可解釋性，這個不但對之后的業務會有很大的幫助，也是一個非常有效的方式降低相關的風險；

3、通過為已經有的人工智能系統，添加一套可解釋性的設計，可以大大提高用戶對系統的理解程度。

有趣的問題探討

在新冠疫情之下，急需在短時間內研發出藥物那人工智能的可解釋性還是必須的嗎？

就拿傳統的藥物開發來說，一個新藥的上市必須經過3個階段的臨床實驗和數據的收集。有了這些數據，一個新藥才能得到監管部門的備案，才能上市。在某種意義上說，這些流程和數據就是新藥開發過程中所必須有的可解釋性。因為我們將會在人身上使用這些新藥，而人體是一個非常非常復雜的系統，我們必須能夠充分地了解在各種情況下人體對新藥的反應。

然而面對新冠疫情，我們急需疫苗和治療方案，作為一個是整體，我們的社會或許可以在這個過程中權衡利弊，在數據尚未完備對情況下，在一定可承受的風險范圍內，加速新藥或者疫苗的上市。在人工智能的領域，可解釋性在某些方面就好像一個風險控制的工具，根據具體的應用場景，有時候我們也需要權衡利弊，有時候承擔多一些風險，能夠更快或者更好的整體回報。

寫在最后：

人工智能的可解釋性，一定是現在也是未來一直熱門探討和研究的課題，我們將共同期待人工智能在整個社會結構和人類倫理中，得以更全面的發展。

如果你也感興趣，歡迎跟我們探討～

<上一頁 1 2 3