可解釋的人工智能：4個關鍵行業
2．制造行業
在診斷和修復設備故障時，現場技術人員通常依賴“部落知識”。
IBM Watson物聯網高級產品經理Heena Purohit指出，在制造行業中，現場技術人員在診斷和修復設備故障時往往依賴“部落知識”，也有一些行業也是如此。部落知識的問題在于團隊成員變動頻繁，有時甚至是顯著的：人員流動頻繁，他們的專業知識也會改變，而這些知識并不總是被記錄或轉移。
Purohit說，“人工智能驅動的自然語言處理可以幫助分析非結構化數據，如設備手冊、維護標準，以及例如歷史工作訂單、物聯網傳感器讀數和業務流程數據等結構化數據，以提出技術人員應遵循的規定性指導的最佳建議。”
這并不能消除部落知識的價值，也沒有削弱人類的決策制定。相反，它是一個迭代和交互的過程，有助于確保以可操作的方式存儲和共享知識。
Purohit解釋道，“在這種情況下，我們向用戶展示了由人工智能驅動的多種可能的維修指導建議選項，并且每個響應的置信區間都是可能的答案。用戶可獲得每個選項，這有助于持續學習過程，并改進未來的建議。這樣，我們不會只給用戶單一的選擇，我們允許用戶在各個選項之間作出明智的決定。對于每個建議，我們還向用戶顯示了知識圖輸出這個高級功能，以及在人工智能培訓階段使用的輸入，以幫助用戶了解有關為什么結果被優先排序和相應評分的參數。”
3．保險行業
就像醫療保健行業一樣，人工智能對于保險行業可能會產生深遠的影響，但信任、透明度、可審計性是絕對必要的。
Cognitivescale公司創始人兼首席技術官Matt Sanchez說：“人工智能在保險領域有著許多潛在的使用案例，例如客戶獲取、代理生產率、索賠預防、承保、客戶服務、交叉銷售、政策調整，以及提高風險和合規性。”他指出，埃森哲公司最近的一項調查發現，大多數保險業高管預計人工智能將在未來三年內徹底改變其行業。
但這絕對是一個有相當大影響的領域。只需考慮關鍵的保險類別就可以感受到這些影響，例如生活、業主、健康、員工補償等等。Sanchez表示，可解釋的人工智能將非常重要；建議人們思考這些問題，而每個問題也適用于其他領域：
人工智能能否解釋它是如何獲得這種洞察力或結果的？
應用了哪些數據、模型和處理來獲得其結果？
監管機構可以訪問并了解此人工智能的工作原理嗎？
誰在訪問什么以及何時訪問？
4．自動駕駛汽車
可解釋的人工智能最終應該是使人工智能提供最大的價值。
PubNub公司首席技術官兼聯合創始人Stephen Blum表示，“了解人工智能服務為什么做出某種決定，或者了解是如何獲得某種洞察力，這對于人工智能從業者更好地整合人工智能服務至關重要。例如自動駕駛汽車的人工智能系統將如何構建與車輛交互的方式，這對乘坐人員來說將面臨很大的風險，因為這意味著其決定生死攸關。”
事實上，自動駕駛汽車無疑是人工智能發揮重要作用的新興領域，可解釋的人工智能將是成為其最重要的領域。
Kinetica公司首席執行官Appleby解釋了這種情況的重要性。他說，“如果一輛自動駕駛汽車發現自己處于不可避免的危險境地時，應該采取什么措施？優先保護乘客卻將行人置于危險之中？還是為了避免撞到行人而危及乘客安全？”
因此，獲得這些問題的答案并不簡單。但這將給出一個非常直接的結論：人工智能的黑盒模型在這種情況下不起作用。無論對于乘客還是行人，都必須解釋清楚，更不用說汽車制造商、公共安全官員等相關人員。
Appleby說，“我們可能對自動駕駛汽車的響應并不認同，但我們應該提前了解它所遵循的道德優先事項。通過企業內部建立的數據治理，汽車制造商可以通過跟蹤和解釋模型從決策點A到Z點的方式來跟蹤數據集，從而使他們更容易評估這些結果是否符合他們采取的道德立場。同樣，乘客也可以決定他們是否愿意乘坐做出某些決定而設計的車輛。”
這可能是一個嚴峻的現實，但同樣有一個基本原則，這包括那些不是生死攸關的場景。可解釋的人工智能是改進和優化的人工智能技術，這是IT領導者思考人工智能的另一種方式。
Blum說，“如果人工智能系統出錯，其構建者需要理解為什么會這樣做，這樣才能改進和修復。如果他們的人工智能服務在黑盒中存在并運行，他們就無法了解如何調試和改進它。”
分享
請輸入評論內容...
請輸入評論/評論長度6~500個字
