技術與倫理的博弈，醫療AI的B面隱憂如何解？
在希波克拉底誓言奠定醫學倫理基礎的2400年后，人工智能的出現可能給醫學倫理帶來史上最大的挑戰。
專家預測，到2024年，AI醫療將是一個近200億美元的市場。人工智能有望成為醫療實踐的福音，能夠改善診斷效果、提供個性化治療，并及時發現未來的公共醫療風險。
即便如此，該技術仍然引發了一系列棘手的道德難題。當AI系統決策失誤時會出現哪些問題？如果有問題的話，該誰負責？臨床醫生如何驗證甚至了解AI“黑匣子”的內容？他們又該如何避免AI系統的偏見并保護患者隱私？
2018年6月，美國醫學會（AMA）發布了首個關于如何開發、使用和調節人工智能的指南。值得注意的是，該協會將人工智能稱為“augmented intelligence”（智能增強），而非我們廣泛認為的“artificial intelligence”。這表明，美國醫學會認為人工智能的作用是增強而非取代醫生的工作。
雖然AMA在指南中表示，人工智能應該設計用于識別和解決偏見、保障弱勢群體需求、實現過程透明性并保護患者隱私，但在具體實施中，這些要求很難得到滿足。以下是醫學從業者、研究人員和醫學倫理學家需要面對且最為緊迫的道德挑戰。
背后的偏見，怎么克服？
2017年，芝加哥大學醫學院（UCM）的數據分析團隊使用人工智能來預測患者可能的住院時長。其目標是確定可以提前出院的患者，從而釋放醫院資源并為新的患者提供救治。然后，醫院還會指派一名案例管理人員來幫助患者處理保險事宜，確�；颊呒皶r回家，并為其早日出院鋪平道路。
在測試系統時，研究小組發現，預測患者住院時間最準確的因素是他們的郵政編碼，這立刻給研究團隊敲響了警鐘。他們知道，郵編與患者的種族和社會經濟地位密切相關。依靠郵政編碼做預測，會對芝加哥最貧困社區的非裔美國人造成不良影響，這些人往往住院時間更長。因此該團隊認為使用該算法分配案例管理員將是有偏見和不道德的。
“如果你要在實踐中實施這個算法，你會得到一個矛盾的結果，那就是把更多（病例管理）資源分配給更富裕的白人患者，”UCM內科醫生、醫療倫理學教授Marshall Chin說道。
最終數據分析團隊刪除了郵政編碼這個預測因素。該算法仍在開發中，尚未測試出新模型。
這個案例指出了基于人工智能的醫療保健工具的弱點：算法通常可以反映現有的種族或性別健康差異。這個問題如果沒有得到解決，就可能會導致長期性偏見并固化醫療保健領域現有的不平等現象。
偏見還會影響罕見病或新疾病的治療，這些疾病的治療數據有限。人工智能系統可能會直接給出一般治療方案，而不考慮患者的個人情況。這時，人工智能擬議的治療方案是無效的。
最近，斯坦福大學麻醉學助理教授Danton Char 在一篇關于機器學習的論文中指出，因為嚴重腦損傷患者或極早產兒的存活幾率很低，因此醫生常常停止對他們的護理。而即使某些患者個體預后良好，機器學習算法仍然可能會直接得出結論：所有類似病例都是致命的，并建議撤回治療。
“黑匣子”問題，路在何方？
第二個道德挑戰是，通常情況下，研究人員并不了解AI系統是如何計算出結果的，即所謂的黑匣子問題。先進的機器學習技術可以在沒有明確指示的情況下吸收大量數據并識別統計模式，整個過程人類尤其難以驗證。盲目遵循這種系統的醫生可能會在無意中傷害患者。
“我們通常很難理解算法的＇思想＇過程是什么�！甭摵蠂髮W政策研究中心新興網絡技術研究員Eleonore Pauwels表示。
2015年的一項研究強調了該問題。在這項研究中，研究人員比較了不同AI模型預測肺炎患者死亡風險的程度。預測之后，那些風險較高的人將被送往醫院，而低風險的病人可以轉入門診治療。
其中一個模型是“基于規則”的系統，其決策過程對研究人員來說是透明的，卻預測出違反直覺的結果：患有肺炎和哮喘的患者比僅患有肺炎的患者存活機會更大，因此患有兩種疾病的患者可以推遲治療。顯而易見，醫護人員能夠清楚的判斷患有兩種疾病的患者具有更高的死亡風險，但算法不能。所以僅僅依靠這種算法，意味著最危急的病人將不能及時得到他們所需要的治療。
另一種使用神經網絡和機器學習算法的模型產生了更準確的結果，但其推理過程是不透明的，因此研究人員無法及時發現其中的問題。該研究的負責人、微軟公司研究員理查德卡魯阿納得出結論：神經網絡模型風險太大，無法進入臨床試驗，因為沒有辦法判斷它是否犯了類似的錯誤。
決策失誤誰來買單？
根據AMA的醫學倫理基本原則，醫生必須完全對患者負責。但是，當人工智能進入等式時，責任又該如何劃分？這個問題的答案仍在由倫理學家、研究人員和監管機構制定。
人工智能打破了提供醫療服務的群體限制，一些傳統上不受醫學倫理約束的人，比如數據科學家，也可以為患者提供醫療服務。此外，正如黑匣子問題所示，人們并不總是能夠確切地知道人工智能系統是如何做出診斷或開出治療處方的。有缺陷的算法可能對患者造成重大傷害，從而導致醫療事故。
斯坦福大學麻醉學家Char將人工智能比作處方藥。查爾表示，雖然不能指望臨床醫生了解他們開出的藥物的每一個生化細節，但基于他們的臨床經驗和醫學文獻知識，他們至少需要知道這些藥物是安全有效的。至于人工智能系統，除非經過仔細研究，他確信這是最佳選擇，否則他不會使用。Char說道：“當你對工具的了解并不充分時，你不愿讓任何患者的生命處于危險之中。”
患者隱私何去何從？
美國醫學協會曾發出警告：人工智能必須保護患者信息的隱私和安全。對醫患保密的承諾，是自希波克拉底立誓以來醫學倫理存在的基石。
但為了做出準確的預測，機器學習系統必須要訪問大量的患者數據。如果沒有個人的醫療記錄，人工智能將無法提供準確的診斷或有用的治療方法，更無法實現更加個性化的治療。更重要的是，如果數以百萬計的病人隱瞞他們的醫療數據，關鍵的公共衛生趨勢可能會被忽視，這將是每個人的損失。
一個潛在的解決方案是從用醫療記錄中單獨刪除個人識別信息來保護患者隱私。然而，最近由加利福尼亞大學牽頭的一項研究表示，目前的匿名化技術還不夠成熟，并不能保證數據的有效清除。不過，未來可以開發更復雜的數據收集方法，以更好地保護隱私。
不管技術能力如何，醫學專家建議醫學界重新考慮患者隱私的整個概念。隨著醫療系統變得更加復雜，將有更多的機構有合法合理的需求去訪問敏感的患者信息。Char在論文中寫道：“機器學習系統的實現，意味著我們需要重新認識醫療數據隱私和其他職業道德核心原則�！�
在實踐中，醫院和機構需要贏得患者的信任。患者有權利了解他們的醫療隱私數據是如何被使用的，以及數據是會使他們自身受益或只能讓未來的患者受益。
倫敦大學學院健康信息學研究所的高級研究員Nathan Lea表示：“如果患者更好地了解人工智能是如何改善個人和公共健康的，他們可能愿意放棄傳統的隱私觀念。隱私本身并不是絕對的，我們不能以保護患者隱私為借口而拒絕數據背后的龐大價值�！�
動脈網有話說
醫學科技與道德倫理的沖突一直存在，從人體解剖的人權問題，到克隆技術的身份爭議；從人工流產的人道質疑，到如今人工智能的人倫思辨，圍繞醫學技術創新與社會道德倫理的爭論從未停息。正是這些對人性、人道、人類尊嚴、人的價值的關注，才使醫學體現了人文的關懷，保持了人性的張力。
AI醫療技術的應用和普世的倫理道德觀念本不矛盾，關鍵在于在權衡取舍中找到更合理的打開方式。我們期待人工智能在倫理思考的鞭策下迭代轉型，最終能夠以自己的方式協同解決人類社會的復雜問題。
分享
請輸入評論內容...
請輸入評論/評論長度6~500個字
