維也納—在歐洲呼吸學會 (ERS) 2024 年大會上，專家們討論了人工智慧 (AI) 在醫學領域的益處和風險，並探討了倫理影響和實際挑戰。

自 2020 年以來，已有 600 多種支援人工智慧的醫療設備在美國食品藥物管理局註冊，人工智慧正迅速滲透到醫療保健系統中。但與其他醫療設備一樣，人工智慧工具必須經過徹底評估並遵循嚴格的規定。

丹麥奧胡斯大學哲學與思想史學院博士後 Joshua Hatherley 博士表示，傳統的生物倫理原則——自主、仁慈、非惡意和正義——仍然是評估人工智慧使用倫理的重要框架。不過，他表示，由於人工智慧系統的獨特特徵，新興的「可解釋性」第五原則受到了關注。

法國利摩日大學臨床研究員安娜·卡塔利娜·埃爾南德斯·帕迪拉(Ana Catalina Hernandez Padilla) 表示：「現在每個人都對人工智慧感到興奮，但對於我們可以在多大程度上信任它以及在多大程度上可以使用它，還有很多懸而未決的問題。 Medscape 醫學新聞。

英國伯明翰大學發炎與老化研究所的人工智慧和數位健康臨床研究員Joseph Alderman，MBChB 表示，這無疑是人工智慧和健康領域工作的激動人心的時刻，但他認為臨床醫生應該「成為人工智慧和健康領域的一部分」。故事」並倡導安全、有效和公平的人工智慧。

優點

阿爾德曼表示，人工智慧在改善醫療保健和患者體驗方面具有巨大潛力。

人工智慧應用的一個有趣領域是知情同意過程。對話式人工智慧模型與大型語言模型一樣，可以為患者提供一個不受時間限制的平台來討論風險、效益和建議，從而有可能提高理解和患者參與。哈瑟利解釋說，人工智慧系統還可以透過分析不善於溝通的患者的社交媒體和醫療數據來預測他們的偏好，這可能會改善替代決策並確保治療符合患者的偏好。

另一個顯著的好處是人工智慧能夠透過更好的資源分配來改善患者的治療結果。例如，人工智慧可以幫助優化醫院床位的分配，從而更有效地利用資源並改善患者的健康結果。

人工智慧系統可以透過大規模數據分析減少醫療錯誤並增強診斷或治療計劃，從而實現更快、更準確的決策。它可以處理管理任務，減少臨床醫生的倦怠，並讓醫療保健專業人員更專注於病患照護。

人工智慧也承諾透過改善服務欠缺地區獲得優質護理的機會來促進健康公平。在鄉村醫院或發展中國家，人工智慧可以幫助填補臨床專業知識的空白，從而有可能為醫療保健提供公平的競爭環境。

缺點

儘管人工智慧具有潛力，但它在醫學領域也存在一些風險，需要仔細考慮倫理問題。一個主要的擔憂是人工智慧系統中可能存在嵌入偏見。

例如，來自人工智慧代理的人工智慧驅動的建議可能會根據廣泛的標準而不是獨特的患者價值觀來優先考慮某些結果，例如生存，這可能與重視生活品質而不是長壽的患者的偏好不一致。 「這可能會幹擾患者的自主決定，」哈瑟利說。

人工智慧系統的通用性也有限。由於人口統計或臨床特徵的變化，針對特定患者群體訓練的模型在應用於不同群體時可能表現不佳。這可能會導致現實環境中的推薦不太準確或不合適。阿爾德曼說：“這些技術適用於開發該工具的極少數人群，但不一定適用於現實世界。”

另一個重大風險是演算法偏差，這可能會加劇健康差異。在有偏見的資料集上訓練的人工智慧模型可能會延續或加劇醫療保健服務中現有的不平等，導致邊緣化人群的照護效果不佳。 「我們有證據表明演算法直接歧視具有某些特徵的人，」奧爾德曼說。

人工智慧的黑盒子

人工智慧系統，特別是那些利用深度學習的系統，通常充當“黑盒子”，這意味著它們的內部決策過程是不透明且難以解釋的。哈瑟利表示，這種缺乏透明度引起了人們對臨床決策中信任和問責制的嚴重擔憂。

雖然可解釋的人工智慧方法已經被開發出來，可以深入了解這些系統如何產生建議，但這些解釋常常無法完全捕捉推理過程。哈瑟利解釋說，這類似於在沒有清楚了解其作用機制的情況下使用藥物。

人工智慧決策的這種不透明性可能會導致臨床醫生和患者之間的不信任，從而限制其在醫療保健中的有效使用。 「我們真的不知道如何解釋它提供的信息，」埃爾南德斯說。

她說，雖然年輕的臨床醫生可能更願意用人工智慧工具試水，但年長的醫生仍然更願意相信自己的感覺，同時從整體上看待患者並觀察疾病的演變。 「他們不僅僅是勾選框。他們將所有這些變數一起解釋以做出醫療決定，」她說。

「我對人工智慧的未來非常樂觀，」哈瑟利總結道。 「還有很多挑戰需要克服，但最終，僅僅談論人工智慧應該如何適應人類是不夠的。我們還需要談論人類應該如何適應人工智慧。”

哈瑟利、阿爾德曼和埃爾南德斯報告沒有相關的財務關係。

曼努埃拉·卡拉里 (Manuela Callari) 是一位自由科學記者，專門研究人類和地球健康。她的言論曾發表在《醫學共和國》、《罕見疾病顧問》、《衛報》、《麻省理工科技評論》等雜誌。