人工智慧提升醫學影像診斷透明度，推動可信賴AI技術發展
人工智慧（AI）已能夠掃描胸部X射線，檢測肺部積液、心臟異常或癌症擴散等問題。然而，準確性並不是唯一的挑戰，更關鍵的是如何讓AI的診斷過程變得透明可解釋。阿肯色大學計算機科學與計算機工程助理教授 Ngan Le 指出，當前大多數AI系統都是「黑箱」，即連開發者也無法完全解釋其決策邏輯，這在醫學領域可能降低專業人士對AI診斷結果的信任度。
「當人們能夠理解AI決策背後的推理邏輯及其局限性時，他們才更有可能信任和接受這項技術。」Le 說道。
Le與她的研究團隊開發了一個具備高度透明性與可控性的AI框架，稱為 ITPCTRL-AI（Interpretable and Controllable AI），專門用於分析胸部X射線，並提供可追溯的診斷依據。該研究發表於《醫學人工智慧》期刊，標題為《ITPCTRL-AI：端到端的可解釋和可控制的人工智慧》。
這項技術的突破點在於 模擬放射科醫生的視覺模式。研究團隊記錄了放射科醫生審查X射線時的眼動軌跡，包括他們關注的區域與停留時間，並據此生成「熱圖」。這些熱圖可視化AI如何分析影像，使醫生能夠直接了解AI的判斷依據。
「如果我們能讓AI的推理過程變得清晰透明，醫生就能夠根據這些結果做出更準確的臨床決策，並在必要時進行調整。」Le表示。
-
ITPCTRL-AI 不僅提升診斷準確性，還能解決醫療AI技術的核心挑戰——可信度與問責制。
📌 提高醫療決策信心：醫生可以追蹤AI的決策路徑，確保結果與醫學標準一致。
📌 提升醫病關係：患者與醫生能夠理解AI的診斷邏輯，減少對技術的不信任感。
📌 負責的AI技術：在醫療、自動駕駛、金融等高風險應用領域，透明的AI決策能提升公平性與法規合規性。
「如果我們無法理解AI是如何做出決策的，那麼確保公平性、正確性，甚至與社會價值觀保持一致，將會是一項巨大的挑戰。」Le 強調。
-
該團隊目前正與 MD Anderson癌症中心（美國休斯頓） 合作，將 ITPCTRL-AI 擴展至更複雜的三維CT掃描分析。隨著技術的進步，未來該系統將有望成為醫療AI應用中的標準工具，協助醫生做出更準確的診斷。
這項研究的第一作者為博士生 Trong-Thang Pham，其他貢獻者包括本科生 Jacob Brecheisen 以及阿肯色大學醫學科學部的放射科專家 Arabinda Choudhardy。
AI 在醫療影像領域的發展，正在從「準確診斷」轉向「可解釋性與可信度」。ITPCTRL-AI 透過模擬醫生的診斷模式，讓AI不再是黑箱，而是具備透明性與可控性的輔助決策工具。這不僅能提升醫療AI的應用價值，也有助於推動更負責任的人工智慧發展。
💡 未來，透明AI技術將成為醫療、金融、交通等關鍵領域的主流標準。