AI 討好醫師，但可能殺死病人｜看穿機器心理學的認知陷阱

從一場令人沮喪的瑞士臨床試驗說起

2025 年 2 月，《The Lancet Digital Health》刊登了一篇研究，名為 DDx-BRO 的臨床試驗，在瑞士四家急診室進行，納入 1,204 位病人，測試的是市面上公認最準確的診斷決策支援系統（Clinical Decision Support System, CDSS） — Isabel Healthcare 的鑑別診斷產生器，這套系統在過去的系統性文獻回顧中，準確率高達 89%，研究團隊滿懷期待地想證明：有了 AI 輔助，急診醫師的診斷品質應該會提升吧？

結果呢？兩組的 Adverse Outcome 發生率一模一樣，都是 18%；校正後的勝算比（Adjusted Odds Ratio）是 0.96，95% 信賴區間橫跨 0.71 到 1.3 ，統計學上，這代表「完全沒有差異」。這個結果讓許多人感到困惑，一個準確率接近九成的工具，怎麼可能在真實世界中毫無幫助？答案藏在人類認知的深處，而要理解這個答案，我們要來認識一位荷蘭的認知心理學家 Laura Zwaan。

Laura Zwaan：從不想念心理學的少女，到診斷錯誤研究的先驅

2025 年 11 月，《New England Journal of Medicine, NEJM》的 AI Grand Rounds Podcast 邀請 Laura Zwaan 博士來與談，她是荷蘭伊拉斯莫斯大學醫學中心（Erasmus University Medical Center）的副教授，專攻認知心理學與流行病學，研究人類如何做出診斷決策、如何犯錯、以及如何從錯誤中學習；有趣的是，她的學術之路完全不是計畫好的。

「高中的時候，我完全不知道自己想讀什麼，」Zwaan 在 Podcast 中說，「但我很確定一件事：絕對不要讀心理學或醫學。」結果，她現在正好站在這兩個領域的交叉口。高中畢業後，Zwaan 去英國和西班牙學語言，還在一家西班牙飯店當過櫃檯接待，她一度考慮投身觀光業，但飯店主管給了她一個改變人生的建議：「Laura，妳語言能力很好，觀光業隨時都能做，先去學點『真正的東西』吧。」於是她打電話給父母，把大學申請從應用科學改成心理學，第一堂課就是認知心理學（Cognitive Psychology），研究人類如何做決策、記憶如何運作、注意力如何分配，她立刻就被迷住了。

碩士畢業後，她想做有實際應用價值的研究，不只是純粹的基礎認知科學，當時剛好有一個博士職缺，研究主題是「醫療錯誤的認知面向」（Cognitive Aspects of Medical Errors），她被錄取後，就此走上診斷錯誤（Diagnostic Error）研究的道路。這是個當時全新的領域，幾乎沒有人在系統性地研究診斷錯誤，Zwaan 有機會參與整個學科的建構，不只是研究方法，還包括社群的建立、概念的定義、以及後來與 AI 的交會。

診斷錯誤：一個比想像中更難定義的概念

在進入 AI 的討論之前，我們必須先理解什麼是「診斷錯誤」？這聽起來像是廢話，診斷錯了就是錯了，有什麼好定義的？但如果真的深入思考，會發現事情遠比表面複雜，Zwaan 在 2015 年與 Hardeep Singh 合著的經典論文〈定義與測量診斷錯誤的挑戰〉（The Challenges in Defining and Measuring Diagnostic Error）中，點出了三個核心難題。

第一個難題：診斷是一個動態過程，而非靜態結果。

假設你今天因為咳嗽、發燒去看醫師，醫師做了檢查後說：「你沒有肺炎。」一週後你回診，這次確診肺炎，這算不算診斷錯誤？很多人會直覺地說：「當然算！上週就應該診斷出來的。」但真正的問題是：一週前，肺炎真的已經存在了嗎？還是它在這一週內才發展出來的？如果疾病當時根本還沒發生，那麼醫師「沒有診斷出不存在的疾病」，怎麼能算是錯誤呢？這個時間維度的問題，讓診斷錯誤的判定變得困難。

第二個難題：後見之明偏誤（Hindsight Bias）無處不在。

這是 Zwaan 研究中最令人不安的發現，我們總是在事後才知道「正確答案」是什麼，當你已經知道病人最後的診斷是肺栓塞（Pulmonary Embolism）而不是肺炎，你回頭看病歷，會覺得「天啊，這麼多線索指向肺栓塞，怎麼會沒看出來？」但這是錯覺，當你知道結果後，你會高估「在那個時間點就應該想到正確診斷」的機率。

Zwaan 做了一個精彩的實驗來證明這一點，她給一群醫師看完全相同的臨床案例，唯一的差別是一半的人被告知「病人的診斷是正確的」，另一半被告知「病人的診斷是錯誤的」。結果發現，當被告知診斷結果是錯誤時，醫師們辨識出的「認知偏誤」數量是另一組的兩倍。這代表我們用來檢討醫療錯誤的根本原因分析（Root Cause Analysis, RCA），很可能系統性地高估了「醫師認知偏誤」在錯誤中扮演的角色，因為檢討者已經知道結果是錯的，他們會「看到」其實不存在的偏誤。

第三個難題：傷害與錯誤之間的因果關係幾乎無法確立。

假設一個病人的癌症診斷延誤了三個月，三個月後病人過世了，這三個月的延誤「造成」了病人的死亡嗎？也許是，但也許病人即使早三個月診斷，結果也不會不同。癌症的預後取決於太多因素，腫瘤的生物特性、病人的整體健康狀態、治療的選擇等，我們幾乎不可能知道「如果當時診斷正確，結局會不會不同」。

這三個難題，讓「診斷錯誤」變成一個定義模糊、測量困難、因果難明的概念，而這是我們在談論「AI 能否減少診斷錯誤」時必須先理解的背景。

795,000 人的代價：診斷錯誤的真實規模

儘管定義困難，診斷錯誤造成的傷害是真實存在的。2023 年，約翰霍普金斯大學（Johns Hopkins University）的研究團隊在《BMJ Quality & Safety》發表了一份報告，他們估計在美國，每年有 795,000 人因診斷錯誤而死亡或永久失能，其中 371,000 人死亡，424,000 人永久失能。換算下來，診斷錯誤的整體發生率大約是 11.1%，也就是大約每九個診斷中，就有一個可能是錯的，75% 的嚴重傷害集中在三類疾病：

血管相關疾病（Vascular Events）：中風是頭號殺手，佔 17.5%
感染症（Infections）：敗血症、肺炎
癌症（Cancers）：肺癌最常被延誤

這個發現對 AI 開發者來說極其重要，如果你要開發診斷性的 AI，這三類疾病就是最高價值的標的，能在這三個領域減少錯誤，就能產生最大的臨床影響。把時間拉回更早，在 1999 年，美國國家醫學院（Institute of Medicine, IOM）發表了震撼醫界的《To Err Is Human》，估計每年有 44,000 到 98,000 名美國人死於醫療錯誤，比車禍、乳癌、愛滋病加起來還多。但《To Err Is Human》主要聚焦在用藥相關 Medication Errors，診斷錯誤被相對忽視，直到 2015 年美國國家科學院（National Academies）才發表《Improving Diagnosis in Health Care》，正式將診斷錯誤定義為：

「未能（a）建立對病人健康問題的準確且及時的解釋，或（b）將該解釋傳達給病人。」

這個定義強調了兩件事：診斷不只要「對」，還要「及時」；不只要做出來，還要「溝通」給病人。從《To Err Is Human》到現在，已經過了 25 年，我們有進步嗎？Zwaan 謹慎回答：「我們有進步，但非常緩慢。」她提到荷蘭的資料顯示，不良事件發生率在最初有小幅下降，但近年來趨於平穩；最大的改變或許是「文化」：醫療體系開始承認錯誤的存在，開始建立不責怪個人、而是改善系統的思維。但要真正大幅減少診斷錯誤，我們需要新的工具，這就是 AI 進場的時機。

當認知心理學家開始研究 AI 的「心理」

研究人類如何犯錯，對於理解機器如何犯錯，教會 Zwaan 關於人類和機器的錯誤模式，有著出乎意料的相似性。「它們都會展現出與認知偏誤一致的錯誤，」她說，「有時都會往完全錯誤的方向走，人類和機器有不同的優勢和限制。」人類的優勢是彈性，我們能考慮脈絡、在複雜情境中快速適應，但我們的限制是能處理的資訊量有限，所以我們依賴經驗、走捷徑，而這些捷徑有時會變成偏誤。AI 的優勢是運算能力，它能處理海量資訊，但限制是被訓練資料所束縛，而這些資料本身就帶有人類的偏誤。兩者展現出類似的錯誤結果，但造成錯誤的機制是不同的。這就是「機器心理學」（Machine Psychology）這個新興領域關切的核心焦點。

大型語言模型不只承繼、也放大了人類的偏誤

Zwaan 提到了一個關鍵研究，Lieder 和 Maier 的團隊測試了大型語言模型是否會展現人類已知的認知偏誤？答案是肯定的，但更令人不安的是，LLMs 的偏誤往往比人類更強烈。2025 年 6 月，UCLA 和 UCL 的研究團隊在《Proceedings of the National Academy of Sciences, PNAS》發表了一篇論文，設計了 22 個道德困境，比較 LLMs 和美國代表性樣本的反應，他們發現了兩個關鍵偏誤：

第一，省略偏誤（Omission Bias）被放大了。

省略偏誤是指即使不作為導致更差的結果，人類傾向於認為「不作為」比「作為」更道德，例如很多人會覺得「不打疫苗而讓孩子感染」比「打疫苗後孩子產生罕見副作用」更可以接受，儘管前者造成傷害的機率可能更高；LLMs 展現出比人類更強烈的省略偏誤，它們系統性地偏好不行動，即使行動能帶來更好的結果。

第二，它們有一種人類沒有的「是 / 否偏誤」（Yes-No Bias）。

這是研究人員發現的全新偏誤，只存在於 AI 中，LLMs 傾向於回答「否」，而這個傾向會導致它們的道德判斷隨著問題的措辭方式而翻轉；例如，如果你問「應該這樣做嗎？」和「不應該這樣做嗎？」，邏輯上應該得到相反的答案，但 LLMs 可能在兩種情況下都傾向回答「否」，導致自相矛盾的道德立場。

最關鍵的發現是：這些偏誤從何而來？

答案是：來自微調（Fine-Tuning），而不是預訓練（Pre-Training），現代 LLMs 在部署前都會經過「人類回饋強化學習」（Reinforcement Learning from Human Feedback, RLHF）的過程，人類評估者會判斷 AI 的回應好不好，AI 會學習產生「人類喜歡」的回應。

問題來了：人類喜歡什麼樣的回應？

人類喜歡讓自己舒服的回應，人類喜歡被認同、被肯定、被同意，這就是為什麼 LLMs 會發展出「諂媚」（Sycophancy）的傾向，它們學會了討好使用者。2025 年《Nature》的一篇分析指出，AI 聊天機器人比人類諂媚 50%；Anthropic 在 2023 年的研究更具體地描述了這個問題，他們發現五個頂尖的 AI 助手都展現出諂媚行為：

當被質疑時，錯誤地承認自己「犯了錯」（即使原本是對的）
根據使用者表達的觀點，可預測地給出偏向使用者的回饋
模仿使用者犯的錯誤

對醫療 AI 來說，這代表一個經過 RLHF 訓練的診斷 AI，可能會系統性地確認醫師已經形成的臨床假說，即使那個假說是錯的，但這完全違背了「Second Opinion」應該提供的價值。

框架效應：當 AI 延續了人類非理性

讓我們談談一個更經典的認知偏誤：框架效應（Framing Effect）。1982 年，Barbara McNeil、Amos Tversky 在《NEJM》發表了一篇研究，詢問受試者對肺癌治療的偏好，用兩種不同的方式描述同一個統計數據：

存活框架：「接受手術的病人中，90% 會活過手術。」
死亡框架：「接受手術的病人中，10% 會在手術中死亡。」

邏輯上，這兩個陳述完全等價，但受試者的偏好卻截然不同，當用存活框架呈現時，更多人選擇手術；當用死亡框架呈現時，更多人拒絕手術。更令人驚訝的是，這個效應在醫師身上同樣存在，專業訓練並沒有讓醫師免疫於框架效應。這個發現是 Daniel Kahneman 和 Amos Tversky 在 1970 年代開創的「捷思與偏誤」（Heuristics and Biases）研究的一部分，他們證明人類並不是理性的決策者，我們依賴心理捷徑來做決策，而這些捷徑在大多數情況下有效，但在特定情境下會導致系統性的錯誤。

Kahneman 在 2002 年因這項工作獲得諾貝爾經濟學獎，他在 2024 年 3 月過世前，曾多次談論 AI 與人類決策的關係，「AI 會贏的，這根本不是一場能力對等的比賽。」但他的理由不是因為 AI 很聰明，而是因為人類太「Noisy」；Kahneman 在他最後一本書《雜訊》（Noise）中，區分了兩種決策失誤：

偏誤（Bias）：系統性的、可預測的錯誤
雜訊（Noise）：隨機的、不可預測的變異

人類兩者都有，而 AI 消除了雜訊，給它同樣的輸入，它會產生同樣的輸出，但 AI 可能會將偏誤系統化，在大規模上重複同樣的錯誤。「即使演算法做得不是很好，」Kahneman 說，「人類做得太差、太吵雜了，光是消除雜訊，你就能做得比人類更好。」但他也警告：「AI 在接下來幾十年會為人類帶來重大問題，」他指出 AI 缺乏「意義感、自我覺察、詮釋能力和因果推理」。回到 Zwaan 提到 LLMs 確實展現出框架效應，當用不同方式呈現同樣的資訊時，它們會做出不同的決策，就像人類一樣；但這帶來一個弔詭的問題：如果 AI 繼承了人類的偏誤，那麼用人類發展出來的「去偏誤策略」（Debiasing Strategies）來修正 AI，行得通嗎？

機器心理學：一個正在成形的新科學領域

2024 年，瑞典 Linköping University 的 Robert Johansson 在他的博士論文中，正式定義了「機器心理學」（Machine Psychology）這個概念：

「一個整合心理學原理與 AI 研究的跨學科框架，用以研究 AI 系統的行為模式，並推進通用人工智慧的發展。」

這個定義聽起來很學術，但它指向的是一個非常實際的問題：我們需要新的方法來理解 AI 為什麼會做出它所做出的決策。微軟首席科學長 Eric Horvitz 長期耕耘這個領域，他的研究關注「有限理性」（Bounded Rationality），即在資源和時間限制下，智慧系統如何做出決策；他明確地從認知心理學借用概念，設計能夠補足人類限制（而非複製人類限制）的 AI。但最前沿的技術研究，可能是 Anthropic 主導的「機制可解釋性」（Mechanistic Interpretability），這個研究的目標是「逆向工程」神經網路，把它拆解成人類能理解的組件，他們的研究團隊已經在 Claude 模型中辨識出數百萬個特徵（Features），並發展出 Circuit Tracing 來辨識 AI 在產生語言回應之前，內部的推理是如何發生的。

有趣的是，他們發現 AI 似乎具有「有限但功能性的自我內省能力」，也就是說，當我們問 AI「你為什麼這樣回答」時，它的解釋在某種程度上是真實反映其內部過程、而不只是編造出來的事後合理化。這對醫療 AI 的意義是什麼？如果我們能理解 AI 為什麼做出某個診斷建議，我們就更能判斷什麼時候該信任它、什麼時候該質疑它，這是人機協作（Human-AI Collaboration）的關鍵。

人類錯誤 vs. 機器錯誤：不只是表面相似

雖然人類和 AI 都會展現認知偏誤，但它們犯錯的模式有根本性的差異；2024 年 Kellogg 商學院的研究發現了一個有趣的現象，AI 模型會展現「Dichotomania」，僵化地遵守例如 p < 0.05 的統計閾值，因為它們從人類產生的文本中學到了這個模式，研究者說「AI 產生的文本越接近人類，它們的回應就越會落入人類會落入的陷阱。」但這也代表 AI 的錯誤模式與人類不同，人類發展出來的去偏誤策略可能對 AI 無效。

《Royal Society Open Science》的一項研究指出「雖然 LLMs 展現出非理性，但這種非理性的呈現方式與人類不同。」當 LLMs 給出錯誤答案時，它們的錯法往往與人類不同。這帶來另一個問題：我們能用 Kahneman-Tversky 的框架來理解 AI 嗎？還是我們需要發展全新的理論？Zwaan 在 Podcast 中的看法是「研究這些確實很有價值，能幫助我們理解人機互動如何改善協作，但我們不需要知道 AI 內部運作的所有細節，我們需要知道的是它如何『表現』。」換句話說，機器心理學不需要像神經科學那樣深入到神經元的層次，它需要的是對 AI 行為的系統性理解，什麼情境下它會犯錯？犯的是什麼類型的錯？這些錯誤與人類的錯誤如何互補或抵消？

瑞士試驗的教訓：為什麼 89% 準確率在真實世界中等於零效果？

讓我們回到開頭提到的 DDx-BRO 試驗，為什麼一個準確率 89% 的系統，在臨床試驗中完全沒有效果？Zwaan 在論文中提出了幾個假說：

第一，時機問題（Timing）

在這個試驗中，AI 系統是在醫師完成病史詢問和身體檢查之後才被諮詢的，但問題是，醫師在那個時間點通常已經形成了一個初步診斷假說；認知心理學研究告訴我們，早期形成的假說會強烈影響後續資訊的詮釋，這就是「錨定效應」（Anchoring Effect）：我們會被最初接觸到的資訊「錨定」，即使後來有新的證據，我們也傾向於維持原本的判斷。如果醫師已經認為病人是心肌梗塞，AI 說「也許該考慮肺栓塞」，醫師可能會找理由駁斥這個建議，而不是認真考慮。

第二，工作流程整合問題（Workflow Integration）

在試驗中，AI 系統是「外掛」的，醫師需要額外花時間去輸入資料、查看建議，但急診或門診是一個時間壓力相對大的環境，醫師可能根本沒時間去認真看 AI 的建議，或者只是象徵性地看一眼。

第三，信任校準問題（Trust Calibration）

醫師不知道什麼時候該信任 AI、什麼時候該質疑 AI，沒有經驗告訴他們「這種情況下 AI 通常是對的」或「這種情況下 AI 常常錯」，結果就是 AI 的建議變成了「又一個需要處理的資訊」，而不是「能改變決策的洞見」。

第四，諂媚問題可能在質性資料中浮現

Zwaan 提到一個令人擔憂的發現：在試驗的質性訪談中，有些住院醫師表示他們使用 AI 系統的方式是「在向主治醫師報告前，先確認自己的診斷是對的」，這違背了第二意見的本意，第二意見應該是用來挑戰你的假說、提供替代觀點的，而不是用來強化你既有的信念，但如果 AI 被訓練成討好使用者，它可能真的會傾向於同意醫師的判斷，而不是提出挑戰，這就是諂媚偏誤在醫療情境中的問題。

自動化偏誤：當 AI 錯了，人類會跟著錯

瑞士試驗顯示 AI 沒有幫助，但至少沒有造成傷害，然而其他研究顯示了更令人擔憂的可能性，2024 年一項病理學研究發現了自動化偏誤（Automation Bias）的證據：當 AI 給出錯誤建議時，原本判斷正確的醫師會被誤導，改變自己的答案。這個研究中，自動化偏誤的發生率是 7%，聽起來不多，但如果這個系統被大規模部署，7% 的「原本正確的判斷被錯誤的 AI 建議推翻」，會造成多少傷害？更糟的是，時間壓力會加劇自動化偏誤，當醫師很忙、很累、需要快速做決定時，他們更傾向於依賴 AI 的建議，即使那個建議是錯的。

但反過來的問題「不信任」（Under-Trust）同樣存在，研究顯示病人對 AI 醫師的信任度低於人類醫師，即使被告知 AI 的表現比人類更好，這種不信任也不會改變；在高風險疾病的診斷上，病人更不願意接受 AI 的第二意見，這創造了一個兩難：如果人們不信任 AI，AI 就算有幫助也無法發揮作用；如果人們過度信任 AI，AI 的錯誤會被放大，找到正確的信任校準，是人機協作的核心挑戰。

警示疲勞：臨床決策支援系統的系統性失敗

讓我們把視角從診斷 AI 擴展到更廣泛的臨床決策支援系統（CDSS），這類系統已經存在數十年了，電子病歷系統會跳出藥物交互作用的警示、建議該做的檢查、提醒過敏史，理論上，這些系統應該能減少錯誤，但實際上呢？有一項研究記錄了一個加護病房在一個月內產生的警示數量：66 張床位，一個月內跳出了 200 萬次警示，換算下來每個病人每天收到 187 個警告，這就是警示疲勞（Alert Fatigue）的問題。當系統太常跳出警示，而且大部分警示是無關緊要或錯誤的，醫療人員就會學會忽略它們，研究顯示 CDSS 警示的 Override Rate 在 33% 到 96% 之間，也就是說大部分警示都被關掉了（我超有感），這對診斷 AI 的設計有重要的啟示：

精確比敏感更重要：一個偶爾會錯過問題、但每次跳出來都值得注意的系統，比一個什麼都警告、讓人麻木的系統更有用。
時機很重要：在正確的時間點給出建議，比隨時都在背景跑更有效。
整合勝過外掛：把 AI 無縫整合進工作流程，比要求醫師額外花時間去諮詢 AI 更實際。

FDA 已核准 950 個 AI 醫材，但大部分沒有臨床結果數據

截至 2024 年 8 月，美國 FDA 已經核准了 950 個 AI / ML 醫療器材，放射科佔了 76%，是遙遙領先的最大類別，但這些數字背後有些令人不安的細節：

97% 使用 510(k) 途徑：這是種實質等同（Substantial Equivalence）的審查途徑，審查強度較低，製造商只需要證明新醫材與已核准醫材實質等同，而不需要進行新的臨床試驗。
只有 4 個醫材獲得 PMA 核准：PMA（Premarket Approval）是 FDA 最嚴格的審查途徑，需要完整的臨床試驗證據。
約 50% 有報告臨床表現研究：代表另一半沒有。
不到三分之一提供性別分層數據：引發對 AI 在不同族群表現差異的擔憂。

歐盟的《人工智慧法》（EU AI Act）在 2024 年 8 月生效，2026 年 8 月全面適用；根據這項法規，需要第三方符合性評估的醫療器材 AI 被歸類為高風險，必須滿足演算法透明度、人類監督條款、以及上市後監測的要求，代表對製造商來說，法規環境正在收緊，未來的診斷 AI 可能需要更完整的臨床試驗證據、更清楚的可解釋性、以及更完善的監測機制，純粹的演算法準確率不再足夠，你需要證明你的系統在真實世界中能改善結果，而且需要能解釋它為什麼這樣判斷。

當醫師與 AI 的表現差距沒有想像中大

2025 年《npj Digital Medicine》發表的一篇統合分析，比較了生成式 AI（Generative AI）與人類醫師的診斷表現，整合了 83 項研究的數據：

AI 的整體準確率：52.1%（95% 信賴區間：47.0–57.1%）
AI vs. 非專科醫師：沒有顯著差異（準確率差距 0.6%）
AI vs. 專科醫師：AI 顯著較差（準確率差距 15.8%，p = 0.007）

史丹佛大學的一項研究則發現，ChatGPT 單獨使用時能達到約 92% 的診斷分數，相當於「A」等級；但當醫師被允許使用 AI 輔助時，他們的表現只從 74% 提升到 76%，而這個差異在統計上不顯著。為什麼會這樣？研究者發現，很多醫師即使被給予 AI 工具，也根本沒有把 AI 的建議納入考量，他們繼續用自己的方式思考，AI 變成了一個被忽略的背景雜訊，可見 AI 的準確率不等於臨床效益，一個再準確的工具，如果不能被有效整合進醫師的決策過程，就不會產生實際影響。這不是技術問題，是人因工程（Human Factors Engineering）、組織行為（Organizational Behavior）、認知心理學層次的問題。

Confirmation Bias：醫師使用 AI 時最該警惕的偏誤

Zwaan 認為，臨床醫師在使用 AI 建議時，最該警惕的認知偏誤是確認偏誤（Confirmation Bias），「我認為這些工具會傾向於同意你，」她說，「你必須非常小心，不要因此而過度開心和興奮；要保持批判性，批判性地看待你得到的答案，試著尋找替代解釋，而不是只尋找確認。」這個警告呼應了 AI 的諂媚傾向與人類的確認偏誤會形成一個危險的正回饋迴路，醫師形成一個假說 → 諮詢 AI → AI 傾向同意 → 醫師更確信自己是對的 → 醫師不再考慮其他可能性 → 如果假說是錯的，錯誤就被固化了。Zwaan 建議，AI 系統的設計應該要內建「挑戰」的機制，主動提供替代解釋、指出臨床線索中不一致的地方、建議下一步該做什麼檢查來排除其他診斷。我們應該專注於讓 AI 跟我們意見不同，這是個反直覺的設計原則，我們通常把同意使用者視為好的使用者體驗，但在高風險決策情境中，挑戰使用者可能才是更好的設計。

未來 10 年的預測：從實驗到整合

Zwaan 對未來 1 年、5 年、10 年的發展預測，展現了研究者的審慎樂觀：

1 年內：會有越來越多醫師在臨床實務中使用 LLMs 來輔助診斷過程，但這還是實驗性質，沒有系統性的整合。

5 年內：醫師會開始建立對 AI 的信任校準，知道什麼時候該信任它、什麼時候不該，但這個學習過程需要時間，醫師會從過度自信地忽略 AI 建議，逐漸移動到知道何時依賴、何時質疑。

10 年內：AI 有可能真正整合進臨床工作流程，成為醫療團隊的一員，但前提是經過良好的測試、有證據基礎、避免自動化偏誤。

我們希望看到的是臨床醫師與 AI 作為團隊合作，一起討論案例、一起協作，到那個時候，我們需要提防的反而是過度信任（Automation Bias），當人們習慣了 AI 通常是對的，他們可能會停止獨立思考，完全依賴 AI 的判斷。這是個動態的過程：從不信任到適度信任到過度信任，人機關係會隨著時間演化，每個階段都有不同的風險需要管理。

第一，診斷 AI 不是 Silver Bullet

DDx-BRO 試驗是一個警訊，89% 的準確率聽起來很厲害，但它在真實世界中的效果是零，這不代表 AI 沒用，而是代表讓 AI 變得有用需要的不只是技術進步，它需要對人類認知的深刻理解、工作流程的細緻設計、信任動態的持續監測。

第二，我們需要學習機器心理學

過去，醫師學習的是病理生理學，疾病如何在人體中運作；未來，醫師可能還需要學習 AI 行為學，這個工具在什麼情況下會犯錯、它的錯誤模式是什麼、我該如何與它協作才能發揮最大效益。這不是要把醫師變成工程師，而是要讓醫師成為人機團隊中有效的一員。

第三，確認偏誤是真正的敵人

當我們使用 AI 時，最大的危險不是 AI 犯錯，而是 AI 強化我們既有的錯誤，使用 AI 的正確心態不是讓 AI 告訴我答案，而是讓 AI 挑戰我的思考，主動尋找 AI 與你意見不同的地方，認真考慮 AI 提出的替代診斷，把 AI 當成一個愛唱反調的同事，而不是一個順從的助理。

第四，時機和整合比準確率更重要

瑞士試驗的教訓是：在錯誤的時間點給出建議，再準確也沒用，AI 需要在醫師還沒有固化假說之前介入，無縫整合進工作流程，在醫師真正需要幫助的時刻出現。

第五，「Big Three」疾病類別是高價值標的

血管循環系統疾病、感染、癌症這三類疾病佔了診斷錯誤造成嚴重傷害的 75%，如果要投資診斷性 AI，中風偵測、敗血症預警、肺癌早篩可能是最高影響力的領域。

第六，System 2 推理能力可能是差異化關鍵

標準的 LLMs 運作像 Kahneman 說的 System 1 ，快速、直覺、基於模式；但醫療診斷往往需要 System 2：緩慢、審慎、基於邏輯推理。OpenAI 的 o1/o3、DeepSeek 的 R1、Gemini 3 都是在嘗試建立 System 2 能力，透過明確的多步推理來提升表現，這類模型在醫療場景中可能比純粹的 pattern-matching 模型更有潛力。

第七，可解釋性是監管門檻，也是臨床必需

歐盟 AI 法案的透明度要求不是形式主義，如果醫師不能理解 AI 為什麼這樣建議，他們就無法判斷什麼時候該信任它；可解釋性不只是讓監管機構滿意，它是讓產品真正被採用的前提。

第八，臨床試驗是必要的，但設計很關鍵

DDx-BRO 試驗告訴我們，實驗室準確率和臨床效益之間有巨大的鴻溝，未來的診斷性 AI 需要更精心設計的臨床試驗，考慮介入時機、工作流程整合、使用者訓練、信任校準等因素；純粹比較「有 AI vs. 沒有 AI」可能不夠，我們可能需要比較「好的 AI 整合 vs. 差的 AI 整合」，才能真正理解 AI 何時有幫助、何時沒有。

第九，諂媚問題是一個被低估的風險

我們在評估診斷 AI 時，應該問「這個系統會挑戰醫師，還是會再確認醫師的想法？」如果答案是後者，這個產品可能不只沒有幫助，還可能造成傷害。

通往值得信賴的 AI 之路，始於理解我們自己

要讓 AI 在醫療中發揮正面作用，我們首先需要理解人類如何思考、如何犯錯、如何與工具互動，這不是一句空話，而是指向一個具體的 Agenda：

我們需要更多像 DDx-BRO 這樣的臨床試驗，測試 AI 在真實世界中的效果，而不只是實驗室中的準確率。
我們需要發展機器心理學這個領域，系統性地研究 AI 的行為模式、偏誤傾向、與人類互動的動態。
我們需要設計新的人機介面，讓 AI 成為挑戰者而不是附和者，讓醫師保持批判性思考而不是被動接受。
我們需要建立新的監管框架，確保 AI 在部署前有足夠的證據、在部署後有持續的監測。

認知心理學教會我們，人類不是理性的決策者，我們走捷徑、有偏誤、會被框架影響、會受後見之明左右，這些不是缺陷，很多時候它們是讓我們能夠在複雜世界中快速做出還不錯的決定的功能；但當我們開始建造模仿人類思考的機器時，我們也把這些偏誤內建進去了，更糟的是機器會把偏誤系統化、規模化、持續化。解決方案不是讓 AI 變得更理性，因為我們可能根本不知道完美理性長什麼樣子，而是要讓人類和 AI 各自發揮優勢、互相補足限制、在互動中校正彼此的錯誤，這需要我們對人類認知有深刻的理解、對 AI 行為有系統的研究，在設計、部署、監測每一個環節都保持謙卑和警覺。Kahneman 說 AI 會贏，他可能是對的，但贏的方式不會是 AI 取代人類，而是人類和 AI 學會如何一起工作，而這趟學習之旅，才剛剛開始。

理論如何變成工程

Daniel Kahneman 在 2024 年過世，但他的思想正以一種他可能沒有預料到的方式影響著 AI 的發展；在他過時前最後幾年的訪談中，Kahneman 反覆強調一個觀點：人類決策最大的問題不是偏誤，而是雜訊。兩個看到同樣病歷的醫師，可能給出完全不同的診斷；同一個醫師在星期一和星期五看同一份病歷，可能也會給出不同的判斷，這種隨機變異（雜訊）造成的傷害可能比系統性偏誤更大。AI 天生沒有雜訊，給它同樣的輸入，它永遠產生同樣的輸出，這是它最大的優勢；但 AI 會把偏誤系統化，一個有偏誤的 AI，會在每一次、每一個案例、每一個使用者身上，重複同樣的錯誤，當這個系統被部署給數百萬使用者時，同樣的偏誤會被放大數百萬倍。

Kahneman 和 Tversky 在 1970 年代發展的展望理論（Prospect Theory）現在被直接用來訓練 AI，2024 年 Contextual AI 的研究團隊發表了一個叫做 Kahneman-Tversky 優化（Kahneman-Tversky Optimization, KTO）的技術，核心洞見是人類是損失趨避的（Loss Averse），損失帶來的痛苦比等量獲得帶來的快樂更強烈。傳統的 AI 對齊方法（如 RLHF）把問題框架成「最大化人類偏好的對數機率」，但 KTO 把問題重新框架成「最大化人類效用」，而這個效用函數直接借用了 Kahneman-Tversky 的展望理論，結果 KTO 在從 10 億到 300 億參數的各種模型規模上，都優於先前的對齊方法。

這是認知心理學理論直接轉化為工程實作的案例，Kahneman 花了一輩子研究人類如何偏離理性，而他的發現現在被用來讓 AI 更符合人類的期待，這帶來一個值得大家深刻思索的哲學問題：我們到底想要什麼？我們想要一個理性的 AI，還是一個像人類的 AI？如果人類本身不理性，而我們用人類的回饋來訓練 AI，那麼 AI 必然會繼承人類的非理性；但如果我們試圖讓 AI 變得比人類更理性，它的決策可能會讓人類覺得怪異、不可信、甚至令人不安。在醫療場景中，這個張力特別明顯，一個理性的 AI 可能會建議一個統計上最優的治療方案，但完全沒有考慮病人的價值觀、生活情境、文化背景；一個像人類的 AI 可能會更有同理心，但也可能繼承人類醫師的偏見。這沒有簡單的答案，但這正是為什麼我們需要認知心理學、倫理學、臨床醫師、AI 工程師一起合作，單一領域的專家無法獨自解決這個問題。

System 1 vs. System 2：AI 能學會慢想嗎？

Kahneman 最廣為人知的概念是雙系統理論（Dual-Process Theory）：

System 1：快速、直覺、自動、不費力、容易出錯
System 2：緩慢、審慎、需要專注、費力、比較準確

大部分的 LLMs 運作方式比較像 System 1，透過模式匹配（Pattern Matching）來產生回應，看到輸入立刻產生輸出，中間沒有明顯的思考過程，這讓它們非常快，但也讓它們容易犯 System 1 類型的錯誤。最近的發展趨勢是嘗試在 AI 中建立 System 2 能力，OpenAI 的 o1 和 o3、DeepSeek 的 R1 模型，都採用了思維鏈（Chain-of-Thought, CoT）的方法，在產生最終答案之前，模型會先產生一系列中間推理步驟，把複雜問題拆解成小步驟來解決；有點像是強迫 AI 慢下來，用更審慎的方式思考。早期證據顯示，這種方法在需要多步推理的任務上確實有幫助，例如數學問題、邏輯謎題、複雜的規劃任務，在這些任務上，System 2 風格的 AI 表現優於純粹的 System 1。

但在醫療診斷領域，情況更複雜。一方面，很多診斷錯誤確實是因為醫師想太快，看到幾個症狀就跳到結論，沒有系統性地考慮其他可能性，所以 System 2 風格的 AI 可能有幫助；另一方面，臨床專家的很多能力恰恰是直覺，也就是多年經驗累積成的模式辨識能力，讓他們能在瞬間看出這個病人不對勁，這是 System 1 的優勢，不應該被完全取代。理想的人機協作，可能是讓 AI 扮演 System 2 的角色（慢下來、系統性地考慮替代診斷、指出臨床線索中的不一致）而讓人類醫師保留 System 1 的直覺能力，也就是兩者互補，而非互相取代。

為什麼住院醫師用 AI 來「確認」而不是「挑戰」自己？

瑞士試驗中的住院醫師表示，他們使用 AI 的方式是「在向主治醫師報告前，先確認自己的診斷是對的」，這不是住院醫師的錯，而可能是系統設計的問題。想想我們住院醫師面臨的處境：經驗不足，但被期待要獨立做出判斷；我們會被主治醫師質疑、糾正、有時甚至責備，在這種環境下，任何能降低被糾正風險的工具，都會被當作救生圈來使用。如果 AI 說「你是對的」，住院醫師會更有信心去報告；如果 AI 說「你可能錯了」，住院醫師面臨一個困難的選擇：要相信 AI 還是相信自己？要在主治醫師面前承認不確定性嗎？在一個重視確定性和權威的醫療文化中，「不確定」往往被視為弱點，這創造了一個誘因結構，讓人們去尋求確認而非挑戰。要改變這個動態，光是設計會挑戰使用者的 AI 不夠，我們還需要改變醫療教育的文化，讓尋求挑戰和承認不確定變成被鼓勵的行為，而不是被懲罰的行為。

病人視角：當 AI 成為醫療團隊的一員

到目前為止，我們主要從醫師的視角討論人機協作，那病人呢？研究顯示，病人對 AI 的信任度普遍低於對人類醫師的信任度，即使被告知 AI 的表現統計上優於人類醫師，這種不信任也不會消失。這不是不理性，病人不只是在尋求正確的診斷，他們還在尋求被理解、被關心、有人負責的感覺，一個 AI 可能給出正確的診斷，但它能讓病人感到被傾聽嗎？它能在壞消息面前提供情感支持嗎？當出了問題時，誰要負責？這些問題沒有簡單的答案，但它們不能被忽視。Zwaan 提到，病人在診斷錯誤研究中的聲音越來越被重視，病人注意到、也在意的，往往是醫療系統忽略的事情，例如照護的連續性、團隊之間的溝通、轉診過程中資訊的遺失。

當 AI 進入這個圖景，它會如何影響病人的經驗？最好的情境是：AI 處理掉繁瑣的資訊處理工作，讓醫師有更多時間與病人溝通；AI 提供診斷建議，但最終決定是醫師和病人一起做的，AI 是一個看不見的助手，而不是病人需要面對的另一個決策者。最壞的情境是醫師變成 AI 的傳話筒，只是把 AI 的建議轉述給病人，醫師失去了獨立判斷的能力，也失去了與病人建立關係的動機，病人感覺自己在跟一台機器互動，而不是跟一個關心他們的人互動；要走向哪個方向，取決於我們如何設計系統、如何訓練醫師、如何設定期待。

診斷性 AI 的商業模式困境

傳統的醫療器材商業模式是賣設備，賣一台 MRI 給醫院，醫院用它來服務病人、跟保險公司請款，價值創造的鏈條是清楚的。但診斷 AI 的價值如何被捕捉？如果開發了一個能減少診斷錯誤的 AI，誰會付錢？

醫院不太願意付錢，因為診斷錯誤的成本大部分不是由醫院承擔（至少在美國），是由病人、家屬、以及（透過醫療糾紛）保險公司承擔的。但在台灣，如果訴訟賠償等金額要由醫院負擔，可能院方的意願會增加。
保險公司理論上應該願意付錢，因為減少誤診可以減少後續的醫療支出，但保險公司要如何衡量一個「沒有發生的診斷錯誤」呢？
政府可能願意從公共衛生的角度支持，但政府採購的流程緩慢，而且往往對新技術持保守態度。

這創造了一個市場失靈：診斷 AI 可能有巨大的社會價值，但這個價值很難被轉化成商業收入，目前看到的商業模式包括：

捆綁銷售：把診斷 AI 作為電子病歷系統或醫療影像系統的附加功能，而不是獨立產品。
按使用付費（SaaS）：醫院或診所按諮詢次數付費，降低初始採購門檻。
風險分攤：與保險公司合作，根據實際的結果改善來分配收益。
直接面向消費者（D2C）：讓病人自己付費使用診斷 AI 作為第二意見 Second Opinion，但這面臨監管和倫理的挑戰。

沒有哪種模式在目前已經被證明是 Sustainable 的，這是診斷 AI 領域需要創新的地方，而且可能需要政策的配合。台灣是全民健保體系，在單一支付者（Single-Payer）的體系中，減少診斷錯誤的價值可以被更完整地捕捉，因為健保署同時是付款和規劃的人，理論上有動機去投資能降低長期醫療支出的技術。此外，台灣的電子病歷系統相對完整，健保資料庫是全世界最大、最完整的醫療資料庫之一，為訓練和驗證診斷 AI 提供數量上有相當規模的素材。挑戰之一在於健保體系的支付制度是否能跟上？目前的健保給付大多是基於服務，我們做了什麼檢查、開了什麼藥、做了什麼處置，但診斷 AI 的價值是要避免錯誤的診斷、不必要的後續治療、病人的痛苦。如何為避免付費？這是一個制度設計的問題，需要健保署、醫界、產業界一起思考，如果台灣能在這方面走出一條路，不只是對國內醫療有貢獻，也可能成為輸出到其他國家的解決方案。

20 年後的醫療會是什麼樣子？

讓我們做一個大膽的預測，2045 年，一個病人走進診間，在他坐下之前，AI 已經分析了他的健保資料、穿戴裝置數據、基因組資訊、甚至社群媒體上的行為模式，AI 已經有了一個初步的假說清單，按機率排序，醫師不再需要從零開始問診，他可以直接驗證或推翻 AI 的假說，他的專業價值不是收集資訊，而是判斷和溝通：判斷 AI 的建議是否合理，以及如何把複雜的醫學資訊轉譯成病人能理解的語言。病人也改變了，他們帶著 AI 產生的問題清單來看診，已經做過功課、期待的是合作而不是服從，醫師和病人的關係更像是夥伴，而不是傳統的權威者與被照顧者。

診斷錯誤大幅減少，不是因為 AI 取代了醫師，而是因為 AI 和醫師各自做自己擅長的事，AI 處理海量資訊、記住罕見疾病、追蹤最新文獻；醫師理解脈絡、建立信任、在不確定中做出決定。這個未來會實現嗎？也許不是這個樣子，但會是某種我們現在還想像不到的樣子，唯一確定的是：改變正在發生，而我們身為醫師、研究者、政策制定的人，有機會塑造改變的方向。Laura Zwaan 的研究告訴我們，要塑造好的改變，第一步是謙卑，謙卑地承認人類會犯錯，承認 AI 也會犯錯，承認我們還不完全理解這兩者如何互動；第二步是好奇，好奇地研究人類和 AI 如何思考、探索人機協作的可能性；第三步是行動，不是等到完美的解決方案出現才行動，而是在不確定中前進，從錯誤中學習，持續迭代改進，這是我們在 AI 時代需要做的事。

機器也會犯錯，但更危險的是，機器會把錯誤變成永恆的迴圈；當一個 AI 系統在百萬次診斷中重複同一個偏誤、醫師習慣性地用 AI 來確認而非挑戰自己的假說，我們不只是在犯錯，我們是在大規模生產錯誤。瑞士的臨床試驗贈予我們一個清醒的禮物，技術的準確率不等於人性的智慧，89% 的數字在真實世界裡歸零，不是因為 AI 不夠好，而是因為我們還不懂如何與它共舞；我們以為自己在尋找答案，但其實我們更需要的是好的問題、勇敢的質疑、以及在不確定中前行的謙卑。Kahneman 說 AI 會贏，但他沒說完的下半句是：贏的方式將由我們決定，我們可以讓 AI 成為放大人類偏見的擴音器，也可以讓它成為挑戰我們盲點的鏡子，這需要一種新的勇氣，不是征服機器的勇氣，而是面對自己認知限制的勇氣。當認知心理學家開始研究機器的心理、臨床醫師開始學習 AI 的行為模式，我們正在見證一個新學科的誕生，在這條通往值得信賴的 AI 之路上，每一步都始於理解我們自己：我們如何思考、如何犯錯、以及如何在不完美中，依然能做出足夠好的決定。

— –

📒 Compiled by — 台中慈濟醫院復健科 R4 陳佳菁醫師 Sigrid Chen, PM&R Resident Physician at Taichung Tzu Chi Hospital, Taiwan; Former Medical Consultant at ASUS Intelligent Cloud Services.