Deep Medicine [Chapter 5] 從數據漂移到偏見監控：打造安全可信的醫療 AI

我們該如何建立並持續運作一套多層次、跨領域協作的 AI 生命週期管理機制，確保從開發、部署到臨床使用、真實世界應用監測，都能兼顧安全、可解釋、公平與效率？

深層責任（Deep Liabilities）

Als are nowhere near as smart as a rat.
AI 目前還遠不及老鼠聰明。
 — Yann LeCun

I often tell my students not to be misled by the name “artificial intelligence” — there is nothing artificial about it. Al is made by humans, intended to behave by humans, and, ultimately, to impact human lives and human society.
我常常提醒我的學生，不要被「人工智慧」（Artificial Intelligence）這個名稱誤導 — 其實這裡面一點也不「人工」。AI 是人類創造的，目的是讓它依照人類的方式運作，最終也會對人類生活和社會產生影響。
 — Fei-Fei Li

2017 年底，Dr. Eric 在 Google 拜訪李飛飛（Fei-Fei Li）時，正值 AI 熱潮幾乎到達巔峰，她建議或許需要再來一次「AI 寒冬」，讓事情冷靜下來，回歸現實，並為這些進展「包上泡泡紙」以防過熱。不可否認地，這幾年我們看到各種誇大其辭的預測：末日將至、大規模失業、醫師被取代等等，但事實上，AI 這麼強大的工具，如果被用在惡意或不當用途上，無論是有意還是無意，帶來的影響都不容小覷。

神經網路方法論與極限

當 Dr. Eric 提到「方法論」（Methodology）時，指的是從輸入到輸出、再到輸出之輸出的一切流程，神經網路（Neural Network）能否發揮作用，關鍵在於訓練用資料的品質與數量。大多數現有 AI 研究，都是用結構化資料（Structured Data）來訓練，高度組織化、格式明確、容易查找、易於儲存與查詢，也方便分析。然而，現實中很多資料並不是這樣，沒有標註、沒有整理，甚至根本不是結構化資料。

在醫療領域，常見的就是非結構化資料（Unstructured Data），像是電子病歷裡的 Free Text；AI 到目前為止大多還是靠監督式學習（Supervised Learning），這需要建立「標準答案」（Ground Truths）來訓練，如果這些標註或標準答案不準確，整個模型的結果就可能會變得荒謬。醫師對影像的判讀常常意見分歧，讓標準答案本身就很不穩定，而清理資料的過程，就是要把不完整、不相關、錯誤、或不正確的東西剔除或修正。即使資料已經清理、標註、結構化，還是會有問題，況且還有一個「時間維度」要考慮：資料隨時間變化，模型表現也會退化（Data Drift）。

以 AliveCor 為例，這家公司在做高血鉀預測時，Mayo Clinic 一開始就把所有住院病人排除，導致數據樣本太少，團隊差點放棄這個專案；資料量必須夠大，才能蓋過雜訊、避免過擬合（Overfitting），也才能做出準確預測。Google 搜尋結果、Instagram、Facebook、YouTube 等平台的資料量數以億計，但醫療領域的資料，通常只有數千到數百萬筆，這樣的規模有時不需要深度神經網路（Deep Neural Network），如果硬要用，反而會因為資料不足產生各種問題。

雖然深度神經網路（DNNs）常被拿來類比人腦的學習能力，但事實上，從我們大腦的八百六十億個神經元（Neurons）和一百兆個連結（Interconnections）來看，沒有任何證據顯示神經網路的運作方式和大腦學習機制相同。Google 的深度學習專家 François Chollet 在《Deep Learning with Python》書中提到：「沒有證據顯示大腦有用現代深度學習模型那種學習機制。」當我們看到機器展現出某種「智慧」時，容易把它們擬人化，但其實我們的大腦遠不只是單純的中央處理器（CPU）而已。

深度學習 AI 和人類學習有本質上的差異；以兒童發展為例，Yann LeCun 指出：「人類小孩很快就能透過對話和學習建立對世界的常識，但我們還沒找到這個學習機制的關鍵。」他認為這正是 AI 無法突破的主要障礙之一。機器需要大量資料才能學習，但小孩只要很少的資料就能學會，孩子能用貝氏機率（Bayesian Probabilistic Methods）推理、延伸，能快速理解新事物，並且能適應沒遇過的情境，孩子只要幾分鐘就能學會語言，機器卻需要數十萬筆資料才能達到類似的表現。微軟的 Harry Shum 說過：「電腦只能在特定任務上表現得像小孩。」許多研究者（如 Gary Marcus）認為，除非 AI 能考慮人類的天生特質與預設能力，否則電腦永遠無法像小孩一樣學會對話。

雖然電腦在某些特定領域能表現得比人類專家還強，但如 Chollet 所說：「目前沒有任何實際路徑，能讓電腦從數千個專項任務的超人表現，跨越到像小孩那樣的通用智慧與常識。」AI 學習如果能結合人類特有的常識，對醫療領域來說才真正有吸引力。我們常把機器能「看懂」影像或投影片的能力誤認為是「閱讀」，但其實機器並不懂，機器的「辨識」不是「理解」，它們沒有任何情境概念。有些專家認為，深度學習已經遇到極限，很難再突破現有的功能。深度學習之父 Geoffrey Hinton 就曾質疑自己發明的反向傳播（Backpropagation）方法，認為應該「全部丟掉重來」並指出，深度學習對大量標註資料的依賴，會導致效率低下，甚至可能成為這項技術的致命傷。

在現今的電腦科學領域，許多專家都很想知道如何將生物學與電腦科學結合起來，例如膠囊網路（Capsule Networks）這個架構，嘗試模擬大腦新皮質（Neocortex）的垂直柱狀結構，雖然膠囊網路目前還沒有明顯提升深度神經網路的效能，但這種新方法的提出，讓人回想起 Backpropagation 當時也花了好幾十年才被學界接受。現在要判斷膠囊網路是否會成為主流還言之過早，但這個新想法已經對現有深度神經網路的研究方法提出了挑戰，這本身就很有意義。

AlphaGo Zero 的成功也引發許多討論，發表於《Nature》期刊的論文「無需人類知識，徹底掌握圍棋」（Mastering the Game of Go Without Human Knowledge）。不過當 Gary Marcus 認為這說法很荒謬：「有一個由十七位世界頂尖電腦圍棋專家組成的團隊，卻說這是『無人類知識』，根本說不通。」他還說 DeepMind 很會炒作這件事，因為這家公司本來就很擅長媒體操作。除了 Marcus 之外，還有學者 José Camacho Collados 也對 AlphaGo Zero 提出批評，認為這個專案有幾個問題，包括缺乏透明度（程式碼沒有公開）、過度強調「完全自我學習」（Self-play），卻忽略了規則教學和部分先備知識的需求，他也提醒，研究者有責任如實描述自己的成就，避免讓錯誤資訊和神秘化現象繼續擴大。

就像許多科學領域一樣，AI 研究也常被質疑有選擇性報告（Cherry-picking）或再現性不足的問題。許多論文只報導成功的模型，卻不討論那些失敗的嘗試；公開資料和原始碼的匱乏，讓再現性問題更加嚴重。醫學領域的 AI 研究，很多都是回溯性、電腦模擬的設計，還沒有在真實臨床環境中前瞻性驗證，提醒我們 AI 的進展不能跳過專家審查（Peer-review）和嚴謹的臨床驗證程序。

黑盒子（Black Boxes）

如果說人腦和人工智慧有什麼共通點，那就是「不透明」；多數神經網路的學習過程我們其實搞不太懂，也缺乏能夠徹底追溯 AI 系統如何得出某個結論的方法。舉個例子，AlphaGo 在對戰李世乭（Lee Sedol）時的第 37 手，連開發團隊都無法解釋為什麼演算法會下出那一步。同樣的現象也出現在醫療 AI，例如 Deep Learning 已經能夠在皮膚病變分類上，達到和 21 位皮膚科專科醫師相當的水準，但 Stanford 的開發團隊也無法明確指出，演算法到底抓到哪些特徵。另一個例子是 Mount Sinai 醫學院的 Joel Dudley 團隊用 Deep Patient 這個專案，分析超過 70 萬筆電子病歷，結果發現可以預測 78 種疾病的發生機率，甚至能預測思覺失調症（Schizophrenia）等困難疾病的發病時間。但 Dudley 也坦言：「我們能建立這些模型，但我們不知道它們怎麼運作。」當病人看到 AI 幫助診斷或治療有明顯好處時，大家也許會願意接受這個「黑盒子」。那我們是不是也該用同樣標準看待 AI 演算法？有人寧願選擇一個「準確率 99％但無法解釋」的黑盒子，也不要一個「準確率只有 80％但可以解釋」的系統。

但主流看法並不一定如此，紐約大學 2017 年成立的 AI Now Institute，專門研究 AI 的社會影響，年度報告明確建議在刑事司法、醫療照護、社會福利、教育等「高風險」領域，不應該使用黑盒子 AI；即使演算法已經過嚴格測試和驗證，醫師、醫院和健保體系仍須對 AI 做出的決策負責，歐盟的「解釋權」（Right to Explanation）讓病人有權理解自己的健康或疾病管理策略脈絡。此外，機器也可能故障或遭駭客攻擊，如果一個糖尿病 AI 演算法整合了血糖、運動、營養、壓力等多層數據，卻因為一個小錯誤或駭客入侵，建議錯誤的胰島素劑量，可能導致低血糖甚至死亡。如果 AI 出錯，可能會影響數百甚至數千人。

因此，只要有 AI 參與醫療決策，這個過程就必須清楚、可解釋，還需要大量模擬測試，檢驗演算法在各種情境下的表現。即使現在有許多醫療 AI 已經實際應用，例如影像判讀，但我們往往無法解釋它們的運作原理。每一個 AI 判讀結果，理論上都應該由放射科醫師複核，但如果醫師分心或掉以輕心，可能會錯過關鍵，導致病人預後不佳；現在有個領域叫做「可解釋人工智慧」（Explainable Artificial Intelligence），專門研究如何讓 AI 的決策過程變得透明。其實電腦科學家們已經開始用神經網路來解釋神經網路，Google 的 Deep Dream 專案，就是一種反向深度學習（Reverse Deep Learning），不是單純辨識影像，而是反過來找出哪些特徵最關鍵，有點像外科醫師說的「有疑慮就切掉」，AI 專家則是「有疑慮就用 AI 來解釋 AI」。

醫療領域也有一些成功解開黑盒子的例子，2015 年有一項研究，用機器學習預測哪些肺炎病人有高風險併發症，結果演算法錯誤地預測，氣喘病人得肺炎反而比較安全，導致醫師可能會讓氣喘病人提早出院。後來研究人員針對這個結果進行深入分析，才發現原來是變數定義問題，並修正了演算法。我們可以預見，未來會有越來越多研究，專注於理解 AI 神經網路的內部運作；醫療領域本來就習慣在治療效益與風險間做取捨，但黑盒子 AI 絕不是可以輕易接受的風險。隨著 AI 成為醫療不可或缺的一部分，未來我們一定會看到更多隨機對照試驗來驗證 AI 的臨床效益，醫療界對於黑盒子 AI 的容忍度，勢必會受到嚴格考驗。

偏見與不平等

在《Weapons of Math Destruction》這本書中，Cathy O’Neil 指出：「這些模型把人類的偏見、誤解和歧視，編碼進了那些越來越多深入我們生活的軟體裡。」這種偏見早已深植於我們的演算法世界，並且廣泛影響對性別、種族、族群、社經階級、性傾向等議題的看法。舉凡誰能獲得工作機會、誰能進入面試、專業工作者如何被排名、刑事司法如何進行、是否能取得貸款等，無一不受其影響。

以一篇名為《Men Also Like Shopping》的論文為例，一組研究團隊分析了兩組影像資料集，每組都包含超過十萬張標註詳細情境的照片，這些影像展現了明顯的性別偏見：購物和烹飪多與女性有所連結，運動、教練、射擊則與男性相關。這種輸出偏差在於，如果影像中是一位男性在廚房做菜，卻被標註為「女性」。影像辨識如果依據這種偏見訓練，會進一步放大這種偏見，雖然有方法可以在訓練時減少這種偏見，但前提是程式設計師必須知道要找什麼樣的偏見並加以修正。即使如此，原始資料集裡已經存在的偏見，還是很難完全消除。另一個性別偏見例子，是卡內基美隆大學一項研究發現，男性比女性更有可能在 Google 上看到高薪工作的廣告。

一項針對全球網路約八百四十億字文本的 AI 研究，發現裡頭存在極為明顯的性別與種族偏見，以及對心理疾病或長輩名字等負面的態度，而這項研究之所以能揭露這些偏見，正是因為網路本身就反映了我們根深蒂固的文化偏見。Google Photos 的 AI 在 2015 年曾把黑人標註為大猩猩，當時引發軒然大波；ProPublica 的報導《Machine Bias》則揭露了一個被廣泛使用的商用演算法，會錯誤地預測黑人被告有較高的再犯風險，而白人被告的風險分數則自動偏低。警方用來預測貧困地區犯罪發生地點的演算法，也存在偏見，還有著名的「gaydar」臉部辨識研究，試圖預測性傾向。

有些偏見甚至來自於原本用來防止歧視的工具，例如 Stony Brook University 與多家大型網路公司合作開發的 NamePrism，這款機器學習演算法能根據名字推測族裔與國籍，準確率約八成。這個工具本來是為了防止歧視，但當倫理審查委員會與研究人員推動這個計畫時，沒想到它最後竟成了促進歧視的工具。

產業結構與 AI 偏見的根源

科技產業裡從業人員與高階管理層缺乏多元性，讓這個問題更難解決，許多公司裡白人男性占多數，使得辨識針對女性的性別偏見變得更困難，這不是靠一個 AI 演算法就能解決的。AI Now Institute 建議，AI 系統在正式上線前必須進行「嚴格的預先測試」，以確保不會因訓練資料、演算法或系統設計等問題而放大偏見與錯誤。此外，也需要持續監控任何偏見的蛛絲馬跡，甚至希望 AI 能自動達到這種監控效果。AI Now Institute 負責人 Kate Crawford 說：「隨著 AI 成為新的基礎設施，無形地流動在我們日常生活中，就像水流經水龍頭一樣，我們必須理解它的短期與長期影響，並確保對大家都是安全的。」目前已有專案開始系統性地審查演算法，推動公平性，AI 甚至被用來解決 Wikipedia 的性別偏見問題，但也有學者質疑，AI 演算法是否真的比人類更不帶偏見？

醫學研究本身就已經存在偏見，因為參與臨床試驗的病人很少能真正代表整體族群，少數族群經常難以具備足夠代表性，甚至根本沒被納入研究。在基因體研究中，這個問題更明顯：第一，大多數大型世代研究（Cohort Studies）主要收錄歐洲血統的人；其次，這些結果對大多數人來說其實沒有什麼參考價值，因為疾病與健康的基因體學高度依賴血統。用這種偏頗的資料來訓練 AI，然後應用在所有病人身上，勢必會出問題，例如皮膚癌的 AI 就曾因資料只來自少數膚色的病人而出現偏差。AI 有可能進一步加劇原本已經很嚴重（且還在惡化）的健康不平等問題，Harari 在《Homo Deus》一書中預測，二十一世紀的醫學會致力於讓健康的人變得更健康，而 AI 技術則會加速這種趨勢。

知名 AI 專家李開復也強調，必須縮小 AI 所帶來的貧富差距，不論是在國家內部還是不同國家之間，必須重視這些系統對社會的影響，無論是預期內還是意外的後果。對於社經地位較低的人來說，AI 的偏見往往對他們造成多重打擊：他們最容易受到失業威脅，也最難取得 AI 醫療工具的服務。要克服這些問題，我們必須有前瞻性的規劃與策略，確保經過驗證、真正有影響力的 AI 工具能夠普及，讓每個人都能受益。

真相的模糊化

在這個假新聞、假影像、假語音、假影片橫行的時代，AI 無疑扮演了關鍵角色，臉書上的假新聞製作者，早已能夠透過 AI 精準鎖定特定族群，影響像是 2016 年美國總統大選這類大型事件。各大網路公司的廣告也大量運用 AI來誘惑使用者，這個問題只會越來越嚴重，過去我們會討論修圖、潤飾影像，接著 Photoshop 讓影像處理後製更上層樓，現在這種操弄已經進入全新層次 — 不只是重繪影像，而是「重寫現實」，靠的就是 AI 工具。

新創公司 Lyrebird 能夠合成音訊，只需極短的語音樣本，就能產生聽起來幾乎無法分辨的仿真語音；另一個 AI 演算法 Houdini 則能竄改音檔，讓同一句話聽起來像是不同的人說的，甚至能讓 Google Voice 這類 AI 語音系統辨識成完全不同的內容。色情影片也被 AI 用來換臉，把知名女星的臉貼到其他女性身上；華盛頓大學的研究者則運用神經網路合成出極難分辨真假的影片，能讓歐巴馬總統「發表」他從未說過的演說。

這背後的技術核心，是生成對抗網路（GAN，Generative Adversarial Network），GAN 的應用過去有段時間進展神速，由 Ian Goodfellow 於 2014 年提出，目的是解決影像生成技術落後於影像辨識的問題。Goodfellow 的早期成果很快被 Nvidia 等大廠跟進，產生出能夠生成極高畫質、幾可亂真的假名人影像。GAN 的各種進階版本（如 CycleGAN、DiscoGAN、StarGAN、pix2pixHD）層出不窮，讓真假難辨的門檻越來越高，這種 AI 生成內容的能力，讓所有形式的內容操作都變得毫無限制，進一步模糊了真實與虛構的界線，在這個「真相衰退」（Truth Decay）的時代，這絕對不是我們樂見的發展。

隱私與駭客攻擊

「我們已經沒有隱私了」 這句話在 AI 時代似乎越來越真實，臉部辨識（Facial Recognition）技術的進步完全沒有緩解這種擔憂，Google 的 FaceNet、Apple 的 Face ID、Facebook 的 DeepFace 等深度神經網路演算法，已經能夠從百萬張臉中精準辨識出特定個體。美國有一半以上的成人臉部影像，已經被儲存在至少一個警方可查詢的資料庫中，AI 臉部數據只是辨識一個人的眾多方式之一，結合 AI 分析的基因資料甚至能協助警方追蹤連環殺手。基因學家 Yaniv Erlich 指出，未來幾乎所有歐裔美國人都能被「大型消費者基因資料庫」識別出來。

除了臉部，強大的生物特徵（Biometrics）如視網膜影像、心電圖也可能成為未來辨識個體的工具，隨著監視攝影機大量普及，機器視覺 AI（Machine Vision AI）帶來的「老大哥」監控陰影，讓辨識與追蹤變得前所未有地容易，也嚴重威脅到個人隱私。DeepMind 這家 AI 公司與英國皇家自由倫敦國民健康基金會（Royal Free London National Health Foundation Trust）合作的案例，凸顯醫療圈的隱私問題，2015 年 11 月英國國民健康服務（NHS）將 160 萬名英國公民、超過五年期的電子健康紀錄轉交給 DeepMind（Google / Alphabet 子公司），目的在於開發一款名為 Streams 的智慧型手機 App，協助臨床醫師及時發現每年在英格蘭造成約 4 萬人死亡的 Kidney Injury，雖然這個目標非常值得肯定，但當時 DeepMind 在醫療領域經驗有限，也引發外界對於 Google 這樣的全球最大廣告公司取得敏感醫療數據的疑慮。

DeepMind 雖然多次保證，取得的 NHS 數據「絕不會與 Google 帳號、產品或服務連結」，但這樣的承諾並無法完全消除外界疑慮，Google 醫療子公司 Verily 的高層就曾坦言，成立新公司的部分原因，就是要避免讓人覺得醫療數據會與 Google 本體產生連結。不論公司如何保證，實際上外界根本無法追蹤這些龐大醫療數據的用途，這批 NHS 數據包含藥物過量、墮胎、心理治療、HIV 檢測等極為敏感的資訊。2017年底，英國監管機構認定這批數據的移轉並未合法取得同意，為了回應外界關切，DeepMind 最終建立了數位帳本（Digital Ledger）系統，讓所有資料存取都能留下稽核紀錄，理想狀況下，這樣的設計應該從一開始就納入，以確保隱私與安全。

DeepMind 的 Streams App 免費提供 NHS 使用，極大縮短了醫護人員追蹤腎功能異常相關資訊的時間，獲得病人、醫師與護理師的廣泛支持，護理師 Sarah Stanley 就分享：「我們用這個 App，三十秒內就能完成一位病人的分級，過去這個流程可能要花兩到四小時。」英國 Understanding Patient Data 計畫負責人 Nicole Perrin 也表示：「我們不該只看到風險，而忽略這樣的公司投入醫療帶來的巨大潛力。」這個案例凸顯醫療大數據無法取得明確同意、不夠透明、以及科技巨頭壟斷醫療產業等問題。

AI、隱私侵害與資安風險

學術界到產業界都備受關注 AI 潛在侵犯隱私的能力，Stanford 大學 AI 實驗室的研究團隊，結合 5 千萬張 Google 街景影像、涵蓋 2 千 2 百萬輛汽車、200 座城市的公開資料，成功預測了美國各地的投票傾向、種族、教育程度、收入分布等。雖然這些深度學習演算法沒有直接預測到個人或家庭層級，但科技公司手上確實掌握了這類資料，並能透過類似的神經網路分析，推算出相當精細的個人資訊。

最著名的例子莫過於 Cambridge Analytica，該公司利用 Facebook（現 Meta）數據建立美國成人的個人檔案，進而被指控影響 2016 年大選結果，同時推動演算法假新聞的精準分發。資安層面，AI 產品（如自駕車）被駭客入侵的風險也日益受到重視，讓所有運用 AI 的系統都必須嚴防資料污染、AI 惡意軟體（Malware）、AI 機器人、甚至 AI 間的攻防戰。雖然也有學界嘗試用深度神經網路強化資安，但目前成效有限，像 Equifax、Yahoo、Under Armour（MyFitnessPal）等重大資料外洩事件仍層出不窮。或許更值得期待的是差分隱私（Differential Privacy）這種新概念，利用 Private Aggregation of Teacher Ensembles 等機器學習演算法，讓每個人的身份不會因為特定醫療紀錄被辨識出來。不過，這種有限資料的使用也可能導致模型對某些族群出現偏見，進一步凸顯隱私與偏誤的交互問題。

AI 加速發展下的倫理與公共政策

AI 發展速度驚人讓越來越多人開始呼籲設立「速度計」來監控 AI 進展、推動新的監管措施，Allen Institute for AI 的執行長 Oren Etzioni 就曾提出，應該「至少採取一些措施，讓 AI 的發展能夠放慢腳步，以防萬一」。其實 AI 並沒有創造出全新的倫理議題，而是把既有的經典倫理問題放大了。如「gaydar」研究、NHS 與 DeepMind 的合作、種族偏見或是無意間強化社會不平等的現象，都顯示出 AI 技術帶來的倫理挑戰不容忽視，AI 的反應並不總是傳統的道德難題，而是分為兩個層次：一是「機器倫理」（Machine Ethics），也就是 AI 系統本身的倫理問題；另一個則是更廣泛的社會層面，並不限於演算法本身。

自駕車的道德困境──現代電車難題
機器倫理最經典的例子，就是自駕車（Driverless Car）在面臨無可避免的意外時，必須在不同的壞結果之間做出選擇，無論 AI 怎麼決定，都會有人受傷或死亡，這就是現代版的「電車難題」（Trolley Problem）。Jean-Francois Bonnefon 等學者曾用模擬方式，讓超過一千九百位受試者參與討論，發現不管是要犧牲乘客還是行人，或是要犧牲一人還是多人，這些選擇都沒有「正確答案」，因為這涉及道德價值、文化規範與個人利益的衝突，大多數人也不會選擇「為了最大多數人好」而犧牲自己。這些問題要納入自駕車演算法設計，將會是極大的挑戰，也被認為是「人工智慧領域最棘手的難題之一」。

另一層面的問題是，誰應該參與這些演算法的設計？是消費者、製造商還是政府？許多公司並不希望政府監管，像微軟和 Google 都建立了自己的倫理委員會，認為過度監管會阻礙自駕車的普及。事實上，自駕車有望大幅降低交通死亡率，每年全球有超過一百二十五萬人死於交通事故，多數都是人為失誤造成，但社會對於自駕車造成的死亡卻極為敏感。電腦介入決策會讓死亡的「責任」變得明確，也讓社會對 AI 的要求更加嚴苛。2018 年，美國亞利桑那州一輛 Uber 自駕車發生了全球首起自駕車撞死行人的事件，當時演算法偵測到夜間過馬路的行人，但沒有停下來，而坐在駕駛座上的備用駕駛也因過度信任自駕系統而未及時反應，讓人反思與其質疑 AI 本身，不如檢討企業是否在沒有充分測試與人力備援下，過於急躁地推動新技術。

醫療領域的 AI 監管問題更為關鍵，目前醫療演算法的監管仍在起步階段，獲得核准的 AI 醫療產品數量有限；問題不僅在於有多少 AI 產品送交美國食品藥物管理局（FDA）審查，更在於這些 AI 工具會持續進化，資料集越來越大，甚至具備自我學習的能力，這就需要全新的審查規則、上市後監控（Post-market Surveillance），以及具備 AI 專業的新監管人員，如果讓未經充分驗證或容易被駭客入侵的演算法獲得核准，後果可能非常嚴重。

對 AI 倫理與傷害風險的關注，促成了 AI Now Institute 等組織的成立，也推動全球許多倡議 AI 倫理與安全的行動，例如 OpenAI、Pervade、Partnership on AI、Future of Life Institute、AI for Good Summit，以及 UC Berkeley、哈佛、牛津、劍橋等學術機構的努力。不過 AI Now Institute 也指出，目前沒有科技公司會主動追蹤自己是否遵守倫理準則，Infosys 的 AI 醫療報告《AI for Healthcare: Balancing Efficacy and Ethics》雖然強調產業與組織都必須「建立倫理標準與義務」，但卻沒有明確說明這些標準與義務究竟是什麼。在醫療產業，甚至可能出現蓄意設計不道德演算法的情形，例如根據保險或收入狀況來預測病人照護建議，顯示 AI 倫理規範的落實還有很長的路要走。

AI 與就業的變革

過去這幾年大家應該已經數不清讀過多少篇以「AI（或機器人）會不會搶走你的工作？」為題的文章，雖然這些預測大多帶有負面色彩，但其實也有不少觀點持相反立場。麻省理工學院（MIT）數位經濟倡議（Initiative on the Digital Economy）負責人 Erik Brynjolfsson 就曾指出：「數以百萬計的工作將被淘汰，數以百萬計的新工作將被創造與需求，還有更多的工作型態會被轉型。」

如果我們從數字來看，Cognizant Technology Solutions 公司預估，未來十年內將出現二十一種全新的職業類別，全球將有一千九百萬個工作消失，但同時也會有兩千一百萬個新工作被創造出來。同年史丹佛大學兼任教授 Jerry Kaplan 則主張，AI 會徹底改變我們的生活與工作方式，提升生活水準，但同時也會讓工作在不同產業間流動，就像資本主義社會裡，職缺在不同產業間的「洗牌」與「重組」一樣，伴隨著創造與毀滅的循環。麥肯錫全球研究院（McKinsey Global Institute）一份一百六十頁的報告也贊同這種「此消彼長」的現象，並且從全球視角深入分析，指出新創造與消失的職缺會因地區差異而有很大不同。

未來的職場將會出現劇烈的變動，但這種變動並不像把礦工訓練成資料礦工那麼簡單；史丹佛大學貧窮與科技中心（Poverty and Technology Center）負責人 Elisabeth Mason 認為，美國目前有數百萬個職缺無人填補，而我們現在已經有 AI 工具可以協助媒合，幫助解決這個問題；根據經濟合作暨發展組織（OECD）2018 年的報告，全球超過四成的醫療照護工作有可能被自動化，顯示出未來職場變革的巨大規模與衝擊。在 AI 領域，人才供需嚴重失衡，市場對 AI 專家需求極大，剛畢業的 AI 博士（PhD）起薪從三十萬美元到超過一百萬美元不等，而大多數新進人員來自學術界或被其他科技公司挖角。然而，比起為失業者或 AI 產業求職者找到新工作，更大的挑戰其實是：如何創造出真正有價值、不是單純由機器執行的全新職缺。

我們過去、現在、未來都會持續面對這種因自動化而帶來的社會調適困難，國際象棋大師 Garry Kasparov 在《Deep Thinking》一書中提到，自動電梯技術早在 1900 年就已經出現，但直到 1950 年代（電梯操作員工會於 1945 年罷工後）才真正被廣泛接受，原因是「人們太不習慣沒有操作員的電梯」。如今，科技產業巨頭也積極投入資源協助社會適應這種轉型，像 Google 就捐出十億美元給非營利組織，協助勞工適應新經濟。

至少目前不用太擔心 AI 會對人類健康造成什麼「生存威脅」（Existential Threat），至於未來是否會出現擁有自我意識、能夠自行設計與進化的超級智慧體（Superintelligence），目前還沒有人能夠給出明確答案。不過，從小到大我們都被科幻電影灌輸了這種想像，例如《魔鬼終結者》（The Terminator）裡的 Skynet、《2001 太空漫遊》（2001: A Space Odyssey）裡的 HAL 9000，以及《駭客任務》（The Matrix）裡的 Agent Smith，這些膾炙人口的電影把擁有通用型人工智慧（Artificial General Intelligence, AGI）的機器描繪成有自我意識的生命體，而許多電影預言也逐漸成真，所以人們對 AI 的恐懼其實不難理解。我們常聽到知名人士的警告，例如 Stephen Hawking 認為 AI 可能導致人類滅絕，Elon Musk 說「我們正在召喚惡魔」，Henry Kissinger（季辛吉）則認為 AI 會顛覆歷史、摧毀現有文明，Bill Gates 甚至說 AI「可能比核災還危險」。

不過，也有不少專家持不同看法，如 Meta AI 負責人 Yann LeCun 認為不會有《機械公敵》或《魔鬼終結者》那種情節，因為機器人並不會擁有像人類一樣的本能驅動（例如飢餓、權力、繁衍、自我求生）。LeCun 的老闆、Meta 創辦人 Mark Zuckerberg 也不擔心 AI 帶來巨大災難，他在 Facebook 上寫：「有些人對 AI 危害危言聳聽，但這些災難比起傳染病、暴力等問題，實際發生的機率低得多。」未來學家們對於 AI 的發展前景，正反意見都有，彼此激烈辯論。

AI 領域裡兩位大咖 — Andrew Ng（吳恩達）和 Elon Musk — 對於 AI 風險的看法南轅北轍；Ng 說：「擔心殺手機器人（Killer Robots）就像擔心火星人口過多一樣不切實際。」馬斯克則認為，殺手機器人的威脅正是我們需要移民火星的理由之一，他希望人類能有備案，以防 AI 失控，並捐了一千萬美元給 Future of Life Institute，協助預測並避免 AI 帶來的最壞情境。麻省理工物理學家 Max Tegmark 召集了一群國際 AI 專家，預測何時會出現 AGI；大家的共識是，雖然有很大不確定性，但大約在 2055 年左右會實現。牛津大學（Oxford University）和耶魯大學（Yale University）Future of Humanity Institute 的研究也指出，機器學習專家認為有五成機率在 45 年內 AI 能夠在所有任務上超越人類，120 年內能自動化所有人類工作。

不論未來如何，現階段的 AI 還屬於「狹義 AI」（Narrow AI），也就是只能在特定任務上表現優異；雖然我們可以想像出一個會把人類當寵物或奴隸的 AI，但說 AI 會毀滅人類，這種說法還是較難取信於人。人類其實可以不斷「升級」自己，學習新的技能，甚至重新設計自己的生物硬體（Biological Hardware）與軟體，讓人類 2.0 誕生；未來的 3.0 版本人類，或許能夠同時改造自己的身體和思維。對我們來說，重點不是人類會不會被 AI 取代，而是 AI 會如何改變我們的生活、工作，尤其是醫療專業人員的角色；我們應該開始思考「Homo Sentiens」 — 一種會思考、會感知的現代人類，未來穿著白袍的醫師，會是這樣的新物種。

— –

📒 Compiled by — 台中慈濟醫院復健科 R3 陳佳菁醫師 Sigrid Chen, PM&R Resident Physician at Taichung Tzu Chi Hospital, Taiwan; Former Medical Consultant at ASUS Intelligent Cloud Services.