前言

Hippocratic AI 成立於 2023 年，透過創新的人工智慧解決方案，正在徹底改變醫療照護領域。我們特別針對對醫療 AI 有興趣的醫師和投資人，探討這家公司的技術、市場定位和潛在影響力。

公司概況

Hippocratic AI 由執行長 Munjal Shah 與一群來自不同領域的專家共同創立，團隊包括醫師、醫院管理者、醫療從業人員，以及來自 El Camino Health、約翰霍普金斯大學、聖路易斯華盛頓大學、史丹佛大學、Google 和 NVIDIA 等頂尖機構的 AI 研究人員。多元的專業背景，是 Hippocratic AI 致力打造安全醫療通用智慧（Health General Intelligence，HGI）的堅實基礎。

財務背景與估值

Hippocratic AI 目前獲得投資人的高度青睞，反映出市場對這間潛力的信心：

• 總募資金額：1.37 億美元
• 最新 A 輪融資：5,300 萬美元（2024 年 3 月）
• 估值：5 億美元

主要投資者包括 General Catalyst、Andreessen Horowitz、Premji Invest、SV Angel 和 NVIDIA 的 NVentures。

市場機會

全球醫療 AI 市場正呈現爆發性成長：

• 2024 年市場規模：323.4 億美元
• 預計 2032 年市場規模：4,310.5 億美元
• 年複合成長率：38.2%（2024–2032）

核心技術：醫療通用智慧（HGI）

Hippocratic AI 的核心產品是專為醫療應用設計的大型語言模型（LLM） — 醫療通用智慧。HGI 的目標是：

1. 提升醫療可近性
2. 全面提升健康照護成效
3. 讓每個人都能獲得深度的醫療專業諮詢

主要特色與創新

1. 安全至上的方法

Hippocratic AI 在 AI 開發過程中把「安全」擺在首位，採用多面向的策略：

• 在超過 100 項醫療認證測試中的表現優於 GPT-4
• 針對醫療專業詞彙進行特定訓練
• 運用醫療專業人員的人類回饋強化學習（Reinforcement Learning with Human Feedback, RLHF）
• 與業界專家合作進行安全性驗證

2. 星座系統（Constellation System）

這個獨特的架構包含：

• 一個引導對話的主要模型（Primary Model）
• 超過 20 個處理特定臨床任務的專業模型（Specialized Models）
• 提供準確決策背景資訊的支援模型（Support Models）

舉例來說，當病人詢問某種藥物的影響時，主要模型會進行對話，同時諮詢用藥支援模型獲取具體細節，並向檢驗結果支援模型查詢相關檢測資訊。

3. Polaris 2.0

Hippocratic AI 系統的進階版本，具備：

• 超過三兆個參數（相較於 Polaris 1.0 只有一兆個）
• 支援 14 種語言，包括西班牙語、法語和中文
• 強化的記憶力和情境理解能力
• 更精準的醫療建議（正確率 99%，相較於人類護理師的 81% 🤔）
• 在特定醫療任務上的表現優於 GPT-4 和 Llama3–70B

4. 自主開發的 LLM 訓練

Hippocratic AI 自行開發醫療專用的大型語言模型，確保在醫療領域的精確性和安全性。

技術基礎設施 Technical Infrastructure

Hippocratic AI 運用最先進的硬體和軟體技術來支援其醫療通用智慧（HGI）系統：

硬體設施

• GPU 和處理器 Processors：使用 NVIDIA H100 Tensor Core GPU 來開發和部署其 LLM 和病人服務解決方案。推測可能使用的高效能處理器，如 AMD EPYC 或 Intel Xeon Platinum。
• 網路設備 Networking：採用 NVIDIA 的低延遲推論架構 Low-Latency Inference Stack，強化對話式 AI 功能。推測可能使用的高速網路技術，如 InfiniBand 或 100/400 Gigabit 乙太網路進行節點間通訊。
• 資料中心基礎設施：雖然具體細節沒有公開，但 Hippocratic AI 很可能採用類似其他 AI 公司的資料中心配置，包括機架式伺服器 Rack-Mounted Servers、高效能 NVMe 固態硬碟 SSDs 和穩健的散熱系統。

軟體架構

• 模型規格：主要模型包含 700 億到 1,000 億個參數。星座架構：多個模型總計超過一兆個參數。
• AI 框架與編譯器 AI Framework and Compiler：運用 NVIDIA NIM 微服務 Microservices 來部署和優化 AI 模型。
• 語音辨識與合成：使用經過醫療 Domain 客製化的 NVIDIA Riva 模型，進行自動語音辨識和文字轉語音。
• 優化技術：採用即時、長情境對話 Long-Context Conversational AI 的進階技術，包括前綴快取 Prefix Caching、推測性解碼 Speculative Decoding，以及預填充/解碼分離 Prefill/Decode Disaggregation 等。
• 安全機制：採用三重安全方法，以實證為基礎訓練的主要模型、具備多個專業支援模型的星座架構，以及在必要時可由人類醫師監督介入的內建防護機制。

策略合作夥伴

Hippocratic AI 已與 40 個醫療體系、保險公司和數位醫療公司建立合作關係。重要合作夥伴包括：

• HonorHealth
• 辛辛那提兒童醫院
• OhioHealth
• Roper St. Francis Healthcare
• Universal Health Services
• ELNA
• SonderMind

這些合作對於將 AI 技術整合進現有醫療體系，以及根據實際回饋改進 AI 模型來說，都是非常關鍵的。

實際應用案例

Hippocratic AI 的技術已在各種醫療場域中實施，包括遠距醫療、醫院和診所。以下是四個醫療人員和病人使用 Hippocratic AI 技術的案例：

1. 大腸直腸健康篩檢 Colorectal Health Screening

• 時機：醫療人員找出還沒進行篩檢的合適病人
• 地點：病人家中（透過電話）
• 工作流程：AI 代理人撥打電話給合適的病人，引導他們完成問卷，並主動提供寄送篩檢包的服務
• 使用方式：接聽來自 WellSpan Health 的電話，與 AI 代理人進行對話

2. 充血性心臟衰竭出院追蹤 Congestive Heart Failure Discharge

• 時機：病人出院後
• 地點：病人家中（透過電話）
• 工作流程：一個叫做 Linda 的 AI 代理人專門負責出院後的追蹤，討論用藥情況和生活型態改變等議題
• 使用方式：未提供具體說明

3. 大腸鏡檢查準備 Colonoscopy Preparation

• 時機：檢查前 10 天、前 3 天，以及檢查後 1 天
• 地點：病人家中（透過電話）
• 工作流程：AI 代理人會致電預約大腸鏡檢查的病人，提供準備建議，並追蹤恢復情況
• 使用方式：接聽來自 WellSpan Health 的電話，遵循 AI 代理人的指示和建議

4. 慢性病照護管理 Chronic Care Management

• 時機：針對慢性病病人持續進行
• 地點：病人家中（透過電話）
• 工作流程：AI 代理人支援慢性病病人，在門診之間提供指導和監測

這些案例展現 Hippocratic AI 如何在不同的醫療情境中，透過 AI 技術來改善病人照護品質、提升醫療效率，並減輕醫護人員的工作負擔。每個應用都經過精心設計，確保能夠安全且有效地輔助現有的醫療流程，同時提供個人化的照護服務。病人可以透過語音通話或視訊聊天與 AI 助理互動，在螢幕上看到擬人化的形象。AI 會引導病人完成各種醫療程序、提供資訊，並向醫護人員回報狀況。

競爭 Landscape 分析

Hippocratic AI 以其注重 AI 安全開發和龐大資金支持而備受矚目，在亞洲也有幾家 AI 醫療公司擁有類似的目標：

1. Halodoc（印尼）

• 相似：提供 AI 醫療解決方案、虛擬醫師諮詢服務，致力提升醫療可近性
• 差異：較著重遠距醫療和藥品配送服務，設有健康相關產品的線上商城，已募得 1 億美元 D 輪資金

2. Doctor Anywhere（東南亞）

• 相似：運用 AI 提升醫療的可近性和效率，提供虛擬診所和諮詢服務
• 差異：服務範圍更廣，包括藥品配送和居家照護，業務遍及六個東南亞國家，募資規模較小（4,080 萬美元）

3. iCarbonX（中國）

• 相似：運用 AI 進行健康管理和個人化照護，致力改善整體醫療成效
• 差異：專注於建立健康監測應用程式平台，已募得超過 2 億美元資金，特別重視資料探勘 Data Mining 和蒐集詳細的病患資訊

4. 12 Sigma Technologies（中國）

• 相似：運用 AI 進行醫療診斷，目標是協助醫護人員執行職務
• 差異：專精於醫學影像分析，特別是疾病偵測，著重特定應用如肺癌結節偵測，與中國醫院合作收集資料和進行訓練

投資潛力與挑戰

Hippocratic AI 的投資價值包括：

1. 擁有強大的財務背景，估值快速成長
2. 在醫療領域採用創新的 AI 安全開發方式
3. 致力解決關鍵的醫療挑戰（如人力短缺、醫療可近性）
4. 在高度成長的市場 Segment 中佔據優勢地位

面臨的挑戰：

1. 必須確保 AI 在醫療場域中持續保持安全性和可靠性
2. 需要在不同管轄地理行政範圍因應各種法規要求
3. 爭取醫療專業人員和病人的普遍認同

機器人醫師：簡單易懂的解釋

為了幫助大家理解 Hippocratic AI 背後的複雜技術，讓我們想像自己正在打造全世界最酷、最聰明的機器人醫師。

機器人醫師的超級大腦

• NVIDIA H100 Tensor Core GPUs：超快速的計算機，幫助機器人醫師快速思考，譬如在一秒內解決一百萬個數學題目，就是這麼快～
• 高效能處理器 High-Performance Processors：機器人的主要大腦，這個大腦超級聰明，可以同時處理大量資訊；就像是在機器人體內裝了一個天才的大腦～

機器人醫師如何與其他電腦溝通

• NVIDIA 低延遲推論系統 Low-Latency Inference Stack：像是讓機器人醫師擁有超快的反應能力，問它問題時，它幾乎可以立刻（秒）回答～
• InfiniBand 或 100/400 Gigabit 乙太網路：如果機器人醫師向世界各地的其他電腦大喊大叫他想表達的訊息，其他電腦立刻就能收到，就是這個系統的功能－讓電腦之間能夠超快速地對話～

機器人醫師的家

• 機架式伺服器 Rack-Mounted Servers：像是特製的書架，用來存放機器人的所有腦部零件，整齊有序，所以可以在一個地方放入很多個大腦～
• 高效能 NVMe 固態硬碟 High-Performance NVMe SSDs：像是超快超有效率的記憶吐司（？），如果機器人需要回想什麼事情，它可以在這些書本中快速找到答案。
• 強大的冷卻系統：記得電腦在玩遊戲或看影片時會變得很燙嗎？我們的機器人大腦大量工作時也會變得很燙！所以需要使用特殊的風扇和冷水來防止過熱。

機器人醫師的秘密武器

• NVIDIA NIM 微服務 Microservices：像是小小的助手機器人，確保主要機器人醫師隨時都運作完美。
• NVIDIA Riva 模型：讓機器人學習理解和表達人類語言的方式，像是給它超級聽力和魔法般的聲音～
• 前綴快取 Prefix Caching：讓機器人記住句子的開頭，能更快完成句子。就像當老師說「二加二等於…」，我們立刻就已經知道答案是四。
• 推測性解碼 Speculative Decoding：機器人猜你接下來可能會說出什麼。就像是在玩剪刀石頭布時，我們也會各種根據來猜朋友可能會出什麼。
• 預填充/解碼分離 Prefill/Decode Disaggregation：機器人把大腦分成兩部分，同時做兩件事（斜槓多工？），一邊聽你說話，一邊思考答案。

確保機器人醫師的安全性和智慧程度

• 星座架構 Constellation Architecture：想像機器人醫師有一個助手團隊、系統，厲害的是每個助手來頭不小，都是來自不同專科領域的專家。
• 內建護欄 Built-In Guardrails：像是機器人的安全規則警示，如果它對某件事不太確定，就知道要請教人類醫師 Call For Help 而不是自己硬幹（值班時超重要）。

這個機器人醫師不只超聰明、超快速，還非常安全，能快速思考、記住很多事情，而且總是知道什麼時候該尋求協助。

結論

Hippocratic AI 代表 AI 與醫療整合的重大突破。其對安全性的承諾、創新技術，以及策略性的合作關係，讓它們在快速發展的醫療 AI 領域中居於領先地位。對於關注醫療未來發展的醫師和投資人來說，Hippocratic AI 提供了一個不錯的機會，能夠參與可能徹底改革病人照護和醫療服務的技術。

— –

📒 Compiled by — 台中慈濟醫院復健科 R3 陳佳菁醫師 Sigrid Chen, PM&R Resident Physician at Taichung Tzu Chi Hospital, Taiwan; Former Medical Consultant at ASUS Intelligent Cloud Services.