面對病人、資助者及審計師，都經得起檢視的人工智能。
KY & Company 如何在醫療、社會影響及公營機構系統中建構、保障及量度人工智能——以及每間機構在啟用前應問的問題。
人工智能現在可在數秒內草擬資助評估、總結病人問卷或標示重複申請。對我們服務的機構而言，問題不再是人工智能能否完成工作，而是其輸出能否經得起審視。
我們的看法很簡單：負責任的人工智能不是一份政策文件，而是一門工程紀律——在設計中決定、在架構中執行，並以證據證明。
三門紀律，一個問責夥伴。
支撐我們顧問服務、平台及管理服務的同一原則，亦適用於我們交付的每項人工智能功能。
我們負責管治。
在建構之前，我們先決定人工智能應用在哪裡。人工智能只作輔助，決策仍由人負責。
我們負責保障。
您的數據受到保護並留在所屬地區，每個模型都只執行範圍狹窄、定義清晰的工作。
我們負責量度。
沒有證據證明有效，功能便不會上線——上線後亦會持續監察。
我們的方針依循 NIST 人工智能風險管理框架的結構——管治、映射、量度及管理——這是全球公私營機構採用的參考模型。4
我們負責管治。
在建構之前，先決定人工智能應用在哪裡。
負責任的人工智能最重要的決定，在選擇模型之前已經作出：決定人工智能應協助哪些工作，以及哪些工作絕不能由它單獨決定。人工監督是香港私隱專員為人工智能訂立的七項道德原則之一。6
AwardScience™ ——人工智能評分附有理據，讓評審員明白每份申請為何得到該分數。評審小組可審閱、質疑及推翻這些分數；最終決定仍由負責的人作出。
Pati™ ——經驗證的自我評估量表仍是臨床骨幹。人工智能絕不會取代經驗證問卷，亦不會產生任何可被理解為診斷的內容。
在定製入口網站中，每項人工智能功能都有記錄：它做甚麼、接觸哪些數據，以及誰對其輸出負責。用戶亦可隨時知道哪些內容由人工智能生成。
我們負責保障。
保護數據，約束模型。
您的數據不是訓練數據。 客戶數據絕不會用於人工智能訓練、模型改進、基準測試、廣告或任何其他次要用途。
推論在鄰近地區進行。 我們正將人工智能推論遷移至每位客戶所選託管地區（歐盟、美國或新加坡）內的 Amazon Bedrock，令提示及輸出與您其他數據保持在同一範圍內。
存取受到嚴格控制。 客戶數據只供我們的駐港團隊存取，並設有角色權限控制及完整審計紀錄。
模型只在狹窄範圍內運作：
- 輸出以您自己的來源資料為依據，而非無限制地生成。
- 來自申請人、病人及公眾的輸入均視為不可信，以防範提示注入攻擊。
- 敏感工作流程設有安全後備：若模型不確定或無法使用，流程會轉回由人處理。
我們負責量度。
無法量度，就不要部署。
在十個精心挑選的例子上表現出色的示範，對一萬份真實申請說明不了甚麼。麥肯錫發現，可解釋性是最常被提及的人工智能風險之一，卻不是最常被緩解的風險之一。2 NIST 亦清楚指出，量度必須隨系統及風險演變而持續進行。4
由具 PMP 及六西格瑪認證的團隊帶領交付，我們將每項人工智能功能視為生產流程。
- 定義為每項工作界定「好」的標準——總結看事實準確度、重複偵測看精確率及召回率、評分看與專家小組的一致程度。
- 量度與領域專家建立具代表性、去識別化的評估數據集，並與其所支援的人手流程作比較。
- 分析檢查不同語言、格式及申請人群組之間的表現差異——這對亞太區的多語言計劃至關重要。
- 改進每次提示或模型變更在進入生產環境前，都以評估數據集重新測試。
- 控制上線後監察審閱者推翻次數、錯誤報告及輸出質素，並在數字變動時進行調查。
應向任何人工智能供應商提出的六個問題。
無論您是否與我們合作。若供應商無法清楚回答，該功能便未準備好用於受規管或使命導向的環境。
- 我們的數據會否用於訓練或改進任何模型——無論是供應商還是第三方的？
- 提示及輸出在哪裡處理？是否符合我們的數據駐留要求？
- 哪些決定由人工智能作出，哪些仍由人負責？
- 推出前如何量度效能？以甚麼數據及基準作比較？
- 推出後如何監察效能？效能下降時會通知誰？
- 人工智能出錯或無法使用時會怎樣？
為受規管環境而設
- 客戶數據不會用於人工智能訓練
- 符合 GDPR 及 CCPA
- AES-256 加密
- 角色權限控制及審計紀錄
- 可選數據駐留地——歐盟／美國／新加坡
- ISO 27001 認證計劃進行中
參考資料
- Baxter, K. 及 Schlesinger, Y.（2023 年）。 Managing the Risks of Generative AI。《哈佛商業評論》，2023 年 6 月 6 日。
- 麥肯錫（2025 年）。 The State of AI in 2025: Agents, Innovation, and Transformation。QuantumBlack, AI by McKinsey。
- 哈佛商業評論分析服務（2025 年）。代理式人工智能研究報告，調查 603 位業務及科技領袖，2025 年 7 月。報道來源： 《財富》，2025 年 12 月 9 日.
- 美國國家標準與技術研究院（2023 年）。 Artificial Intelligence Risk Management Framework (AI RMF 1.0)，NIST AI 100-1。
- 世界衞生組織（2024 年）。 Ethics and Governance of Artificial Intelligence for Health: Guidance on Large Multi-Modal Models。日內瓦：世界衞生組織。
- 香港個人資料私隱專員公署（2024 年）。 Artificial Intelligence: Model Personal Data Protection Framework；以及《開發及使用人工智能道德標準指引》（2021 年）。