「資訊來源何在？」：揭示 AI 驅動產科資訊尋求中的信任機制
arXiv - Computers and SocietyVaibhav Balloli, Julia Erickson, Xinyi Li, Erin MacMurray van Liemt, Alex Peahl, Elizabeth Bondi-Kelly
研究發現高風險醫療情境下的 AI 信任不應僅靠聲明，而需具備可檢視性、透明度與多元驗證機制。
AI 幫你先抓重點
AI 重點 1
從「聲明信任」轉向「可檢視的信任」架構
滑鼠懸停看 AI 判斷理由
這改變了 AI 設計的範式。過去開發者傾向於透過宣稱準確性來建立信任，但對於產科等高風險領域，使用者需要理解資訊背後的邏輯與來源，才能在不平等的社會背景下建立真正的信任。
AI 重點 2
強調 AI 應與現有社會生態系統互補而非取代
滑鼠懸停看 AI 判斷理由
這提醒設計者，AI 工具不應單打獨鬥，而應考慮如何整合進現有的醫療與社群支持網絡中，避免將資訊檢索的負擔轉嫁給使用者或醫療工作者。
核心研究發現
- 1
研究指出在受歷史不平等影響的高風險醫療情境中，信任必須是「可檢視的」而非僅僅是「被聲明的」。
- 2
不同利害關係人對資訊可信度的定義雖有分歧，但在透明度、救濟機制與生態系統互補性上達成共識。
- 3
研究識別出四項治理需求：支持社會與身分認同的意義建構、多元驗證實務、具救濟機制的檢視治理，以及避免增加負擔的生態整合。
對教育工作者的啟發
對於開發教育或醫療 AI 的實務者，建議在設計資訊檢索系統時，應從「提供正確答案」轉向「提供可驗證的知識路徑」。具體做法包括：1. 提供資訊來源的透明追蹤機制，讓使用者能進行自主驗證；2. 設計具備「救濟機制」的介面，當使用者質疑 AI 資訊時有明確的申訴或校正管道；3. 考量使用者的社會背景與身分認同，提供具備文化敏感度的資訊呈現方式，而非僅僅是冰冷的數據，以建立更深層次的學習與信任連結。
原始文獻資訊
- 英文標題：
- "Where is this coming from?" Uncovering Trustworthiness Ideals in AI-powered Peripartum Information Seeking
- 作者：
- Vaibhav Balloli, Julia Erickson, Xinyi Li, Erin MacMurray van Liemt, Alex Peahl, Elizabeth Bondi-Kelly
- 來源：
- arXiv - Computers and Society
- AI 摘要模型：
- /models/gemma-4-26B-A4B-it
每週精選研究電子報
每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。