人們實際想要 AI 做什麼？偏好多樣性映射
arXiv - Computers and SocietyJulia Sep\'ulveda Coelho, Scott A. Hale
研究顯示不同人對 AI 的需求多元，單一對齊模型難以滿足。
AI 幫你先抓重點
AI 重點 1
單一報酬模型難以捕捉多元偏好，導致真實性需求未被滿足。
滑鼠懸停看 AI 判斷理由
因為 49% 的受訪者雖要求真實性，但其定義差異大，單一模型無法同時滿足來源、專家或非主流需求，造成對準失效。
AI 重點 2
多樣化語境區分揭示現行二元比較方法不足。
滑鼠懸停看 AI 判斷理由
研究發現受訪者常區分 AI 的「預設」與「按需」行為，二元比較忽略此細微差異，導致對 AI 功能的需求被過度簡化，影響實務設計。
核心研究發現
- 1
在 1,500 條開放式回應中，只有不到四分之一的受訪者要求大多數價值，真實性是唯一達到 49% 的例外。
- 2
受訪者對「真實性」的定義多樣，包含來源證據、專家意見或非主流觀點，顯示同一詞彙隱含不同認知基礎。
- 3
AI 的人性化表現與安全防護功能存在明顯爭議，部分人支持，另一些人則拒絕，且人們常區分「預設」與「按需」的使用情境。
對教育工作者的啟發
教育科技設計者應避免將 AI 功能簡化為單一「真實性」指標，應先調查目標使用者對真實性、來源、專家意見等多重定義；同時設計可切換的預設與按需模式，讓使用者自行選擇；最後，對於人性化與安全防護功能，需提供透明選項，避免因偏好衝突造成使用者不滿。
原始文獻資訊
- 英文標題：
- What Do People Actually Want From AI? Mapping Preference Plurality
- 作者：
- Julia Sep\'ulveda Coelho, Scott A. Hale
- 來源：
- arXiv - Computers and Society
- AI 摘要模型：
- openai/gpt-oss-20b
每週精選研究電子報
每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。