信任多少才夠?探討如何校準對科技的信任度

arXiv - Human-Computer InteractionGabriela Beltr\~ao, Debora F. de Souza, Sonia Sousa, David Lamas

本研究探討如何透過人類電腦信任量表(HCTS)評估信任傾向,並強調在人機互動中「校準信任」的重要性。

AI 幫你先抓重點

AI 重點 1

從「盲目信任」轉向「校準信任(Calibrating Trust)」的概念轉變。

滑鼠懸停看 AI 判斷理由
在 AI 時代,過度信任或信任不足都會導致錯誤決策。理解如何讓使用者建立與系統能力相匹配的信任感,是設計安全且可靠的教育科技產品之關鍵。
AI 重點 2

信任評估必須具備情境化(Contextualization)的解釋能力。

滑鼠懸停看 AI 判斷理由
量表數據僅提供靜態傾向,若不結合實際互動情境,設計者無法得知使用者在特定任務中是否產生了錯誤的信任,這對優化學習工具的互動設計至關重要。

核心研究發現

  1. 1

    研究證實人類電腦信任量表(HCTS)是一個具備潛力的工具,可用於初步評估使用者對科技產品的信任傾向。

  2. 2

    單純的信任傾向評估是不夠的,必須結合使用者與科技互動時的具體情境進行反思與解釋。

  3. 3

    隨著科技日益自主且具備黑箱特性(不透明性),使用者往往難以準確掌握系統的能力與限制。

對教育工作者的啟發

對於教育科技開發者而言,設計 AI 學習助手時,不應只追求增加使用者的信任感,而應著重於「信任校準」。建議在介面設計中加入「透明度機制」,例如明確告知 AI 的能力邊界或信心程度,幫助學生在自主學習時,能正確判斷何時該依賴 AI,何時該進行批判性思考,避免因過度依賴技術而削弱自身的元認知監控能力。

原始文獻資訊

英文標題:
How Much Trust is Enough? Towards Calibrating Trust in Technology
作者:
Gabriela Beltr\~ao, Debora F. de Souza, Sonia Sousa, David Lamas
來源:
arXiv - Human-Computer Interaction
AI 摘要模型:
/models/gemma-4-26B-A4B-it
閱讀原文

每週精選研究電子報

每週五信箱收到精選 5 篇教育科技重點研究摘要,零時間壓力掌握學術前沿。