AI 輔助訪談中的倫理與社會責任：大語言模型介入研究
arXiv - Human-Computer InteractionHe Zhang, Yueyan Liu, Xin Guan, Jie Cai, John M. Carroll
本研究透過模擬 AI 輔助訪談，探討了使用 LLM 生成追問時所面臨的五大倫理與社會責任風險。
AI 幫你先抓重點
AI 重點 1
從「自動化」轉向「人機協作」的設計思維
滑鼠懸停看 AI 判斷理由
研究強調了 LLM-in-the-loop 的重要性，提醒開發者在設計 AI 輔助工具時，不應追求完全自動化，而應保留人類監督，以緩解 AI 造成的非語言溝通斷層與倫理風險。
AI 重點 2
技術介入對人際互動品質的隱性衝擊
滑鼠懸停看 AI 判斷理由
這改變了我們對 AI 工具效能的認知：工具的「準確性」不代表「有效性」。若 AI 介入破壞了訪談中的同理心與尊重感，即便問題再精準，也會損害研究數據的深度與品質。
核心研究發現
- 1
研究發現 AI 生成的追問可能包含有害或歧視性語言，且其互動行為具有不可預測的潛在傷害風險。
- 2
AI 介入可能因面試者分心或忽略非語言訊息，進而削弱受訪者感受到的尊重感與互動品質。
- 3
技術應用可能導致參與不平等，並在發生錯誤時造成責任歸屬不明確的治理困境。
- 4
AI 監聽、錄音或轉錄敏感內容時，會引發隱私洩露、資訊披露與合規性的法律風險。
對教育工作者的啟發
對於教育研究者與實務工作者，在使用 AI 輔助訪談或質性資料收集時，應採取以下建議：首先，建立「人機協作」而非「AI 代替」的原則，確保研究者能即時審核 AI 生成的問題，避免歧視性或不當言論。其次，需制定嚴謹的隱私與知情同意流程，明確告知受訪者 AI 的參與程度。最後，在設計 AI 輔助工具時，應優先考慮如何強化而非取代研究者的觀察力，例如設計能提醒研究者注意非語言訊息的介面，以維持訪談的溫度與尊重感。
原始文獻資訊
- 英文標題：
- Ethics and Social Responsibility in AI-Assisted Interviewing: An LLM-in-the-Loop Study of AI-Generated Follow-Up Questions
- 作者：
- He Zhang, Yueyan Liu, Xin Guan, Jie Cai, John M. Carroll
- 來源：
- arXiv - Human-Computer Interaction
- AI 摘要模型：
- /models/gemma-4-26B-A4B-it
每週精選研究電子報
每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。