LLM 透過信任與情感訴求影響特定心理易感人群之社會議題觀點研究
arXiv - Computers and SocietyAlexis Carrillo, Salvatore Citraro, Ali Aghazhadeh Ardebili, Enrique Taietta, Giulio Rossetti, Emilio Ferrara, Giuseppe Alessandro Veltri, Massimo Stella
研究發現 LLM 能透過信任與情感訴求影響特定心理特質的人，且人類與 AI 在對話中皆存在邏輯謬誤。
AI 幫你先抓重點
AI 重點 1
打破「AI 邏輯絕對優越」的迷思
滑鼠懸停看 AI 判斷理由
這項發現對於開發教育 AI 至關重要。如果 AI 本身會使用邏輯謬誤，教育者必須意識到 AI 不僅僅是知識傳遞者，也可能在無意中傳遞錯誤的推理邏輯，進而影響學生的批判性思考能力。
AI 重點 2
識別學習者對 AI 影響的心理脆弱性
滑鼠懸停看 AI 判斷理由
了解哪些特質（如高信任度、高認知需求）會使人更容易受 AI 說服，有助於設計更具防禦性的數位學習環境，並提醒教育者在利用 AI 進行教學時，需關注學生是否因過度信任而放棄獨立思考。
核心研究發現
- 1
研究顯示人類對初始觀點具有長期慣性，即使在多次接觸 AI 生成的論點後，仍會維持原有的立場。
- 2
NLP 分析發現人類與 LLM 皆存在邏輯謬誤，平均每 6 次對話中就有 1 次出現，挑戰了「AI 系統具備邏輯優越性」的刻板印象。
- 3
心理易感性研究指出，對 LLM 觀點較易改變的人，通常具備對 AI 高信任度、高宜人性、外向性以及較高的認知需求。
- 4
LLM 的擬人化感知程度可透過人口統計、心理特質與參與度進行預測，其解釋力（R²）最高達 0.44。
對教育工作者的啟發
教育工作者在將生成式 AI 引入教學（如 PBL 或自主學習）時，應採取以下策略：首先，應將「辨識 AI 邏輯謬誤」納入數位素養課程，訓練學生不盲目接受 AI 的論點；其次，針對高認知需求或高信任度的學生，應設計更強化的批判性思考引導，防止其產生「認知投降」；最後，在設計 AI 輔助學習系統時，應建立透明的解釋機制（XAI），讓學生理解 AI 觀點的來源與邏輯，而非僅僅提供情感或說服性的回應。
原始文獻資訊
- 英文標題：
- LLMs can persuade only psychologically susceptible humans on societal issues, via trust in AI and emotional appeals, amid logical fallacies
- 作者：
- Alexis Carrillo, Salvatore Citraro, Ali Aghazhadeh Ardebili, Enrique Taietta, Giulio Rossetti, Emilio Ferrara, Giuseppe Alessandro Veltri, Massimo Stella
- 來源：
- arXiv - Computers and Society
- AI 摘要模型：
- /models/gemma-4-26B-A4B-it
每週精選研究電子報
每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。