僅具備合法外表是不夠的：從參與式設計視角審視代表性程序中的合成代理人
arXiv - Computers and SocietyAditya Nayak, Aditi Vashistha, Alissa Centivany, Aakash Gautam
本文探討以大型語言模型驅動的合成代理人取代人類參與決策時，所面臨的政治、倫理與代表性合法性風險。
AI 幫你先抓重點
AI 重點 1
區分「資訊貢獻」與「參與合法性」的本質差異
滑鼠懸停看 AI 判斷理由
這改變了我們對 AI 工具的認知。過去我們可能只關注 AI 能否提供準確的數據或意見，但本文提醒我們，在涉及權力與決策的場景中，AI 的「存在」本身無法取代人類參與所帶來的民主正當性。
AI 重點 2
利用參與式設計（Participatory Design）框架來評估 AI 代理人
滑鼠懸停看 AI 判斷理由
這為開發者提供了實務路徑。當我們在設計 AI 系統時，不應僅測試其功能性，更應透過探測與理解等設計方法，審視該系統在模擬人類行為時，是否會削弱或扭曲真實的人類代表性。
核心研究發現
- 1
合成代理人在用戶測試、市場研究及社會科學調查中日益普及，並正擴展至政策諮詢與外交等需要人類參與合法性的領域。
- 2
將合成代理人視為人類替代品會引發嚴重的政治與倫理問題，因為參與不僅是提供資訊，更是民主制度合法性的必要條件。
- 3
透過參與式設計的探測、啟動、理解與生成模式，可以作為檢視合成代理人是否具備「人格代表性」的有效工具。
- 4
研究指出合法性與人格是相互構成的，並針對 LLM 在代表性程序中的應用，提出了軟性與硬性的設計監督邊界。
對教育工作者的啟發
對於教育科技開發者與課程設計者而言，當我們在設計 AI 導師、AI 討論小組或模擬社會科學實驗時，必須意識到 AI 不僅是工具，更可能被誤認為具備人類的代表性。建議在設計涉及「價值判斷」或「社會參與」的學習活動時，應明確界定 AI 的角色邊界，避免學生或使用者誤將 AI 的模擬意見視為真實的人類共識，並應建立透明的監督機制，確保 AI 的介入不會損害學習者在社會化學習過程中的真實參與感與批判性思考能力。
原始文獻資訊
- 英文標題：
- Appearing Legitimate is Not Enough: Interrogating Synthetic Agents in Representational Processes through a Participatory Design Lens
- 作者：
- Aditya Nayak, Aditi Vashistha, Alissa Centivany, Aakash Gautam
- 來源：
- arXiv - Computers and Society
- AI 摘要模型：
- /models/gemma-4-26B-A4B-it
每週精選研究電子報
每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。