「自我實現預言」:月經週期追蹤應用中實際經驗與 AI 預測的交織

arXiv - Human-Computer InteractionWendy Zhou, Pelin Karaturhan, Alexandra Weilenmann, Jichen Zhu

研究發現 AI 預測在月經追蹤應用中塑造使用者經驗,且介面與解釋不足以促進批判性參與,導致非標準使用者感到孤立。

AI 幫你先抓重點

AI 重點 1

AI 預測在使用者經驗塑造中的主導角色揭示了設計者需將解釋性與批判性思考納入介面。

滑鼠懸停看 AI 判斷理由
它顯示若缺乏批判性參與,使用者可能盲目接受錯誤預測,影響健康決策;設計者應提供可解釋的預測與反思機制,以促進元認知與自我調節。
AI 重點 2

非標準使用者的孤立感提示 AI 系統需考慮多樣化需求與包容性設計。

滑鼠懸停看 AI 判斷理由
此發現說明 AI 驅動的健康應用可能排斥不符合常規模式的使用者,若不加以調整,將加劇健康資訊不平等;因此設計必須納入多元使用者情境與可調整的功能。

核心研究發現

  1. 1

    使用者以 AI 預測為基礎解讀自身經驗,雖然預測因記錄不完整而易失真。

  2. 2

    介面功能與 AI 解釋未能支持使用者對預測與實際經驗的覺察或批判性參與。

  3. 3

    非規範使用者在此交互中報告感到孤立。

對教育工作者的啟發

研究指出 AI 預測與介面設計缺乏批判性支持,導致使用者易於接受錯誤預測並感到孤立。對於產品設計師與健康教育工作者而言,可從以下三點落實改進:一、在預測結果旁加入可視化解釋與可信度指標,並提供手動調整或覆核機制,鼓勵使用者主動檢視數據;二、設計互動式反思提示,讓使用者在輸入或查看預測時思考「為何會這樣」與「是否符合自身感受」;三、針對非規範使用者(如不規則月經、避孕方式多樣等)提供自訂化設定與多元參考範例,降低孤立感並提升參與度。透過這些措施,可提升使用者的元認知、批判性思考與健康自我管理能力。

原始文獻資訊

英文標題:
"It became a self-fulfilling prophecy": How Lived Experiences are Entangled with AI Predictions in Menstrual Cycle Tracking Apps
作者:
Wendy Zhou, Pelin Karaturhan, Alexandra Weilenmann, Jichen Zhu
來源:
arXiv - Human-Computer Interaction
AI 摘要模型:
openai/gpt-oss-20b
閱讀原文

每週精選研究電子報

每週五信箱收到精選 5 篇教育科技重點研究摘要,零時間壓力掌握學術前沿。