解構藝術中的擴散模型：互動式模型操控與基於實作的可解釋性研究
arXiv - Human-Computer InteractionAhmed M. Abuzuraiq, Philippe Pasquier
本文提出一種透過互動式界面操控擴散模型內部結構的方法，讓藝術家能透過實作經驗建立對 AI 模型運作的直覺理解。
AI 幫你先抓重點
AI 重點 1
從「技術解釋」轉向「實作解釋」的範式轉移。
滑鼠懸停看 AI 判斷理由
傳統的可解釋 AI (XAI) 往往著重於數學邏輯的透明度，但對於創作者而言，透過「做」來理解模型（即透過干預觀察結果）比理解演算法公式更能建立有效的知識建構。
AI 重點 2
將 AI 模型視為可塑性的「創作材料」而非單純的工具。
滑鼠懸停看 AI 判斷理由
這改變了人機互動的本質，將 AI 從一個「輸入指令、獲得結果」的黑盒，轉變為像黏土一樣可以被觀察、修改與實驗的媒介，這對數位藝術教育具有深遠影響。
核心研究發現
- 1
研究指出大型擴散模型通常被視為黑盒工具，限制了創作者對模型的實質參與與介入能力。
- 2
透過將模型結構視覺化並整合至 ComfyUI 的節點式工作流中，使用者可以進行層級選擇與干預控制。
- 3
實驗證明，針對 Stable Diffusion 1.5 特定組件進行「模型彎曲（model bending）」干預，能產生相對一致的視覺效果家族。
- 4
透過實作干預，使用者能建立起關於模型不同部分如何形塑生成圖像的層級直覺（layer-level intuition）。
對教育工作者的啟發
對於教育工作者而言，這提供了一種「探究式學習」的新路徑。在教授生成式 AI 時，不應僅教導提示詞工程（Prompt Engineering），而應引導學生進入模型的內部結構進行「實驗」。建議課程設計可以模仿這種「模型彎曲」的教學法，讓學生透過改變模型參數或層級來觀察視覺變化，從而將 AI 學習從單純的結果導向，轉化為對技術原理的深度直覺建構與知識建構過程。
原始文獻資訊
- 英文標題：
- Unboxing Diffusion Models for the Arts: Interactive Model Bending and Practice-Based Explainability
- 作者：
- Ahmed M. Abuzuraiq, Philippe Pasquier
- 來源：
- arXiv - Human-Computer Interaction
- AI 摘要模型：
- /models/gemma-4-26B-A4B-it
每週精選研究電子報
每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。