Emily Bender
Computational Linguist
關於
Emily M. Bender is an American computational linguist at the University of Washington whose work sharpened the central objection to LLM understanding. Her 2020 'octopus test' (with Alexander Koller) argued that a system trained only on linguistic form has no access to meaning; the 2021 'Stochastic Parrots' paper (with Timnit Gebru and colleagues) named the risks of ever-larger language models and became one of the most cited critiques in the field. She brings a linguist's discipline to questions the AI industry often treats as settled: what language is, what meaning requires, and who bears the costs when the two are confused.
主要貢獻
- Co-authored 'Climbing towards NLU' (2020), arguing form alone cannot yield meaning — the octopus test
- Co-authored 'On the Dangers of Stochastic Parrots' (2021), the era-defining critique of scale
- Coined vocabulary the debate now runs on, from stochastic parrots to form vs. meaning
- Advocates for linguistic rigor and documentation practices (Bender Rule, data statements) in NLP
- Co-authored The AI Con (2025), a book-length case against AI hype
論文與出版物
Climbing towards NLU: On Meaning, Form, and Understanding in the Age of Data
2020With Alexander Koller, the octopus test: a system trained only on form has no path to meaning.
閱讀論文On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?
2021The era-defining critique of ever-larger language models and the risks of scale.
閱讀論文思想連結
Blaise Agüera y Arcas
觀點交鋒Google 副總裁暨 Fellow
2021 年 12 月，Agüera y Arcas 發表〈Do large language models understand us?〉，主張在任何可證偽的意義上，統計確實構成理解；隔年一月，Bender 逐點反駁，既否定這個主張，也否定他把語言模型類比為盲人與盲聾人士的做法。這正是她的章魚測試在抽象層次演練過的那場爭論，落到了現實：一方認為意義必須在文本之外接地，另一方認為理解本來就是關係性的，否認模型理解只是雙重標準。本站的問題〈LLM 真的理解嗎？〉同時收著他們兩人的切法。
medium.com · medium.com · aclanthology.org
John Searle
思想同道Philosopher of Mind & Language
一組跨越四十年的詮釋性對照：Searle 的中文房間與 Bender 的章魚，問的都是同一件事——一個能完美操作符號的系統，對這些符號的意義究竟有沒有著力點。差別在於論證的力量從哪裡來。Searle 是先驗的論證，關乎意向性、關乎一個程式原則上永遠不可能擁有什麼；Bender 則以語言學家的身分追問：一份純粹由形式構成的語料，能提供什麼、不能提供什麼。一個說那個房間永遠不會理解；另一個說，沒有人指得出意義是從哪裡進去的。
傑佛瑞·辛頓
思想對照AI 先驅與研究者
在本站的兩個問題〈什麼是理解？〉與〈LLM 真的理解嗎？〉上，他們的切法完全相反。辛頓的答案是：把下一個詞預測得夠好，就不得不對產生這段文字的世界進行真正的壓縮——好的壓縮，本身就等於理解。Bender 的答案是：只以形式訓練的系統從未接觸過意義，而流暢正是讓這場混淆變得如此容易的東西。可觀察的行為並沒有把他們分開；把他們分開的，是各自願意接受什麼算作證據。
Gary Marcus
思想同道認知科學家、AI 批評者與作家
LLM 時代最持久的兩位批評者，卻來自幾乎不重疊的學科。Marcus 出身認知科學，反對意見是這些系統缺乏穩健的抽象與因果模型——這是關於架構的主張，也隱含著一個要求：造一台更好的機器。Bender 出身語言學，反對意見是缺乏接地的形式從來就不是通往意義的路，而假裝並非如此的代價，最終落在人身上。兩人常被一起歸檔為懷疑論者，但其中只有一位在要求修好它。
Melanie Mitchell
思想同道聖塔菲研究所教授
關於 LLM 理解問題，這個領域最審慎的兩位懷疑者——只是站的高度不同。Bender 是這場辯論的一極：沒有接地的形式不可能是意義，就這樣；Mitchell 則是它的製圖師，她與 David Krakauer 的 PNAS 綜述把兩造都畫進地圖，卻不插旗。讀 Bender，感受論證的力道；讀 Mitchell，看清它的形狀。
