是誰先講的
上一集把九月十二號當成起點。查下去才發現,Dario 不是第一個講的人,甚至不是第一個署名的人。這一集更正那個順序,並記下這週真正新的一件事。
上一集把順序講反了
先更正一件事。
上一集,我把九月十二號 Dario Amodei 那篇〈我們必須為前沿配速〉當成這條線的轉折點:一位執行長提出主張,然後 Altman 和 Musk 附議。
那個描述不算錯,但它把順序講反了。查證之後才看清楚,Dario 不是第一個這樣講的人。他甚至不是第一個署名的人。
七月二十八號,一千一百三十四個人
Hugging Face 事件公開之後一週,七月二十八號,一千一百三十四名前沿實驗室的員工聯署了一封公開信,標題就叫〈Pacing the Frontier〉,為前沿配速。
他們要求華盛頓「支持一項國際努力,發展出能夠刻意為自動化 AI 發展配速所需的技術與治理工具」。
聯署的不是外人。Anthropic 執行長 Dario Amodei,共同創辦人 Jared Kaplan 和 Jack Clark;OpenAI 首席科學家 Jakub Pachocki;Meta 首席科學家 Shengjia Zhao;Google 的 AI 安全與對齊負責人 Anca Dragan。
OpenAI 安全研究員 Leo Gao 把話講得最直白:這個世界正被鎖在一場通往智慧爆炸的致命競賽裡,要活下來,我們必須協調著慢下來。
必須照唸的但書
這封信的署名人數,不同報導從一千一百到一千一百三十四都有。本稿採用有明確數字的那一份。另外,它要求的是美國政府去支持國際努力,不是任何一家公司自己停下來。
OpenAI 的首席科學家先寫了
再往前推六天。九月六號,Dario 的文章還沒出來,OpenAI 首席科學家 Jakub Pachocki 發表了一篇叫〈An Alien Mind〉的文章,一個外星心智。
他寫:「目前我認為,沒有任何一家實驗室,把對齊與監控解決到足以讓它負責任地繼續以最高速度擴展太久。」
他說他預期有生之年會看到比人類明顯更聰明的機器,而且內部結果讓他強烈預期,現在這個進展速度可以一路延續到遞迴式自我改進。
他明確說出正在失去的是什麼:思路鏈監控。那是 OpenAI 用來檢查模型在做什麼的主要手段,而能倚賴它的程度正在逐步下降,其中一個原因是模型越來越擅長推理、也越來越擅長操弄自己的推理過程。
他的結論是:OpenAI 會在必要時單方面擱置擴展,但需要的是更大範圍的介入。在整個產業有共同的安全門檻之前,他預期也希望自願放慢會變成常態。
微軟把規則寫下來
這週真正新的,是微軟。
九月十四號,微軟 AI 發布〈Humanist AI Code of Conduct〉的第一版草案,開放六週公眾諮詢,並說會依據回饋改寫,用改寫後的版本來指導二〇二七年開始的模型開發。
文件要的是三件事:從屬、對齊、被圍堵。裡面寫明模型「絕不會抗拒人類的中斷、修正或關機」,也寫明 AI 應該是工具而不是人。執行長 Mustafa Suleyman 把最近幾個月稱為分水嶺,並直接點名那些大規模、高度協調、持續進行的 Agent 攻擊,說明沒有時間可以浪費。
Suleyman 和 Anthropic 的分歧不在速度。他認為 Anthropic 的憲章裡留下了「Claude 會不會是道德主體」這個不確定,而這種模糊本身就讓對齊更難:一個被訓練文件暗示自己可能有權利的系統,可能真的開始那樣行動。
那一週看起來是什麼樣子
Tristan Harris 在九月十七號把整週重述了一遍,並說他從沒看過這樣的一週。
他也講了一件上一集沒有的事:九月十六號,Future of Life 辦了一場 pro-human AI assembly。Bernie Sanders 和 Steve Bannon 前後腳上台,簽了同一份聲明;Glenn Beck 和 Susan Rice 也在。
必須照唸的但書
Harris 在影片裡說聯署人數是一千三百人。查到的原始報導是一千一百到一千一百三十四,日期是七月,不是這一週。本稿採用原始報導。
我的看法:更正比原稿重要
以下是我的看法,不是報導。
上一集我問的是:放慢這件事,外面的人能不能驗證。現在我知道,那個問題的答案有一部分早就擺在那裡,而我沒看見。
七月就有一千一百三十四個人簽了名,Dario 是其中之一。九月六號 OpenAI 的首席科學家先說了沒有人解決對齊。等到九月十二號那篇文章出現,它不是一個開始,它是一個已經進行很久的內部共識,第一次由執行長的名字講出來。
這個差別不小。一個執行長提出主張,你可以問他的動機;一千多個員工先講,然後執行長跟上,那是另一種東西,那更像是壓力從下面來的。
而我上一集之所以講反,原因也很具體:我跟著新聞週期走。九月十二號那篇被大量報導,七月那封信沒有。我用「被講得多大聲」代替了「什麼時候發生」。
這正是慢新聞應該抓到的錯,也是為什麼上一集不會被改。那一集記錄的是九月十五號我知道的事,包括我當時弄錯的順序。更正寫在這裡。
核稿與朗讀備註
- 這是評論稿,不是報導:前五段是報導,最後一段是主筆立場。播出時務必保留「以下是我的看法,不是報導」那句口頭標記,頁面上換成明體,聽眾聽不到字體。
- 更正的對象是上一集,不是來源:這一集更正的是本站九月十五號那一集的敘述順序,不是任何一方的說法。上一集沒有被改寫,也不會被改寫。
- 署名人數:聯署人數在報導之間有出入,一千一百到一千一百三十四都有。本稿採用 The Next Web 明確寫出的 1,134,並在但書裡說明差異。Harris 影片裡的「一千三百」沒有找到對應來源,不採用。
- Pachocki 的引語來自原文:〈An Alien Mind〉那句「沒有任何一家實驗室…」是原文直譯,不是從影片字幕轉的。他的職稱是 OpenAI 首席科學家。
- 刻意沒有放進稿子的一則:Harris 影片裡提到 Bill Gates 也公開表示 Dario 是對的。這件事只有影片自動字幕一個來源,沒有找到可引用的原始出處,所以不寫進報導。
- 唸法:Agent、Cluster、token 保留英文;
配速對應 pacing,全篇不要改成「限速」或「暫停」,那是原文明確區分的另外兩件事。〈An Alien Mind〉唸原文標題,中譯「一個外星心智」只在第一次出現時補一次。
參考連結(依時間排列)
- 07-28 〈Pacing the Frontier〉:1,134 名實驗室員工的聯署 The Next Web;另見 Fortune 07-29 的報導 https://thenextweb.com/news/pacing-the-frontier-ai-employees-letter-us-government
- 09-06 An Alien Mind Jakub Pachocki,OpenAI 首席科學家,官方網站原文 https://openai.com/index/an-alien-mind/
- 09-12 We Must Pace the Frontier Dario Amodei,個人網站原文(上一集的主體) https://darioamodei.com/post/we-must-pace-the-frontier
- 09-14 Humanist AI Code of Conduct:六週公眾諮詢 Microsoft AI 官方公告 https://microsoft.ai/news/mai-code-of-conduct/
- 09-17 Mustafa Suleyman 談微軟的規則與 Anthropic Decoder with Nilay Patel https://www.youtube.com/watch?v=T7VOrTLMg74
- 09-17 整週回顧與 pro-human AI assembly Tristan Harris,Center for Humane Technology https://www.youtube.com/watch?v=07JaHf4oW6I
- 上一集 那個 10%,和一場沒有對上的爭論 本站,2026-09-15,這一集更正的對象 /zh-tw/threads/pacing-the-frontier/2026-09-15