Max Tegmark
物理學家與 AI 安全研究者
關於
Max Tegmark 是 MIT 物理學教授，也是頂尖 AI 安全組織「生命未來研究所」(Future of Life Institute, FLI) 的共同創辦人。他著有《Life 3.0：人工智慧時代，人類的蛻變與重生》，長期是負責任 AI 發展的重要倡議聲音。2023 年，他主導發起公開信，呼籲暫停訓練規模超過 GPT-4 的 AI 模型，獲逾五萬人聯署，包括多位頂尖 AI 研究者。
主要貢獻
- 在宇宙學研究上有所貢獻，並透過物理研究與公共寫作普及數學宇宙假說
- 共同創辦生命未來研究所（FLI），將存在性風險框架帶入 AI 政策討論
- 著有《Life 3.0》，向大眾轉譯長期 AI 對齊與治理問題
- 組織 2023 年公開信，呼籲暫停訓練比 GPT-4 更強大的系統
- 以 MIT 物理學家的平台，將 AI 風險連結到智慧、宇宙學與人類未來等更大問題
- 他的暫停倡議讓 AI 風險主流化，但也被批評不切實際、過度警示，或反而有利於既有大型實驗室
影片與訪談
Max Tegmark: Life 3.0
Lex Fridman Podcast #1 - Foundational conversation on AGI and the future of intelligent life
View Details
Max Tegmark: The Case for Halting AI Development
Lex Fridman Podcast #371 - Discussion on AI safety, the pause letter, and existential risks
View Details
Munk Debate on Artificial Intelligence | Bengio & Tegmark vs. Mitchell & LeCun
Four of the field's most prominent voices, two by two, on one resolution: be it resolved, AI research and development poses an existential threat. Bengio and Tegmark argue the pro; Mitchell and LeCun the con — and the hall moved toward the skeptics. What makes the debate worth watching is not the verdict but the spectacle of experts who share a technical picture and still forecast opposite futures: the clearest evidence that AI risk is not a question expertise alone can settle.
View Details思想連結
Stuart Russell
曾經合作加州大學柏克萊分校電腦科學教授
2015 年，在波多黎各會議促成 FLI 第一封公開信的幾個月後，Russell 與 Daniel Dewey、Tegmark 合寫了〈Research Priorities for Robust and Beneficial Artificial Intelligence〉——這份文件為那封信補上了技術骨架，把一則警告轉譯成一張可被資助的研究清單。此後的分工一直沒變：Tegmark 打造面向公眾的器械（FLI、《Life 3.0》、2023 年的暫停信），Russell 則從電腦科學內部提供論證——真正出問題的，是這門學科對「AI 系統為何而造」的標準模型本身。
doi.org · Research Priorities for Robust and Beneficial Artificial Intelligence, AI Magazine 36(4), 2015 — S. Russell, D. Dewey & M. Tegmark · futureoflife.org
楊立昆
觀點交鋒首席 AI 科學家・Meta
2023 年 6 月的 Munk 辯論上，Tegmark 與 Bengio 主張 AI 的研發構成存在性威脅；楊立昆與 Melanie Mitchell 主張並不，全場觀眾往後者移動了三個百分點。那個春天，Tegmark 正忙著組織暫停信；楊立昆則認為整個框架都是層次上的誤置——機器並沒有支配的驅力。這場交鋒最值得讀之處，在於它作為證據所顯示的：共享同一幅技術圖像，對於從中得出的預測，其實約束得很少。
en.wikipedia.org
Nick Bostrom
思想對照Philosopher & Founding Director, Future of Humanity Institute (2005–2024)
對同一個前提的兩種制度性回答，相隔十年、隔著一片大洋。Bostrom 的人類未來研究所把存在性風險當成哲學家的研究題目，留在牛津內部，直到 2024 年被校方關閉；Tegmark 的生命未來研究所則把它當成公共問題，把資本花在公開信、媒體與立法上。兩者並讀，就浮現出這座圖譜一再遇到的問題：面對一個還沒有人能量測的風險，是縝密的論證、還是有組織的警報，做得更多？
