約書亞·班吉歐 (Yoshua Bengio)
AI 先驅與安全研究者
關於
約書亞·班吉歐是蒙特婁大學教授，亦為深度學習的開創者之一，2018 年與傑佛瑞·辛頓、楊立昆共同獲頒圖靈獎。他創立了魁北克 AI 研究機構 Mila，並擔任科學總監直至 2025 年；他在神經語言模型、注意力機制與生成對抗網路（GAN）方面的研究，為現代 AI 奠定了重要基礎。他主持了 2025 年首份《國際 AI 安全報告》，並共同創辦 LawZero，推動「科學家 AI」（Scientist AI）的研發——一種非代理性系統，作為防範具欺騙性自主代理的守門員機制。身為當今最常被引用的在世科學家之一，他已成為呼籲在 AI 能力快速擴張之際保持審慎的重要聲音。
主要貢獻
- 開創神經機率語言模型與分散式表徵，成為現代語言模型的早期構件
- 透過 word embeddings、denoising autoencoders 與 learning-to-learn 方法推進表徵學習
- 共同撰寫神經機器翻譯注意力機制與生成對抗網路（GAN）的奠基性工作
- 創立 Mila，讓蒙特婁成為全球深度學習研究重鎮之一
- 與 Hinton、LeCun 共同獲得 2018 年圖靈獎，表彰其讓深度學習成為 AI 核心典範的貢獻
- 從深度學習推動者轉向 AI 安全倡議者，主持《國際 AI 安全報告》並創辦 LawZero；其對前沿風險急迫性的判斷也持續引發辯論
影片與訪談
AI DEBATE : Yoshua Bengio | Gary Marcus
Montréal.AI's first AI Debate, December 2019: the deep-learning laureate and his most persistent critic on one stage, arguing whether big data and deep learning alone can reach general intelligence. What makes it a classic is not the clash but the concessions — both want causality, both want System 2 reasoning, both admit current networks generalize poorly. They differ on one seam: must symbol manipulation be built in, or can it be learned? Six years of scaling arguments later, that seam has not closed.
View Details
Munk Debate on Artificial Intelligence | Bengio & Tegmark vs. Mitchell & LeCun
Four of the field's most prominent voices, two by two, on one resolution: be it resolved, AI research and development poses an existential threat. Bengio and Tegmark argue the pro; Mitchell and LeCun the con — and the hall moved toward the skeptics. What makes the debate worth watching is not the verdict but the spectacle of experts who share a technical picture and still forecast opposite futures: the clearest evidence that AI risk is not a question expertise alone can settle.
View Details
The Catastrophic Risks of AI — and a Safer Path | Yoshua Bengio | TED
A TED talk laying out the most serious near-term and existential risks from increasingly capable AI systems, and outlining the technical and governance directions Bengio sees as a credible safer path.
View Details
Godfather of AI: How To Make Safe Superintelligent AI – Yoshua Bengio
Bengio explains his proposal for "Scientist AI"—a non-agentic, truthful system designed to serve as a guardrail against deceptive autonomous agents—and why he has grown more optimistic that safe superintelligence is technically achievable.
View Details思想連結
楊立昆
觀點交鋒AMI Labs 執行董事長暨共同創辦人・紐約大學教授
他們曾在貝爾實驗室一起打造 LeNet，共同署名 1998 年那篇教機器讀手寫字的論文，也一起獲得 2018 年圖靈獎——然後在 2023 年 6 月的 Munk 辯論上站到了對立的講台：班吉歐主張 AI 的發展構成存在性威脅，楊立昆主張並不。技術上沒有任何東西把他們分開；他們讀的是同一批架構，預測的卻是不同的未來。這場分歧最清楚地說明了一件事：AI 風險不是光靠專業就能定案的問題。
en.wikipedia.org · en.wikipedia.org
傑佛瑞·辛頓
曾經合作AI 先驅與研究者
兩人與楊立昆共同獲得 2018 年圖靈獎，也合寫了 2015 年那篇《Nature》綜述，等於為整個領域寫下自己的起源故事。而如今把他們繫在一起的，比共同掛名更奇特：兩人花了數十年主張擴大神經網路規模行得通，等到被證明是對的，又一起連署了 2024 年《Science》的〈Managing extreme AI risks amid rapid progress〉。真正讓他們害怕的，是自己說對了。
en.wikipedia.org · arxiv.org
Gary Marcus
觀點交鋒認知科學家、AI 批評者與作家
2019 年 10 月，Marcus 發表了一篇長文回覆 Bengio；同年 12 月，Montréal.AI 把兩人請上同一個舞台，舉辦第一屆 AI Debate——大數據與深度學習本身，足以抵達通用智能嗎？這場交鋒真正值得讀的地方，在於他們讓步了多少：兩人都同意深度網路的泛化能力薄弱，也都希望把因果與 System 2 推理納進來。分歧只在於符號操作究竟必須被內建、還是可以被學會——而這道裂縫，此後貫穿了每一場關於規模的爭論。
youtube.com · medium.com · syncedreview.com
Stuart Russell
曾經合作加州大學柏克萊分校電腦科學教授
兩人同列〈Managing extreme AI risks amid rapid progress〉（《Science》，2024）的二十五位作者之中——這份掛名罕見地把深度學習的奠基者、一位諾貝爾獎心理學家與一位歷史學家並置。兩個月後，他們又是為 Right to Warn 背書的三個名字裡的兩個——那封信出自 OpenAI 自己的員工之手。如今 Bengio 主持《International AI Safety Report》，Russell 位列其專家小組：這個模式，是一個領域試圖用自己的資深研究者拼出一位裁判。
arxiv.org · doi.org · righttowarn.ai
