Stuart Russell
加州大學柏克萊分校電腦科學教授
關於
Stuart Russell 是加州大學柏克萊分校電腦科學教授，也是《人工智慧：現代方法》的共同作者——這是全球使用最廣泛的 AI 教科書。他的研究涵蓋機器學習、概率推理與 AI 安全。他已成為倡議先進 AI 存在性風險的重要聲音，主張我們需要從根本上重新思考 AI 系統的建構方式，以確保其保持有益且處於人類掌控之下。
主要貢獻
- 共同著有《人工智慧：現代方法》，成為一代代學生學習 AI 的標準教材
- 創立 UC Berkeley 的人類相容 AI 中心（CHAI），研究在不確定人類偏好的情況下仍保持有益的系統
- 推進機率推理與決策理論方法，讓 AI 建立在不確定性之上，而非脆弱的規則系統
- 研究 inverse reinforcement learning 與偏好不確定性，為人類相容 AI 提供技術基礎
- 著有《Human Compatible》，主張以固定目標最佳化作為先進 AI 基礎是錯誤方向
- 協助 AI 安全與自主武器憂慮進入主流電腦科學；但其風險框架也被批評過於推測或警示性過強
書籍
影片與訪談
思想連結
Max Tegmark
曾經合作物理學家與 AI 安全研究者
2015 年，在波多黎各會議促成 FLI 第一封公開信的幾個月後，Russell 與 Daniel Dewey、Tegmark 合寫了〈Research Priorities for Robust and Beneficial Artificial Intelligence〉——這份文件為那封信補上了技術骨架，把一則警告轉譯成一張可被資助的研究清單。此後的分工一直沒變：Tegmark 打造面向公眾的器械（FLI、《Life 3.0》、2023 年的暫停信），Russell 則從電腦科學內部提供論證——真正出問題的，是這門學科對「AI 系統為何而造」的標準模型本身。
doi.org · Research Priorities for Robust and Beneficial Artificial Intelligence, AI Magazine 36(4), 2015 — S. Russell, D. Dewey & M. Tegmark · futureoflife.org
Nick Bostrom
思想對照Philosopher & Founding Director, Future of Humanity Institute (2005–2024)
兩人都得出同一個結論：一個能力夠強的最佳化器，不必懷有敵意就已經危險——而他們是從這棟樓的兩端走到這裡的。Bostrom 以哲學立論：正交性論題與工具性趨同，讓危險成為「最佳化」本身的性質；Russell 則改寫了自己那本教科書教了三十年的前提——別再給機器固定的目標。一種診斷留給你一個該恐懼的問題，另一種留給你一個該改造的架構。
約書亞·班吉歐
曾經合作AI 先驅與安全研究者
兩人同列〈Managing extreme AI risks amid rapid progress〉（《Science》，2024）的二十五位作者之中——這份掛名罕見地把深度學習的奠基者、一位諾貝爾獎心理學家與一位歷史學家並置。兩個月後，他們又是為 Right to Warn 背書的三個名字裡的兩個——那封信出自 OpenAI 自己的員工之手。如今 Bengio 主持《International AI Safety Report》，Russell 位列其專家小組：這個模式，是一個領域試圖用自己的資深研究者拼出一位裁判。
arxiv.org · doi.org · righttowarn.ai
