Ajeya Cotra

技術研究員・METR

關於

Ajeya Cotra 目前在 METR 從事進階 AI 失控風險的威脅建模與風險評估工作。她此前主導 Open Philanthropy（現為 Coefficient Giving）的技術 AI 安全計畫，在該期間提出了具有廣泛影響力的「生物錨點」（Biological Anchors）框架，用於預測變革性 AI 可能出現的時程。她擁有加州大學柏克萊分校電機工程與計算機科學學士學位。

主要貢獻

提出 Biological Anchors 框架，從算力與類腦參照出發，細緻預測變革性 AI 時程
主導 Open Philanthropy 技術 AI 安全資助，影響早期哪些對齊與治理專案獲得資源
在算力 scaling 與訓練成本趨勢成為主流政策議題前，就已進行系統分析
目前在 METR 研究先進 AI 系統失控風險的威脅模型與評估方法
其工作在有效利他 AI 安全圈極具影響力，但長期時程假設也持續受到短期派與懷疑派研究者質疑

影片與訪談

By 2050 we could get "10,000 years of technological progress"

Discussion on the pace of AI-driven technological acceleration and what it means for civilization

View Details

思想連結

Daniel Kokotajlo

觀點交鋒

AI Futures Project 執行主任

Cotra 的生物錨點報告，為 AI 預測給出了第一個像樣的模型：算力、以大腦為基準的參照類別，以及一個明確的中位數。Kokotajlo 的〈Fun with +12 OOMs of Compute〉（2021）從「更短」的那一側施壓，主張這個模型自身的機制其實蘊含比它所報出的更早的日期；她 2022 年的更新在致謝中提到他的討論，在留言區回答他的提問，並把中位數從 2050 年移到 2040 年。這是一個罕見的公開案例：一份預測是被論證、而不是被氛圍，給往回挪動的。

lesswrong.com · alignmentforum.org

Leopold Aschenbrenner

思想同道

Situational Awareness LP 創辦人兼投資長

一組詮釋性的對照：兩個人數著同一樣東西，感受卻不同。Cotra 建立了以「有效算力的數量級」預測 AI 的習慣；《Situational Awareness》跑的正是這套算術，從 GPT-4 往前一個 OOM、一個 OOM 地疊到自動化的研究者。分開他們的是性情而非方法——她發表區間，並不斷修正；他發表一條軌跡，然後照著它下注。