OpenAIで安全性報告書の執筆を統括していたデビッド・ロビンソン氏が退社し、同社の企業文化を「壊れている」と批判する寄稿を公開した。AI業界の最前線にいた人物からのこの告発は、単なる個人的な不満ではなく、現代のAI開発が抱える構造的な問題を鋭く突いている。

何が問題とされているのか

ロビンソン氏が指摘する核心は、現在のAI開発における反復的リリース手法（iterate-and-ship）が「失敗を前提とした設計」になっているという点だ。

一般的なソフトウェア開発ではバグを出しながら素早く修正するアジャイルなアプローチが有効だが、AIの能力が指数的に向上している現状では話が変わる。失敗のコストが能力向上とともに拡大していくからだ。自動運転で「まずぶつかってみて学ぶ」とはいかないように、高度化するAIシステムでも同様の慎重さが求められるはずだが、OpenAI社内ではそのブレーキが効いていないと彼は訴える。

原子力・航空との比較という視点

ロビンソン氏が原子力や航空分野の安全知見を引き合いに出したのは象徴的だ。これらの産業は長年にわたる事故と教訓の蓄積から、「絶対に失敗できない系」における安全文化を確立してきた。チェックリストの徹底、独立した安全審査機関、内部告発者の保護──こうした仕組みがAI業界にはまだ存在しない。

彼が求める「未監視下の安全性を担保する新たな科学の確立」とは、まさにこのギャップを埋めることへの呼びかけだろう。

「またか」という疲労感と、それでも重要な理由

ロビンソン氏自身が「自分は一種のクリシェだ」と認めているように、OpenAIの退社者による警告はもはや珍しくない。イリア・サツケヴァーをはじめ、著名な研究者たちが同様の懸念を抱えて去っていった。

繰り返されるパターンに「またか」と感じる人もいるだろう。しかし、安全部門のトップ近くにいた人物が内部の実態を証言し続けること自体、業界全体への圧力として機能する。規制当局や投資家、そして一般ユーザーがAI企業に「安全文化の説明責任」を求める根拠になるからだ。

テック愛好家として思うこと

正直なところ、OpenAIの技術的な進歩には毎回驚かされる。しかしそれと同時に、組織が速度を追求するあまり安全を軽視する方向へ傾いていないか、外からは見えにくいのが現実だ。

ロビンソン氏の退社はOpenAIだけの問題ではない。Google DeepMind、Anthropic、Metaなど、フロンティアモデルを開発するすべての組織が同じ緊張関係を抱えている。「速く動いてものを壊せ」というシリコンバレーのDNAが、どこまでAI時代に通用するのか──これは業界全体が真剣に問い直すべき時期に来ているのかもしれない。

参照記事：