近年、AIの進化は目覚ましく、その可能性に期待が高まる一方で、その急速な発展がもたらすリスクについても活発な議論が交わされています。特に、その議論の中心にいるのが、AnthropicのCEOであるダリオ・アモデイ氏が提唱する「AI開発のペース調整」論です。先週末、この話題が再び大きく取り上げられ、OpenAIのアルトマンCEOやイーロン・マスク氏も賛同の意を示したと報じられました。
報道によると、アモデイ氏は、AIの急速な自己改善能力とそれに伴う安全上の脅威を鑑み、モデルの能力向上ペースを意図的に抑えるための3段階の計画を公開エッセイで提言しました。この計画には、第三者による常駐評価者の導入や、民主主義国間での協調的な規制枠組みの構築などが含まれているとのことです。主要なAI開発企業トップが、その開発速度について自ら警鐘を鳴らし、調整を求めるというのは、まさに時代の転換点を示す出来事と言えるでしょう。アルトマン氏やマスク氏がこれに同調し、同様の評価体制を導入する意向を示したことは、業界全体がこの問題に真剣に向き合おうとしている姿勢の表れとも受け取れます。
しかし、この「ペース調整」論に対しては、異なる見解も存在します。トランプ政権で大統領科学技術諮問委員会の共同議長を務めるデビッド・サックス氏が、この提案に苦言を呈したというニュースも目にしました。「規制がなければできないふりをやめろ」と批判し、減速を望むなら規制や他者の許可を待たずに自ら実行すべきだと指摘しています。彼から見れば、減速を条件に規制の枠組みを要求する姿勢は、政治への脅迫にも見えかねないというわけです。また、オバマ元大統領もAIの安全性や経済的影響に関する懸念に対し、民主党が「明確な計画」を持つべきだと促しており、AIの未来は技術的な側面だけでなく、政治的・社会的な議論の渦中にあることが浮き彫りになっています。
私個人としては、AIの安全性に対する懸念は非常に重要であり、開発者コミュニティからこうした議論が起こること自体は歓迎すべきだと感じています。しかし、「ペース調整」が本当に実現可能で、かつ公平な競争を阻害しない形で行われるのか、という点には疑問も残ります。一部の企業が開発ペースを落とす一方で、競合他社や他国がその隙を突いて先行しようとすれば、結果として誰もペースを落とせなくなるという「囚人のジレンマ」に陥る可能性もゼロではありません。また、どこまでが「安全」で、どの程度の「ペース調整」が適切なのか、その基準設定も極めて困難な作業です。
結局のところ、AIの未来は、単一の企業や国家が決めるものではなく、国際的な協力と市民社会の広範な議論を通じて形成されるべきでしょう。今回のニュースは、AIという強力なツールを人類がどのようにコントロールし、共存していくのか、その根源的な問いを私たちに突きつけているように思います。技術の進歩を止めることはできないかもしれませんが、その進むべき方向を熟考し、倫理的な枠組みを設けることは、今まさに私たちに課せられた最大の使命ではないでしょうか。