「AI開発減速論」の行方は（オープンAIのサム・アルトマンCEO）
AIの急速な普及から一転、いま “AIが人類を脅かす未来”を警戒して「AI開発減速論」も提唱されるようになった。だが、その見解についても世界で一枚岩となっているわけではない。中国株アナリスト・田代尚機氏が、米中政府のスタンスと「AI開発減速論」のその先を読み解く。
研究者・経営者らが指摘する「AIが人類を滅亡させる可能性」
オープンAI（OpenAI）は7月21日、開発中のAIモデルがセキュリティテスト中にサンドボックス（隔離した仮想環境の中でプログラムを安全に動かす仕組み、領域）を抜け出し、スタートアップ企業（Hugging Face）をハッキング攻撃したと公表した。その後、監視コントロールの強化、指令遵守の強化、対抗力の調整、物理的な隔離、Runtime Governance（AIが実行中に行う判断、行動をリアルタイムで監視・制御・記録する仕組み）などの対策が採られることになり「AIが自ら安全システムを破り暴走する」リスクは小さくなったようだが、ゼロになったわけではない。
アンソロピックの研究者、ジェイコブ・コクソン（Jacob Coxon）氏は9月8日、Xにおいて辞職を発表、その理由を「過去3年間、オープンAI、アンソロピックでAIのプレトレーニングの研究を行ってきたが、両社は責任ある行動を取っておらず、自己改善型超知能の開発競争にストレートに突き進み、我々の命をギャンブルに晒している」などと説明している。同社のアラインメント科学責任者、エヴァン・ヒュービンガー（Evan Hubinger）氏もこの警告を支持しており「AIが人類を滅亡させる可能性があると真剣に信じており、今後10年の間で起こるその確率は10％超と推定している。我々は現在最大の努力を尽くしているが、AIアライメント問題（AIの目的、行動を人類と一致・協調させること）の解決方法を見出せていない」などと発言している。
この人類を滅亡させる確率（統計的な計算結果ではなく、あくまで主観的な数字）についてだが、xAIを率いるイーロン・マスク氏は10～20％、アンソロピックのダリオ・アモデイCEOは25％（「本当にまずい方向に進む確率」と表現）、オープンAIのサム・アルトマンCEOは10％（「10％は受け入れがたい」と発言）などと推定している。彼らは自己改良による制御不能、悪意ある目的への悪用、人間の意図の無視といった具体的なシナリオを描いており、開発ペースの減速、独立した監視、国際的な規制といった具体的な行動を速やかにとるよう提唱している。
