AIがもたらす結果に誰も備えていないと警告、オープンAIの主任サイエンティストがブログで
画像提供, Getty Images
ローラ・クレス・テクノロジー記者
米オープンAIの主任サイエンティスト、ヤクブ・パホツキ氏はこのほど、人工知能（AI）の急速な進歩に対して「きわめて慎重な対応」を呼び掛けるとともに、「人類が確実に未来を制御し続けるため」には、これまで以上の介入が必要かもしれないと警告した。
パホツキ氏は6日、同社ウェブサイトで「アン・エイリアン・マインド（異質な知性）」と題した記事を公表。その中で、「機械知能の急速な台頭が続くことでもたらされる結果に、誰も備えていないのではないかと懸念している」と書いた。
オープンAIはこの数日前に、生成AIチャットボット「チャットGPT」の最新モデル「GPT-6アストラ」をリリースしたばかり。同社はこのモデルを、これまでで最も強力な製品だとしている。
オープンAIや米アンソロピックなどは先に、テスト中のAIエージェントが自律的に行動し、現実世界で他社にサイバー攻撃を実行したことを明らかにした。
オープンAIは7月、人間の指示に従って自律的に動作する同社のAIエージェントが、テクノロジープラットフォームの米ハギングフェイスをハッキング攻撃したと発表。これを「前例のない出来事」と呼び、8月末に調査報告書を公表した。
しかし9月に入ってから、ハギングフェイスへの攻撃の数カ月前にも、同社のAIエージェントがドイツのウェブサイトを乗っ取っていたと報じられた。
パホツキ氏はブログの中で、「私たちは、非常に高い知能を持つ機械が存在する世界への移行期に直面している。そして、その移行が人類にとって確実にうまくいくようにする必要がある」と書いた。
また、オープンAIは今後も「防御システムの構築」を続け、アラインメント（機械の行動と目標が人間の意図と安全基準に完全に一致すること）に関する技術的な解決策を模索していくと述べた。
パホツキ氏は、同社にとって今後の優先的課題の一つは、AIの進歩に後れを取らないように「自動化されたAI研究者」を構築することだと説明。同時に、人間の研究者がそのプロセスに関与し続ける方法を確保することも重要だと述べた。
英ケンブリッジ大学「テクノロジーと民主主義のミンデルー・センター」の所長を務めるジーナ・ネフ教授は、「オープンAIは、人の安全を守るために優れたAIの安全対策や規制、あるいは保証を設けるのではなく、その代わりに、こうした問題を研究するための内部AIエージェントを開発すると提案している」と指摘した。
「オープンAIのモデルが引き起こしているサイバーセキュリティー、雇用喪失、ミス、エラー、詐欺といった問題に対する懸念の高まりに対して、このような回答はまったく不十分だ」
AIの安全性について提言する米団体「エンコードAI」で法務顧問を務めるネイサン・カルヴィン氏は、高度なAIモデル開発に潜む危険性についてパホツキ氏の意見に同意すると述べた。その一方で、オープンAIが透明性を欠いているために、この警告が「単なる自己利益のための誇大広告」として片付けられてしまう危険性があると懸念を示した。
「もしヤクブやオープンAIの他のメンバーが、AI業界の関係者と協力して物事をうまく進めたいなら、彼らにできる最も重要なことの一つは、自分たちが注意を促している状況について、もっと多くの情報を共有することだ」と、カルヴィン氏はXに書いた。
どのような対策が講じられているのか
世界の規制は、AI開発のペースに追いつくのに苦慮している。
欧州連合（EU）では8月2日にAI法が8月2日に施行された。オープンAIのようなAI大手は今後、自社の最も強力なモデルが自律的にサイバー攻撃を実行したり、人間の制御を回避したりできないことを証明しなければ、欧州での販売が許可されない。
しかし、この法律の管轄範囲はヨーロッパに限られているため、他国で開発されたAIが暴走し、欧州大陸を脅かすのを阻止することはできない。
パホツキ氏は6日のブログ記事で、法的に、または国際的に義務付けられた最低限の安全基準を設け、それを「第三者監査機関のネットワーク」または「政府機関」が強制できるようにすべきだと主張した。そうすればAIの開発・研究者らは、AIの規模を拡大したり高度なモデルを展開したりする前に、まずはこうした安全基準を満たすことが求められるようになると、同氏は書いた。
パホツキ氏はさらに、共通の安全策が確立されるまでは、企業がAI開発を自ら一時停止する「自主的な減速」が一般的になるよう期待しているとも述べた。
オープンAIは8月、セキュリティー向上のため、最も高度なAIモデルの一部についてトレーニング速度を落としたと発表した。
