米オープンAIのアルトマン氏、世界がAIを「恐れるのはもっとも」だが「企業を信頼すべき」と主張
画像提供, Reuters
カリ・ヘイズ・テクノロジー記者
米オープンAIのサム・アルトマン最高経営責任者（CEO）は15日、人工知能（AI）開発に伴うあらゆるリスクに対する懸念が高まるなか、自社を含むAI企業が正しいことをすると信じてほしいと述べた。
アルトマン氏はこの日、米サンフランシスコで開催されたカンファレンスで、「世界は、私たちが正しいことをすると信じるべきだ。なぜなら、それが正しいことであり、私たちはこの問題の重大さを痛感しているからだ」と述べた。
アルトマン氏はまた、AIの能力が急速に進歩しているため、人々が抱く不安は正当なものだと指摘。「以前ほど想像力を働かせなくても、事態が悪化する可能性は容易に想像できる」、「世界がこれを恐れるのはもっともだと思う」とした。
アルトマン氏はこの日、米ソフトウェア企業セールスフォースが主催する年次カンファレンスに出席した。
同氏が公の場で発言したのは、米アンソロピックを退職したAI研究者の発言が広まって以来、初めて。ジェイコブ・コクソン氏は今月8日にアンソロピックを退職した際、ソーシャルメディアにAIの危険性に関する自身の考えを投稿。その中でコクソン氏は、AIが放置されれば、今後10年以内にAIが「全人類を滅亡させる」可能性が10％以上あると主張していた。
それ以来、複数のAI企業の幹部や専門家がこの意見に同調しているが、こうした結論に至った経緯や、AIが具体的にどのような方法でそうしたことを実現できるかについては説明しなかった。
AIを取り巻くリスクについての議論は、ここ数日、AI開発に対する厳しい監視につながっている。アンソロピックのダリオ・アモデイCEOは先に、すべてのAI開発のペースを減速させるよう求め、各国政府に業界を規制するよう呼びかけた。
アモデイ氏の提案は、アルトマン氏のほか、米グーグル傘下のAI企業ディープマインドの共同創設者であるデミス・ハサビス氏、そして米xAIを所有する米実業家イーロン・マスク氏からも称賛された。
一方で15日までに、大勢のAI分野のリーダーたちが、政府の介入よりも自主規制を支持する声を上げた。
アルトマン氏は、オープンAIのようなAI企業は基本的に自らを規制できる能力を持っていると感じていると述べた。
「我々は必ず成功させる。当社と業界が安全にこれを実現できる能力を私は非常に高く評価している」とアルトマン氏は述べた。
さらに「常に能力をはるかに上回るレベルで連携と安全性を確保する」と確信しており、それができない場合は「ペースを落とすか、停止する」と付け加えた。
アルトマン氏の発言を受けて、米メタのマーク・ザッカーバーグCEOは、すべてのAI研究所は安全性を考慮して設計されたAIツールやモデルを作成するために「独自の行動をとる」能力と動機を持っていると述べた。
ザッカーバーグ氏はXへの投稿で、「アライメントに注力しない研究所は必ず後れを取るだろう」、「（AI）研究所は、自社のモデルが害を及ぼせば重大な法的責任を負うことになるため、それを未然に防ぐ強い動機も持っている」と語った。アラインメントとはこの場合、機械の行動と目標が人間の意図と安全基準に完全に一致することを指す。
15日にアルトマン氏と同じカンファレンスに出席した米半導体大手エヌビディアのジェンセン・フアンCEOも、AI企業は製品の新バージョンをリリースするかどうかを自ら決定すべきであり、外部勢力によって管理されるべきではないと述べた。
フアン氏は、「新たな法律や規制は必要ない」と強調。イノベーションのスピードとAI製品の安全性の間に「誤った二者択一」があってはならないと付け加えた。
時価総額で世界最大の企業であるエヌビディアは、AIコンピューティングチップに対する需要の急増により、利益が急成長している。
「安全は最優先事項だ。しかし、安全は工学的な問題でもある」と、フアン氏は述べた。さらに、AI企業のリーダーが自社製品に自信を持てなくなった場合は、製品をリリースしないという選択をすべきだと付け加えた。
「それはごく当たり前の行動だ」
「できる限り速く駆けろ。だが、もし組織が制御不能だと感じたら、立ち止まるべきだ」
業界関係者の中には、AIに対する懸念の再燃は誇張されているか、あるいは話題作りのために意図的に仕組まれたものだと指摘する者もいる。
数百人のビジネスパーソンを前に講演したアルトマン氏は、業務を支援するためにAIツールを活用すべきだと語った一方、AIを利用したサイバー攻撃から企業を守るためにもAIツールが必要だと述べた。
一方、AI業界の幹部に自己規制が完全に委ねられるという考えを、好ましくないと考えている人もいる。
アンソロピックの共同創業者の一人、ジャック・クラーク氏は14日、BBCに対し、AIを「全く規制のない業界」に放置することは「途方もないリスクを伴う賭け」だと語った。
米ロジカル・インテリジェンスのパトリック・ヒルマン最高執行責任者（COO）は15日、人々は、テクノロジー企業が真に公共の利益となることを成し遂げるとはほとんど信じていないと指摘した。ロジカル・インテリジェンスの役員には、AI研究の先駆者として「AIの父」と呼ばれている米ニューヨーク大学のヤン・ルカン教授も名を連ねている。
ヒルマン氏は、「今現在、アメリカ国民がワシントン（政府）よりも信頼していない唯一の組織は、シリコンバレーかもしれない。私は両方で働き、暮らした経験があるが、どちらもこの懐疑的な見方を受けるに値すると断言できる」と述べた。
「もしあなたが、自分たちが作っているものが危険だと考えているのなら、何をやめる覚悟があるのかを示してほしい」
オープンAIとアンソロピックの幹部らは、安全に関する業界全体の合意形成に向けて取り組み始めたと述べている。
アンソロピックのアモデイ氏は15日のカンファレンスにゲスト出演した際、同社は現在、AIツールと開発における安全基準と検査の向上に取り組むため、「業界全体と対話している」と述べた。
アモデイ氏はまた、AIブームにおける最大の驚きの一つは、技術そのものの進歩ではなく、AIがいかに広く影響を及ぼすかだったと述べた。
「AI企業がこれほど急速に成長し、あっという間に社会の中心的存在になるとは、私たちは予想していなかった」とアモデイ氏は語った。
オープンAIの幹部であるクリス・ルヘイン氏は先週、同社がアンソロピックやグーグルといった他社とも協力し、「政府の支援の有無にかかわらず、自主的な取り組みを構築することで、最先端のAI標準を推進している」と述べた。
「これほど重大な局面では、完璧を求めるあまり、良いものを犠牲にしてはならない」とルヘイン氏は書いている。
