AIは科学研究を脅かしているのか……数学をめぐる論争があおる懸念

パラブ・ゴーシュ科学担当編集委員

英ロンドン中心部の旧時計工場跡地に、白い冷凍庫がずらりと並び、静かに稼働している。中には、バーコード付きのガラス管が入った小さな箱が何十個も保管されている。ガラス管に入っているのは、合計で1000億もの遺伝子だ。この施設の共同創設者オリヴァー・ヴィンス博士によると、このうちたった2箱だけでも、インターネット上の全テキストの10倍もの情報量が含まれているかもしれない。

ヴィンス博士の会社「ベースキャンプ・リサーチ」は、できる限り多くのDNAを収集し、生物学の言語を話せる人工知能（AI）を開発する計画を立てている。これは、アメリカや中国のテック企業が、インターネット上にある膨大な量の文献を収集し、現在のAIシステムの基盤となった大規模言語モデル（LLM）を作成したのと同じ手法だ。

ヴィンス博士は、ビジネス界や学術研究界の多くの人々と同様に、AIが科学研究を飛躍的に加速させると信じている。しかし同時に、AIについては批判や警告も増えている。

生成AIチャットボット「チャットGPT」を開発・運営する米オープンAIは先月、未解決の数学の難問「ミレニアム懸賞問題」の一つを解決したと発表した。同社によると、AIエージェントが、ナビエ・ストークス方程式に関する問題を88時間で解決したという。「ミレニアム懸賞問題」を選び、解決した者に賞金を授与しているクレイ数学研究所は、「解決した様子」だと述べたものの、審査には時間がかかるとしている。

しかし、オープンAIの発表の数時間前、米ニューヨーク大学の数学者トリスタン・バックマスター氏が、公に懸念を表明していた。バックマスター氏は、オープンAIの競合アンソロピックで働く数学者、レヴェント・アルポーゲ氏と独立したチームを結成していた。

このチームもナビエ・ストークス方程式を解こうと研究を進めており、その成果の草稿を、オープンAIのコーディングツール「Codex」に保存していた。

バックマスター氏は、オープンAIに研究の進捗（しんちょく）状況が「伝わった」と、共同研究者が知らされのだと説明したが、その経緯は明らかにしなかった。同氏は、Codexに保存されている自身の研究成果がオープンAIの研究に役立った可能性について疑問を呈した一方、「何かについて誰かを非難しているわけではない」とも強調した。

オープンAIは、人間もAIも、他のチームの成果が発表される前にその内容を見ていないと述べた。一方で同社は当初、可能性は低いものの、自社製品の使用から得られた匿名データがモデルの改善に役立った可能性を「否定できない」と述べていた。しかしその数日後には、発表前の2カ月の間、バックマスター氏のCodexプロンプトが「システムに何らかの影響を与えるなど、あり得なかった」と述べた。

これは複雑な話で、何が起こったのかまだ完全には分かっていない。しかしこれは、科学分野でのAI利用について、深刻化する問題を浮き彫りにしている。通常は「AI」と聞くと、人類を滅亡させる恐ろしい遺伝子操作ウイルスや化学兵器を作り出すロボットを思い浮かべるだろう。一方で、それほど注目を集めていない、より微妙な問題がある。AIが科学的プロセスへの信頼を損ない、研究の新規性や正確性について疑問を投げかける可能性があるという問題だ。

問題はもう一つある。「クロード」や米グーグルの「ジェミニ」といったAIチャットボットが、事実と異なることを時に幻覚のように語ることがあるのは周知の事実だ。存在しない映画や、誰も言っていない名言について語ることもある。そして今、こうした現象が科学分野でもますます顕著になっているという証拠が出てきており、いずれは真の科学的発見とAIが生み出した虚構を区別することが難しくなるのではないかと心配されている。

これらの懸念にはすべて、科学研究を支える信頼という基礎を崩壊させかねない、あるいは侵食する恐れがある。

「転換点」

AIによって、科学的誠実性を守護する存在の科学専門誌が脅威にさらされている。これらの学術誌は、AIが生み出す膨大な量の歪みに対処できていないと見られている。

「生成型AIは科学プロセス全体を混乱させてしまった」と、研究不正について10年間取材してきた科学ジャーナリストのダルミート・シン・チャウラ氏は述べる。

チャウラ氏はBBCに対し、出版社の倫理審査担当者（投稿内容の正確性と信頼性を審査する人々）が「この戦いに少しでもかかわっていくには、人数と労力を大幅に増やす必要がある」と述べた。そして、「現状では、そうしているようには見えない」と付け加えた。

一見すると、AIは科学研究の推進に最適なツールに思える。科学者は膨大な量の情報を扱っている。例えば、望遠鏡や粒子加速器は数十億ものデータポイントを収集するが、これは人間の脳が理解するには大きすぎる。AIは、周囲のありふれた情報の中から科学的な重要なポイントを選び出すことができる。

科学AIの代表格は、イギリスに拠点を置く「グーグル・ディープマインド」だ。同社は2020年、生物学における最大の難問の一つだった、生物体内のたんぱく質がどのようにして正確な形状に折り畳まれるのかという問題を解決した。

生命活動を支える小さな機械ともいえるたんぱく質は、その折り畳まれた形状によって、細胞の構築や感染症との闘いから、体の組織や臓器の形成まで、様々な働きを担っている。

AIが登場する以前、科学者たちは研究室で時間のかかる実験を行わなければならなかった。その後、グーグル・ディープマインドは「アルファフォールド」と呼ばれるAIモデルを開発し、わずか1年で、2億個ものたんぱく質の折り畳み構造を正確に予測することに成功した。

これを従来のやり方で行うには、数億年もの歳月を要しただろう。同社は研究成果を研究者に無償で提供した。2024年、グーグル・ディープマインドの代表と主任科学者は、共同でノーベル化学賞を受賞した。

この出来事には、関係者が皆で抱き合って喜んだ。

同社の科学研究を率いるプッシュミート・コーリ博士は、アルファフォールドは「一つの転換点」と見なせるだろうと私に話した。

AIの働きに疑問

しかし、科学分野でのAIの利用は誇大広告だという批判も招いている。一部のコンピューターモデルは、その発見の重要性を誇張していると非難されており、それを監督する人間の研究者は、十分な懐疑心を持つことなく、一部の主張を信じてしまっているというのだ。

アルファフォールドでの成功に沸くグーグル・ディープマインドはこのほど、新素材の構造予測に注力し始めた。この研究は、より高性能な電池、より安価な太陽電池、そして希土類元素に依存しない電子部品の開発につながる可能性がある。成功すれば、理論上では採掘権をめぐる争いは二度と起こらなくなり、デンマークの自治領グリーンランドは侵略の危険から守られるだろう。

同社のAIモデルは、同社が「約800年分の知識を一気に公開する」と称する、200万個以上の新しい結晶構造を生み出した。そのうち約38万個は、実験室で合成できるほど有望だと考えられた。

しかしその後、米カリフォルニア大学の2人の化学者が、警告を発した。アンソニー・チータム氏とラム・セシャドリ氏が、新種とされる結晶の無作為抽出サンプルを調べたのだ。2人は学術誌「Chemistry of Materials」に論文を発表し、「驚くほど斬新な化合物は見つからなかった」と結論し、多くは「既知の物質のささいな改変」に過ぎないと主張した。2人は、分析方法が間違っているということではなく、得られた結果について、人間の化学者によるいっそうの精査と検証が必要だと指摘した。

グーグル・ディープマインドは2人の主張に反論し、各化合物の新規性を検査したと述べている。見慣れた構造だからといって、新しい構造ではないと結論するのは的外れだと同社は主張する。携帯電話の部品から日焼け止めまで、今日最も有用な材料の多くは、たった一つの原子を交換することで誕生したのだからと。

「ごみ」のような研究

このようなケースでは少なくとも、科学的根拠はおおむね正しく、問題はAIがその重要性を過大評価している可能性にあった。

しかし、恐らくさらに深刻な懸念は、AIが作り出すいわゆる「スロップ（ごみ、残飯などの意味）」に科学誌が汚染されるリスクが高まっていることだ。この場合のAIスロップとは、人間の科学者ではなくコンピューターが研究論文を執筆し、その中で偽の引用や架空の論文をもっともらしく作り出すことを意味する。

ベルギー・ゲント大学のコンピューター科学者ドミトリー・コバック教授は2024年、AIによる文章生成を行うLLMが好むキーワードを、100万件以上の生物医学研究論文から検索した。彼のチームは昨年12月までに、ほぼ90%の論文にAIの痕跡があると発見した。AI検出技術は完璧ではなく、ソフトウェアによっては1780年代に書かれた米国憲法を「AI生成」と誤認することもある。しかしコバック教授は、AIがこれほど大規模に使われていることに衝撃を受けたという。

同教授はネイチャー誌に対し、「LLMがどのような偏見を持っているにしろ、それが突然、（科学）文献全体に浸透してしまう」と述べた。

コバック教授は、AIが科学雑誌を徐々に衰退させていることを懸念する多くの研究者の一人だ。

これは重要なことだ。研究論文は、科学の進歩の生命線だからだ。ある発見が発表されると、世界の別の地域にいる別の研究チームが、その成果を基に研究を進めるための資金を得られるかもしれないのだ。

発表前の研究論文を他の科学者が審査する、査読のプロセスも損なわれつつある。

米スタンフォード大学のウェイシン・リアン氏とジェイムズ・ゾウ氏が率いるチームは、主要な四つのコンピュータ科学学会に提出された査読報告書を分析した結果、テキストの最大17%が、言語モデルを使って大幅に修正されていたことを発見した。

科学論文の信頼性を確保する上で、筆頭著者が先行研究を列挙し、自分の研究が真に新しいものだと示すことが、重要な要素だ。これは引用と呼ばれる。米コーネル大学の別の研究チームは、研究者らがAIを使って引用をまとめた結果、AIが偽の研究を作り出していることを発見した。昨年は、約14万7000件もの架空の研究が引用されていたという。

AIがこのように学術プロセスの健全性を歪め続けるならば、研究者は行き詰まり、公的資金は無駄に使われ、新薬やグリーンテクノロジーといった正当な研究の成果は遅れるか、あるいは全く実現されないことになる。

「研究レベルのAI」

エルゼビアなど一部の科学雑誌出版社は、この深刻化する信頼危機を回避するための措置を講じている。

エルゼビアの研究倫理チームは、論文をより綿密に人間が審査する必要があると判断する、約100の指標を開発した。ネイチャー誌はAI生成画像の使用を禁止し、査読者には原稿をAIシステムにアップロードしないよう指示している。また、科学者が初期段階の研究成果を共有するウェブサイト「arXiv」は、架空の参考文献を提出した研究者を1年間、利用禁止処分とすると発表した。

エルゼビアの関係者は、研究におけるAIの責任ある利用方法を模索している。副社長のサラ・メイン教授も、その一人だ。「私たちが『研究グレードAI』と呼ぶものは、研究の主導権を研究者が握り続けることに主眼を置くものだ」と、メイン教授は言う。

AIエージェントが粒子加速器、宇宙、自然界から得られる膨大なデータを処理する際、AIの作業はしっかりしていると、私たちに確証は得られるのか？

そして、もう一つ懸念すべき点がある。AIエージェントが重要な結果を異常値として見過ごしていないと、どうすれば確信できるのか？　ペニシリン、放射能、そしてパルサーと呼ばれる奇妙な星の発見はどれも、あっさり無視されかねない奇妙な結果から生まれたものだった。人間の直感によるこうした発見は、前世紀における最も偉大な科学的出来事となった。

AIは本当に、偶然の発見や創意工夫といった人間の感覚を再現できるのだろうか？

グーグル・ディープマインドのコーリ教授は、AIに背を向けることが解決策だとは考えていない。「それは電卓を使わずに計算すべきだと言うようなものだ」と、教授は私に話した。しかし、人間による監視が必要なことは教授も認めている。「現在のAIエージェントは不完全だ。誰かが責任を負わなくてはならない」。

コーリ教授は、シンプルな決まりごとに準拠するよう、研究者に呼びかけている。「エージェントが何をしたのかを理解し、責任を取らなければならない。問題を指摘するだけで、あとは機械に論文を書かせて、それを真実として提出させるわけにはいかない」。

オーストリアにあるウィーン・バイオセンターのアンドレア・パウリ教授は、この決まり事に従って研究を進めてきた。

パウリ教授は、精子が卵子にどのように侵入するのかという、これまで誰も解明できていない疑問に10年近くを費やしてきたが、AIの適切な活用が答えに近づく助けとなった。パウリ教授の研究室は、ゼブラフィッシュの卵子の表面に、精子の侵入を可能にする鍵と鍵穴のようなメカニズムを示唆するたんぱく質を発見した。

この事例は、AIによる「ごみ」のような研究もどきが氾濫する中で、希望の光となるものだ。AIは役に立つことがあるのだ。

これは人間についての物語でもある。私が訪れた、ロンドンの旧時計工場跡地にある研究所、ベースキャンプ・リサーチの設立直後、共同創設者のヴィンス教授は白血病で入院した（現在は回復している）。この経験をきっかけに、同教授はがん治療の可能性を高めるAIシステムを開発すると決意した。「うまくいくかどうかは分からないが、試してみる価値はある」と教授は言う。

「我々は技術的に実現可能ながん治療への道筋をたどっている」

これはヴィンス教授からの約束ではなく、方向性を示すものだ。では、果たしてAIはその方向性を科学的に実現するのか、それともその基礎となる部分を静かに侵食していくのか。それが大きな問題だ。

（英語記事　A bust-up between mathematicians is fuelling fears that AI could undermine science）