インスタやフェイスブック、児童性的虐待コンテンツを含む広告をなお掲載 インドでは削除命令後も
画像提供, Getty Images
ディイヴァ・アーリア（BBCワールドサービス）
警告：この記事には虐待の描写が含まれています
米メタが過去10カ月の間、人工知能（AI）で生成された児童性的虐待素材（CSAM）を使った有料広告を数百件も掲載していたことが、アメリカを拠点とする活動家らの最新報告書で明らかになった。こうした広告は、インドでも表示されていた。
インド政府は2カ月前に、メタが運営するインスタグラムに対し、CSAMを宣伝するすべての広告とコンテンツを削除するよう命じたばかり。インスタグラムがインドでCSAMを宣伝する有料広告を掲載していたと、BBCワールド・サービスの調査報道チーム「BBCアイ」の取材で明らかになったことを受けての対応だった。
米首都ワシントンに拠点を置く「テクノロジー透明性プロジェクト（TTP）」は今回、フェイスブックとインスタグラムで、CSAMを含む広告を332件発見したと発表した。その大多数に当たる274件は、今年8月に掲載されたものだという。TTPは、大手テクノロジー企業の責任を問う非営利団体「キャンペーン・フォー・アカウンタビリティー」の調査部門。
BBCがTTPの今回の調査結果についてメタに問い合わせたところ、メタは声明で「当社は、ヌードアプリや、現実かAI生成かに関わらず、いかなる種類の児童搾取も容認しない。こうした犯罪者たちは発覚を逃れるため、常に手口を変えているため、当社は検知と取り締まりを強化し続けている」と述べた。
TTPは8日に発表した報告書で、実在する複数の子どもの写真が広告に使われ、AIを使って加工されていたことを確認したと述べている。写真が使われた子どもには、ヨーロッパの王族も含まれていた。
また、TTPが調査結果をメタに伝えた後も、10件以上の広告が同社のプラットフォームに掲載されていたと、報告書は述べている。
広告の約25％（84件）はインドで掲載されていた。そのうち78件は、インド政府がCSAM削除命令を下し、メタの幹部と会談した後に公開されたものだった。
BBCによる調査報道の後、インドでは国家児童権利保護委員会や国家人権委員会など複数の機関が、この問題について調査していると表明した。
同国では、CSAMの配布は違法。また、メタは利用規約において、広告に児童を性的搾取したり危険にさらしたりするコンテンツを含めてはならないと定めている。
BBCが取材内容についてメタに問い合わせたところ、同社は児童搾取の疑いがあることを認識した場合、法的義務に従い、アメリカに拠点を置く全米行方不明・被搾取児童センター（NCMEC）に報告していると回答した。NCMECは、インターネット上の性搾取に関する世界的な中央報告システム。
しかし、インドで子どもへの暴力防止に取り組む250以上の団体からなる「ジャスト・ライツ・フォー・チルドレン」の創設者、ブワン・リブ氏は、これだけでは不十分だと述べている。
同団体はBBCの調査報道後、その結果を引用し、インドの最高裁判所に請願書を提出した。請願書では、SNS企業に対し、CSAMを拡散する人物を報告・特定することを義務付けるよう求めている。
画像提供, Bhuwan Ribhu
「ソーシャルメディア企業は、明らかにインドの法律を無視している。児童保護法で義務付けられているにもかかわらず、児童性的虐待コンテンツをインドの捜査機関に報告していない」とリブ氏は述べた。
アメリカ、イギリス、欧州連合（EU）、インドのインスタグラムとフェイスブックで、CSAMを使った広告が合計332件見つかったと、発表した。TTPは、これらの広告すべてをNCMECに報告したという。
TTPによると、発見した広告のほぼすべては子どもの写真から始まり、動画が再生されるにつれて、AIによって写真が加工され、子どもが露骨な性行為をしているように見えるという。
TTPは、インドで掲載された広告の一つについて、次のように説明した。「10代前半の少女の写真がアニメーション化され、露骨な性行為を行う。ナレーションは『なんの制約もありません。登場人物はすべて実在の人物で、選択肢も豊富です。これこそ、多くの男性が実際に使っているAIです』と語っている」。BBCはこの広告を確認していない。
TTPによると、今年8月の2週間の間に、インド国内の50件以上の個別アカウントがこの広告を投稿していたという。
BBCの調査を受けてメタは7月、自社ウェブサイトに、アプリ上で児童搾取とどのように闘っているかについての詳細な記事を掲載した。
「当社のプラットフォームを利用するユーザーは誰でも、広告が当社の規約に違反していると思った場合、それを通報できる」と、この記事には書かれている。
しかしTTPは、インドで配信されていた広告をメタ独自の報告システムから通報しようとしたものの、84件の55件しか通報できなかったと述べた。メタのプラットフォームでは、広告が配信されている場合にのみ、通報オプションが提供されている。
また、通報した55件のうち43件については、「調査の結果、この広告は当社の広告基準に違反していないと判断した」という回答を得たという。
さらに11件については、既にコンテンツが削除されたとの回答があった。残りの1件については、まだ回答が得られていない。
画像提供, Getty Images
メタはBBCへの声明で、「当社は違反広告をブロックするシステムや、初期段階で見落とした場合に備えた継続的な監視など、強力な防御策を構築している。当社に通報された広告の多くが、既に削除されているのはそのためだ。また、そうした広告のほとんどがインプレッションが200件未満、広告費の総額は5000ドル未満だ」と回答した。
TTPは、自社の問い合わせに対してメタは、通報した広告はすべて削除されていたと回答したと述べた。
これは、BBCの取材中に起きた現象と似ている。BBCがメタの通報システムを使い、児童性的虐待を描いた広告の一つをインスタグラムに通報した際、同プラットフォームはその広告を削除しなかった。
その後、BBCがメタにコメントを求めたところ、同社は既に複数の広告を無効化し、それらを投稿したアカウントを停止したと回答した。また、BBCの調査結果を受けてさらに広告の削除とアカウント無効化を行ったほか、規約に違反するその他のコンテンツのURLをブロックしたと述べた。
TTPによると、調査で発見した332件の広告の大部分は、AIで画像や動画を生成するアプリにユーザーを誘導するもので、その多くが主に中国のディベロッパーが作ったものだった。
TTPの報告書は、児童性的虐待の画像を使って宣伝することで、そのアプリがCSAMの作成や閲覧に使えるという印象を与えていると主張した。
メタは、AIを使って同意のない偽のヌード画像や性的に露骨な画像を作成するヌードアプリの宣伝を禁止すると述べている。
インドのサイバー警察の幹部で、中部テランガーナ州のサイバーセキュリティー局長を務めるシカ・ゴエル氏はBBCに対し、CSAMに関する最大の課題の一つは、「ユーザーが容易にプラットフォーム間を移動できるため、逮捕が難しくなっている」ことだと語った。
「政府がソーシャルメディア企業とのやり取りの中でこの問題に対処し、適切な指示を出すことを期待している」と、ゴエル氏は付け加えた。
画像提供, Shikha Goel
BBCが発見した広告は、ユーザーをSNSプラットフォームからメッセージングアプリ「テレグラム」へ誘導し、そこでわずか99インドルピー（約160円）でコンテンツを購入できるようにしていた。
テレグラムは当時、BBCに対し、CSAM対策として自動化モデレーションと目視によるモデレーションの両方を採用していると説明。プラットフォーム上で「CSAMを公に拡散する行為を事実上、根絶した」と述べていた。
メタのプラットフォームでは、同社のモデレーション技術の承認を受けた広告のみが表示される。この審査システムは主に自動化され、画像、動画、テキスト、音声に加え、広告のターゲット層やリンク先のウェブページなどもチェックするように設計されている。
BBCの取材後、メタは「完璧なシステムは存在しない」とし、「悪質な犯罪者は、広告システムなどを通じて、当社のプラットフォームを悪用しようとし続けている」と述べた。
しかしTTPの調査では、児童性的虐待を取り扱った広告のいくつかは、メタのパートナー認定を受けた中国の広告代理店によって掲載されていたことが判明した。
「リセラー（再販業者）」と呼ばれるパートナーは、数十億ドル相当の中国の広告を、フェイスブックとインスタグラムに配信している。パートナー各社はTTPの質問に回答しなかった。
TTPは、メタに報告書の調査結果を通知した後も、新しい広告が引き続き掲載されていると述べた。報告書は、9月1日と2日にインドで掲載された11件を含む、17件の広告の詳細を明らかにしている。
