情報ＢＯＸ：米が敵対国の最先端ＡＩ利用を警戒、具体的な懸念は

５月９日、バイデン米政権は、米国の人工知能（ＡＩ）を中国やロシアから保護するため、最先端基盤モデルに輸出規制を設ける計画に取り組んでいる。写真はAI のイメージ。２０２３年６月撮影（２０２４年　ロイター/Dado Ruvic）

Alexandra Alper

[ワシントン ９日 ロイター] - バイデン米政権は、米国の人工知能（ＡＩ）を中国やロシアから保護するため、最先端基盤モデルに輸出規制を設ける計画に取り組んでいる。ロイターが８日報じた。

政府や民間研究者が懸念しているのは、膨大なテキストや画像を採集して情報を要約し、コンテンツを生成するモデルを敵対国が利用して、サイバー攻撃を仕掛けたり、果ては強力な生物兵器を作ったりする可能性だ。

ＡＩがもたらし得る脅威をいくつか紹介する。

◎ディープフェイクと誤情報

ディープフェイクはＡＩアルゴリズムによって捏造（ねつぞう）された動画などで、米国の政治が二極化する中にあって、ソーシャルメディア上で事実と虚構の境をあいまいにしている。

こうした合成メディアは数年前から存在していたが、安価かつ簡単に本物そっくりのディープフェイク動画を作成できる「ミッドジャーニー」などの新しい生成ＡＩツールが数多く登場したことから、この１年で一気に増加した。

オープンＡＩやマイクロソフトなどが提供するＡＩ搭載型の画像作成ツールは、選挙に関連した偽情報を助長するような写真の作成に使われ得る。中には実際のニュース記事を模倣するＡＩの能力を利用して偽情報を広める動きもある。

フェイスブック、Ｘ（旧ツイッター）、ユーチューブなどの主要なソーシャルメディア・プラットフォームは、ディープフェイクを禁止、削除する取り組みを行っているが、その効果はまちまちだ。

例えば昨年、中国政府が管理するニュースサイトが生成ＡＩプラットフォームを利用し、米国がカザフスタンで対中生物兵器を製造する研究所を運営しているというデマを流したと、米国土安全保障省は発表している。

ジェイク・サリバン大統領補佐官（国家安全保障担当）は８日にワシントンで開かれたＡＩ関連のイベントで講演し、この問題は「大規模に偽情報を利用し、民主主義を混乱させ、プロパガンダを推進し、世界的な認識形成を行おうとする国家や非国家主体の意図」とＡＩの能力が組み合わさっているため、簡単には解決できないと述べた。

◎生物兵器

米国の諜報機関、シンクタンク、学界は、悪質な外国勢力が高度なＡＩ能力にアクセスすることによるリスクに懸念を募らせている。グリフォン・サイエンティフィックとランド・コーポレーションの研究者は、高度なＡＩモデルが生物兵器作りに役立つ情報を提供する可能性があると指摘した。

グリフォンは、敵対勢力によって大規模言語モデル（ＬＬＭ）が生物化学分野で利用される可能性について研究し、ＬＬＭが生物兵器の製造に役立つ情報を提供することができるとの結論に至った。パンデミックを引き起こし得るウイルスを扱うのに当たり問題が生じた場合に、ＬＬＭは解決に役立つポスドク（博士課程終了後）レベルの知識を提供できることが分かったという。

またランドの研究では、ＬＬＭが生物兵器攻撃の計画と実行に役立つことが示された。例えば、ＬＬＭはボツリヌス毒素のエアロゾル投与法を提案できる。

◎サイバー兵器

米国土安全保障省は今年の報告書で、パイプラインや鉄道を含む重要インフラに対する「より大規模で高速、効率的で、防御をすり抜けやすいサイバー攻撃」を可能にする「新しいツール開発」のために、ＡＩが利用される可能性が高いと分析した。

同省によると、中国などの敵対国は、マルウェア攻撃を支援する生成ＡＩプログラムなど、米国のサイバー防御を弱体化させる可能性のあるＡＩ技術を開発している。

マイクロソフトは２月の報告書で、中国や北朝鮮の政府、ロシアの軍事情報機関、イラン革命防衛隊につながりのあるハッカー集団がＬＬＭを用いたハッカー攻撃の精度向上に取り組んでいるのを突き止めたと明らかにした。

◎脅威への新たな取り組み

超党派の米議員グループは８日遅く、政府によるＡＩモデル輸出規制を容易にする法案を公表した。外国の敵対勢力から貴重な米国の技術を守るのが狙いだ。

この法案はまた、国家安全保障にリスクをもたらすＡＩシステムの開発で、米国人が外国人と協力することを禁止する明確な権限を商務省に与えている。

ワシントンでＡＩ政策アドバイザーを務めるトニー・サンプ氏は、米議員らはイノベーションを阻害しないよう、重すぎる規制は避けようと努めていると説明。それでも「規制によってＡＩ開発を取り締まれば、創薬やインフラ、国家安全保障などの分野における革新を阻害し、海外の競合相手に地歩を譲ることにつながりかねない」と警告している。