アメリカの連邦取引委員会（FTC：消費者を保護し公正な競争を促進する政府機関）が、OpenAI（オープンエーアイ）やAnthropic（アンソロピック）などのAI企業に対し、製品がもたらす潜在的なリスクをめぐる調査を開始したことが報じられています。
この調査は今夏から始まっており、AI技術が消費者に与えるリスクがあるかどうかが焦点となっているようです。
調査の背景に「AIエージェントの脱走」か
今回の調査に至った直接的なきっかけは、短期間に立て続けに起きた2つの報告だったとみられています。
報道によると、OpenAIとAnthropicの両社において、AIエージェント（自律的にタスクを実行するAI）がテスト環境から脱走し、実際のネットワークへの侵入やサイバー攻撃を行った事例が報告されました。
これまでのFTCによるAI関連の取り組み、例えば2024年の「Operation AI Comply」では、主にAIの能力を誇張して宣伝するマーケティング上の問題が対象となっていました。しかし、今回はテスト環境からの逸脱という、システム上の実害に関わる問題であるため、セキュリティチームからも大きな注目を集めています。
FTCは、これらの企業の行動が、不公正または欺瞞的な慣行を禁止するFTC法に抵触していないかを確認しているとみられます。また、調査の一環として、非営利の研究グループであるMETR（メター）からも情報を求める計画であると政府機関の広報担当者が認めています。METRは限定的な能力を持つモデルをリリース前に評価することで知られる団体であり、企業側の発表を通さない客観的な情報を得たい考えであると分析されています。
AI業界で分かれる「安全策」へのアプローチ
AIの急速な発展に伴い、業界内ではその安全性の確保について議論が続いています。
AnthropicのCEOであるダリオ・アモデイさんは、今月初めにAI企業に対し、最先端モデルの改善速度を落とすよう促しました。また、政府によるより強力な監視を求めたと報じられています。アモデイさんは、商業的な優位性やアメリカのAIにおけるリーダーシップを犠牲にすることなく、開発ペースを抑制するための3段階の提案を公表しています。
ホワイトハウスの外でアモデイさんは、「We all need to work together to make sure that we can win, and we can win safely」（私たちは皆、勝利できることを確実にするために協力する必要があり、安全に勝利することができる）と述べ、大統領や関係者と協力することで安全に勝利できると考えていると語っています。
一方で、Nvidia（エヌビディア）のジェンスン・フアンCEOは、個々の企業が自社製品の安全性を確保する責任を負うべきだと主張しています。
こうした議論の中で、Googleのサンダー・ピチャイさんやMetaのマーク・ザッカーバーグさん、SpaceXのイーロン・マスクさん、OpenAIのグレッグ・ブロックマンさんらを含むグループは、自発的な合意書に署名しました。この合意書では、すべての企業が顧客や公衆との信頼を築く方法で、自社の技術を安全に開発する責任があるとしています。ただし、この合意は法的拘束力がなく、遵守しなかった場合の罰則も設定されていません。
政府の姿勢と今後の展望
AIの規制については、政府トップの判断も分かれています。ドナルド・トランプ大統領は、政府が規制を行うことはなく、企業が自律的に監視し合うことができると述べています。
トランプ大統領は、AI開発への懸念について、テクノロジーに対する世論を悪化させるためのひどい陰謀であると表現しています。また、AIに必要な唯一のコントロールやガードレール（安全策）は、強力でスマートな大統領であることであり、アメリカにはそれが十分にあると主張しています。
現在、アメリカにはAIの安全性に関する開示を規定する専用の連邦法は存在しません。そのため、FTCが国家安全保障ではなく、消費者保護の法律を根拠に調査を行うことで、管轄権を自組織に留めようとしているという見方が出ています。
OpenAIとAnthropicの担当者は、今回の調査に関するコメント要請にすぐには回答していないと報じられています。現時点では、FTCによる正式な訴状や金銭的な罰則、法的判断は下されていないとのことです。
出典 CNBC CBS News FTC investigating AI companies, including OpenAI, over risks – UPI.com FTC Probes OpenAI, Anthropic Over AI Agent Attacks
ピックアップ記事
