Meta（メタ）社が提供する新しいAIパーソナルエージェントのMuse（ミューズ）が、ユーザーだけでなくその周辺人物の情報を詳細に収集し、プロファイルを作成していると報じられています。
Museは、ユーザーのメールやInstagramなどのデジタルライフにアクセスし、日常的なタスクを代行することを目的としたAIツールです。しかし、その利便性の裏で、プライバシーに関する深刻な懸念が浮上しています。
Museが収集しているとされる情報の正体
TIME（タイム）誌などの報道によると、Museはユーザーや、チャット、メッセージ、メールの中で言及された人物についてのドシエ（個人ファイル）を1時間ごとに更新しているとされています。
これらのファイルには、ユーザーとその連絡先の出会い方、共通の趣味、紛争、さらには社会グループ内での緊張関係や同盟関係などの詳細が記録されているとのことです。また、Museはユーザーが口に出して言っていない目標を推測するように設計されており、夜間にはその日の会話の分析を行う仕組みになっていると報じられています。
さらに、Museを利用していない人物であっても、Museを利用している他のユーザーとの関係を通じて、同様のマッピングプロセスの対象になると指摘されています。
WIRED（ワイアード）誌によれば、AI安全性の研究者であるKaran Joshi（カラン・ジョシ）さんがMuseのシステムプロンプトなどを抽出したところ、ユーザーの人生に登場するあらゆる人物に対して個別のページを作成する指示が含まれていたとのことです。そこには事実や履歴、関係性、共通点などが記録され、関係を改善するための提案を行う機能も備わっているとされています。
プライバシーとセキュリティをめぐる懸念
Museは非常に広範な権限を要求することが指摘されています。ZDNET（ジーディーネット）のレビューでは、連絡先、カレンダー、メール、さらにはログイン情報やパスワードの保存まで提案される点に注意が必要だとしています。
また、CNET（シーネット）は、ディスクアクセス権限がオフに設定されていたにもかかわらず、あるユーザーのAppleメッセージから約187,000行のデータが同意なく同期された事例があったと報じています。さらに、位置情報や性的指向、遺伝情報、バイオメトリックデータなどの極めて機微な個人情報も収集しているとされています。
これに対しMeta社の広報担当者は、TIME誌の調査結果について否定していません。また、Meta社は、各ユーザーの仮想マシンは隔離されており、他のエージェントがアクセスできないとしています。ただし、製品向上のために個人のやり取りから得られた知見はMeta社に共有される仕組みになっており、共有前に名前などの識別情報は削除されるとしています。
Amazonとの対立と「エージェントによる買い物」の課題
Museの機能の一つに、ユーザーに代わってウェブブラウザを操作し、フォームへの入力や交渉、買い物を行うことができる点があります。しかし、これが大手ECサイトのAmazon（アマゾン）との対立を招いています。
GeekWire（ギークワイヤー）の報道によると、AmazonはMeta社のMuseによる顧客に代わった買い物をブロックしたと発表しました。Amazon側は、Meta社がMuseのアクセスについて事前に同意を得ておらず、エージェントが自身の身元を明かさずに閲覧していること、また顧客の資格情報を取得して保存していることが、プライバシーとセキュリティのリスクになると主張しています。
Amazonの広報担当者は、顧客に代わって購入を行うサードパーティ製アプリはオープンに動作し、サービス提供者の決定を尊重すべきであると述べています。
Meta社の説明と今後の対応
Meta社のCEOであるMark Zuckerberg（マーク・ザッカーバーグ）さんは、機微なデータについては保護策を講じていると述べています。具体的には、パスワードやクレジットカード用のセキュアな資格情報ストアを構築したため、Museがこれらの情報を直接読むことはできないとしています。また、支払いなどの機微なアクションの前には、必ずユーザーに確認を行う仕組みであると説明しています。
Meta社は、Museがプライベートで安全、かつセキュアに構築されたものであるとしていますが、同時にテクノロジーは完璧ではなく、間違いや予期せぬ動作をする可能性があるとも警告しています。
今後の改善策として、Meta社は年内に暗号化を導入し、会社側ですらMuseのデータにアクセスできないようにする計画があるとしています。また、ユーザーはMuseに対して、保存されているファイルのコピーをエクスポートするよう求めることができるとしています。
出典 TIME Meta ZDNET GeekWire CNET WIRED Meta's Muse AI agent performs tasks, but privacy concerns remain | Action on AI – 6abc Philadelphia
ピックアップ記事
