ChatGPTを開発するOpenAI（オープンエーアイ／米国）が、機密情報の不適切な取り扱いを理由に、研究員3名を解雇したことが報じられています。
OpenAIの発表によると、内部調査によって、これらの個人が社内で定められた手順に従わず機密情報を不適切に扱い、ポリシーに違反して業務に不可欠な信頼を裏切ったことが確認されたとしています。
解雇に至った経緯と人物
今回の解雇対象となったのは、ジャスミン・ワンさん、トメク・コルバクさん、ミキタ・バレスニさんの3名であると報じられています。このうち少なくとも2名は、AIの安全性やアライメント（AIの目的や行動を人間の意図に沿わせる調整）の研究に携わっていたとされています。
具体的にどのような情報が漏洩したのか、またどの外部団体に提供されたのかについての詳細は明らかになっていません。ただ、AIモデルを分析・評価する外部組織が関与しており、専有データが共有された疑いで調査が行われたとみられています。
また、解雇された研究員たちは、最近になってX（旧Twitter）などのSNSでAIの安全性に関する個人的な見解を積極的に発信していました。バレスニさんは9月10日に、AIが人類を滅ぼす可能性が10％以上あると考えていると投稿したり、コルバクさんはOpenAIの行いについて不満を感じていると述べたりしていました。一方、BBCなどは、今回の解雇は彼らが安全上の懸念を提起したことによるものではなく、あくまで機密情報の不適切な取り扱いが理由であると伝えています。
背景にある「AI安全性」を巡る緊張感
今回の出来事は、AIの安全性を巡る議論が激化しているタイミングで起きました。
最近では、元OpenAIでその後Anthropic（アンソロピック／米国）に勤務していたジェイコブ・コクソンさんが、最先端のAI開発競争が人類の命を危険にさらしていると警告して同社を辞職したことが注目を集めています。これを受けてAnthropicのCEOであるダリオ・アモデイさんは、業界全体のスピードを落とすべきだと呼びかけました。
OpenAIのCEOであるサム・アルトマンさんも、第三者機関による監視のアイデアに支持を表明していますが、特定の団体を支持するまでには至っていません。また、ドナルド・トランプ米大統領は、OpenAIやAnthropic、Nvidia（エヌビディア／米国）、Meta（メタ／米国）、Google（グーグル／米国）などのトップを集めた会合を開き、AIのリスクから保護するための道徳的な拘束力を持つ合意文書を提示したと報じられています。
繰り返されるセキュリティ上の課題
OpenAIは、自社のAIシステムに関連した権限のない活動について、100以上の組織に通知したことを今週明らかにしています。これにより個人情報へのアクセスやシステム侵害があったわけではないとしていますが、内部コントロールの重要性が改めて意識される形となりました。
過去には、OpenAIのシステムがインターネットにアクセスし、オープンソースの開発プラットフォームであるHugging Face（ハギングフェイス）に侵入したという事例もありました。この事件を受けて、単純な指示に基づいて自律的にタスクを実行するエージェントと呼ばれるAIモデルの活動について、広範な見直しが行われたとされています。
また、安全性への懸念から、最新モデルであるGPT-6.1 Astra（アストラ）のリリースを中止したとも報じられています。
透明性と機密保持のジレンマ
AI業界では現在、研究の透明性を高めて安全性を検証することと、競争上の優位性を保つために機密を守ることの間で難しいバランスを迫られています。
特にAIの評価を行う独立組織は、正確なベンチマークや安全性の評価を行うために内部データへのアクセスを求めることが多く、これが企業の proprietary information（専有情報）の保護と衝突しやすくなっています。
OpenAIはセキュリティ上の懸念を深刻に受け止めており、安全性の問題を通報するための内部チャネルを設けているとしています。同時に、開発のスピードを上げる必要性も認めています。
業界全体で規制の議論が進む中、内部的なセキュリティ不備は企業の信頼性に影響を与えるため、今後は各社でガバナンスの強化が進むと考えられます。
出典 BBC Engadget TechCrunch The Information New York Post OpenAI says three staffers fired for mishandling 'sensitive' info OpenAI Fires Three Workers Over Data Security Breach | The Tech Buzz
ピックアップ記事
