OpenAI（オープンエーアイ）のCEOであるSam Altman（サム・アルトマン）さんが、AI（人工知能）がもたらす広範な利益を得るためには、社会としてある程度の不都合な出来事を受け入れるべきだという考えを述べました。
複数の報道によると、Altmanさんはインタビューの中で、ハッキングや詐欺などの「悪いこと」が起こる可能性を認めつつも、それを完全に排除しようとすることには反対する姿勢を示しています。
AIの便益とリスクのバランスについて
Altmanさんは、AI技術の便益と、人々がAIを広く利用できる権限（エージェンシー）を持つことのために、世界はある程度の悪い出来事を受け入れるべきだと考えています。具体的には、重大なハッキングや技術の悪用、詐欺などがゼロであることを保証するために、AIの普及にブレーキをかけるという選択はしないと述べています。
その根拠として、人々がAIを使って行う「良いこと」は、悪いことよりも桁違いに多くなると考えているためだと説明しています。また、社会がレジリエンス（回復力）を高めていく過程で、一部の不都合な出来事が起こることは、彼らが提唱する緩やかな規制アプローチに伴う必然的な事実であるとしています。
一方で、許容できないリスクについても言及しています。例えば、今世紀末までにAIが人類を滅ぼすリスクが10%あるという状況は受け入れられないとしており、OpenAIとしてそのようなリスクは取っていないし、取るつもりもないと強調しています。
業界内での立ち位置と議論
Altmanさんのこの見解は、AI業界内での安全策や規制に関する議論の中で出たものです。特に、ライバル企業であるAnthropic（アンソロピック）などのより厳格な安全策を重視する立場とは、アプローチに大きな隔たりがあるとしています。
AnthropicのCEOであるDario Amodei（ダリオ・アモデイ）さんは、最先端AIの開発ペースを調整することを求めるエッセイを公開しており、Altmanさんは当時この立場を支持していましたが、規制のあり方については異なる視点を持っているようです。また、Anthropicの研究者であったJacob Coxon（ジェイコブ・コクソン）さんは、AIが今世紀末までに人類を滅ぼす可能性があると信じている人々がいるとして、同社を辞職したと報じられています。
さらに、Anthropicは、高度なモデルがシャットダウンへの抵抗や情報の隠蔽といった自己保存的な行動を示す可能性があると警告しているとReuters（ロイター）が報じています。
外部からの反応と対立
Altmanさんの「リスクを受け入れるべき」という主張には、強い反発も寄せられています。フロリダ州のRon DeSantis（ロン・デサンティス）知事は、少数のテック業界の有力者が他のすべての人に代わって安全性を決定するという考えには同意できないと述べています。
また、AI懐疑論者として知られるニューヨーク大学の名誉教授Gary Marcus（ゲイリー・マーカス）さんは、Altmanさんの発言について、自分たちが富と権力を得るために（一般の人々に）耐えろと言っているに等しいと批判しています。
こうした議論の一方で、政治的な動きとしては、ドナルド・トランプ米大統領が新しい規制への呼びかけを概ね退けている状況にあります。トランプ大統領は、規制が中国のライバル企業と競う米国企業の妨げになると主張しており、既存の機関による監視で十分であるという考えを示しています。
その他の懸念と今後の展望
Altmanさんはサイバーセキュリティについても言及しており、オープンソースの競合モデルによって、今後サイバーセキュリティ上の問題が「津波のように」押し寄せる可能性があると警告しています。これに対し、OpenAIが顧客の防御を支援できる可能性を示唆しています。
また、AIの安全性に関する重要な課題として「アライメント（調整）」を挙げています。アライメントとは、AIを人間の価値観に沿ったものにする取り組みのことですが、Altmanさんはまだこの問題は解決されていないと認めています。一部でアライメントが十分に解決されたと考え、モデルが「いい人」だから何も悪いことはしないと信じてトレーニングを続けるという噂があることに対し、不安を感じると述べています。
このように、AIがもたらす破壊的な効率化や便益への期待と、制御不能なリスクへの恐怖が交錯する中で、OpenAIはあえて「ある程度のリスク」を許容する方向性を提示しています。
出典 Fortune The Guardian Sam Altman Says World Should Accept Some AI Risks For Its Benefits Sam Altman says AI benefits justify some risks | The Daily Star Sam Altman says we should accept a ‘few bad things’ happening for benefits of AI | indy100
ピックアップ記事
