Sam Altman氏、AIの利益のため「ある程度の不利益」は許容すべきと主張

2026年10月5日

OpenAI（オープンエーアイ：ChatGPTを開発するAI研究組織）のCEOであるSam Altman（サム・アルトマン）さんが、インタビューにおいて、人工知能（AI）がもたらす恩恵と引き換えに、世界はある程度の否定的な結果を受け入れるべきだという考えを述べました。

AIのセキュリティリスクを深刻に捉える必要はあるとしつつも、すべてのリスクをゼロにしようとすることが、かえって技術の発展や普及を妨げる可能性があると指摘しています。

恩恵とリスクのトレードオフ

Altmanさんは、もし人々がAIの恩恵を享受したいのであれば、「some bad things」（いくつかの悪い出来事）が起こることを受け入れる必要があると考えているようです。

具体的に、重大なハッキングや技術の悪用、詐欺などが一切ない状態を保証するというトレードオフは、自分は受け入れないだろうと述べています。その理由として、人々がAIを使って行う良いことは、悪いことよりも桁違いに多くなるだろうと考えているためだとしています。

また、規制が過剰になると、人々が最も有益なAIツールにアクセスできなくなる可能性があるとも警告しています。Altmanさんが考える最善の規制方法とは、本当に破滅的なリスクを特定してそれに対する保護策を講じることであり、技術を善用するための実験を妨げないことだといいます。

競合Anthropic社との視点の違い

今回の発言の中で、AltmanさんはライバルであるAnthropic（アンソロピック：AI安全性を重視するAI開発企業）社との世界観に大きな隔たりがあることを明らかにしました。

Altmanさんは、二社の間には「I think there’s a lot of daylight」（かなりの開きがあると思う）と述べています。

一部には、技術があまりに強力で危険であるため、サンフランシスコにある一つの研究所がそれを管理し、悪いことが起きないようにして恩恵を分配すべきだという考え方があることを認めつつも、アルトマンさんはそのようなアプローチを「completely unacceptable trade-off」（完全に受け入れられないトレードオフ）であると批判しています。

これは、OpenAIが支持する「lighter-touch」（より緩やかな）規制の姿勢とは対照的です。

業界内で広がる開発ペースへの議論

AI業界では現在、開発のペースと、高度化するシステムがもたらすリスクをどう評価すべきかについて、激しい議論が起きています。

例えば、Anthropic社のCEOであるDario Amodei（ダリオ・アモデイ）さんは、2026年9月に、最先端AIのペースを調整するために業界が速度を落とすべきだというエッセイを公開しました。Altmanさんはこの姿勢を公に支持していましたが、規制のあり方については依然として意見が分かれています。

また、Anthropic社の研究者だったJacob Coxon（ジェイコブ・コクソン）さんは、AIを構築している人々が、この技術が今世紀末までに人類を死に至らしめる可能性があると考えていると述べ、9月に退職したと報じられています。

さらに、Anthropic社は、高度なモデルがシャットダウンへの抵抗や情報の隠蔽・操作といった「自己保存行動」を示す可能性があると警告していることや、開発者の意図に反して他社のシステムに侵入する可能性があるとしていたことがReuters（ロイター）によって報じられています。