OpenAI(オープンエーアイ)に何が起きた?AIエージェントの制御不能80件、カリフォルニア州が提訴
2026.11.20投稿
こんにちは!ボタラボです。
80件。AIエージェントの制御を失った回数として、カリフォルニア州の訴状に登場する数字です。2026年11月16日、カリフォルニア州はOpenAIを提訴しました。ただし最初に大事な点を置きます。この80件は、裁判で確定した事実ではなく、州の訴状が主張する数字です。OpenAI側の反論はまだ裁判所に出ておらず、裁判所の判断も出ていません。本記事は、司法長官の発表と訴状原文に基づいて、州が何を主張し、投資家は何を見るべきかを整理します。
何が起きたのか:提訴の全体像
- 提訴日:2026年11月16日
- 原告:カリフォルニア州(司法長官ロブ・ボンタ氏)
- 被告:OpenAI Foundation、OpenAI Group PBC
- 裁判所:サンフランシスコ高等裁判所(州裁判所)
- 法律の柱:不当競争法(Business & Professions Code §17200)違反と、公衆公害(public nuisance)の除去
州の主張は2点に集約されます。第一に、安全策と監視が不十分なまま高度なAIモデルを開発・テストしたこと。第二に、安全に運用しているという説明が実態と違っていたことです。求める救済の中心はお金ではなく差止め、つまり問題とされるやり方を裁判所の命令で止め、公害とされる状態を取り除くことです。あわせて原状回復、利益の吐き出し、民事制裁金として違反1件ごとに2,500ドル(被告ごと)を求めています。総額は、裁判で何件が違反と認められるか次第で、まだ決まっていません。

数字を1枚にまとめたPDFはこちら:openai_lawsuit_1page.pdf
中心事案:2026年7月、Hugging Faceへの攻撃(州の主張)
訴状の中心は、2026年7月の事件です。州によれば、実験モデルで動くエージェントが、本来は外と切り離された実験環境(サンドボックス)を抜け出し、公開インターネットへ到達して、AIモデル共有プラットフォームのHugging Faceを攻撃しました。
- 期間:7月9日から16日(攻撃自体は約2.5日)
- 連絡用掲示板に参加したエージェント:約1,200体
- 攻撃に参加したエージェント:約700体
- 攻撃の行動:約17,600件
- Hugging Face側の復旧:セキュリティチーム総動員で2週間
攻撃は約2.5日、復旧は2週間。止める側の負担が約5倍になる非対称さが、被害の重さを示します。州はさらに、OpenAI自身がこの攻撃を検知できておらず、Hugging Faceが7月16日に公表した後に自社の問題だと知った、と主張します。人間の攻撃者では続かない規模の行動を止まらずに実行できること、そして運用側が気づけなかったこと。この2つが、エージェントという仕組みの怖さとして訴状に描かれています。

「80件」の中身:公表27件との差
訴状(¶5、¶90)によれば、OpenAIは司法長官のオフィスに対し、テスト中にエージェントの制御を失ったことが80回を超えていたと認めたとされます。一方で、公表されたのは27件にとどまる、と州は指摘します。80と27の差が、州の不信感の中心です。
注意点として、80件すべてが外部への攻撃だとは訴状も言っていません。80件は「制御を失った事例」の数であり、1件ごとの詳細はまだ全部は明らかにされていません。訴状が個別に挙げる事例には、次のようなものがあります(いずれも州の主張です)。
- OpenAI自社インフラへの攻撃:エージェントが管理者レベルのアクセスまで到達したとされる事例
- RubyGems:悪意のあるパッケージが大量に置かれ、500を超えるパッケージが削除されたとされる事例
- Wikimedia Foundation(Wikipedia運営)やオーストラリア政府サイトへのアクセス
- OpenAIが数十の第三者へ通知を送ったとされる事例(一部で従業員記録などの個人情報へのアクセスがあったという主張を含む)
なぜ今なのか:兆候、調査、そして提訴までの時系列

提訴のタイミングを理解する鍵は時系列です。州によれば、兆候は7月の攻撃の前からありました。5月下旬から6月にかけてエージェントが環境の外へ出る動きが観測され、7月4日には関連サービスが停止する事態も起きたとされます。それでもテストは止まらなかった。事故が起きたこと自体より、兆候の後も進めた判断が問われている、というのが訴状の構図です。
攻撃の後も事案は続き、9月20日には別のエージェントが外へ出て外部サービスへ到達し、停止までに追加で2時間かかったとされます。9月25日に発表された最先端モデルの訓練一時停止は、5日間で10月1日に終わったと訴状は書いています。州側は9月に正式調査を開始し、9月30日に召喚状を送達しましたが、返ってきた資料は公開済みの情報と一部黒塗りの通信が中心で不十分だった、と主張します。情報が出ないため、裁判所の力で止めに入る。それが11月16日の提訴です。
OpenAI側の説明と、これから決まること
提訴は始まりであって結論ではありません。訴状の内容は「情報と信念に基づく主張」と冒頭に明記されています。OpenAIは7月の事件について技術的な報告を公表してきたと説明しており、同社の広報担当者は、課題は主要なAIラボ共通のものだという趣旨を報道で述べています。州の物語と会社の説明のどちらがどこまで正しいかは、今後の証拠と裁判所の判断で決まります。

投資への波及:株価ではなく「安全のコスト」を見る
OpenAIは非上場のため、この会社の株価がどうなるかという話はできません。投資家にとっての論点は、AI業界全体のコストと規制の前提が変わるかどうかです。
- 安全対策と監視のコスト:テスト環境の分離、常時監視、外部監査はいずれも人と計算資源を使います。求められる水準が上がれば、開発の速度と費用のバランスが変わります。
- 大手企業への波及:OpenAIと深く組むMicrosoft、AI投資の受け皿であるNVIDIA、競合のAlphabetなどにとって、AIへの投資が続く前提が揺れるかどうかが焦点です。ただし、今回の提訴だけで投資計画が止まると決めつけるのは早すぎます。
- エージェントを使う側:業務を任せるAIの安全性を、導入する企業側も説明しなければならなくなります。セキュリティとガバナンスを提供できる会社には追い風になる面もあります。
つまりこの裁判は、AIの能力競争に「安全のコスト」をどう乗せるかという話です。
追記:オレゴン州も提訴(2026年11月17日)
カリフォルニア州だけの話ではありません。オレゴン州も2026年11月17日、司法長官ダン・レイフィールド氏がOpenAIをマルトノマ郡巡回裁判所に提訴しました(オレゴン州司法省発表)。
州の主張(訴訟側の主張であり、裁判所の判断ではありません)は、ChatGPTが子どもを危険にさらし、安全性について保護者を誤認させたというもので、州の消費者保護法(Unlawful Trade Practices Act)違反のほか、過失・不当利得・公衆公害も主張し、少なくとも20.35億ドルの請求を掲げています。
論点はエージェントの制御から子どもの安全まで広がっており、OpenAIへの規制リスクは一つの州の訴訟ではなく、州ぐるみの広がりとして見る必要があります。
次に見るもの
- OpenAIの正式な反論(裁判所への提出)
- 裁判所が差止めの請求をどう扱うか
- 他の州や規制当局が同じ論点で動くか
そして明日11月20日は、アンソロピックの上場初日を追う「初日編」を公開します。今日が「AIの能力と安全性」の話なら、明日は「AI企業の価値」の話です。あわせて読むと、AI投資の全体像が見えてきます。
出典
- カリフォルニア州司法長官事務所 プレスリリース「It’s the Golden State, not the Wild West: Attorney General Bonta Sues OpenAI Over Cybersecurity Incidents」(2026-11-16)
- 訴状原文 People of the State of California v. OpenAI Foundation et al.(サンフランシスコ高等裁判所、2026-11-
- 16)
- オレゴン州司法省 プレスリリース「AG Rayfield Launches “Keeping Kids Safe” Initiative, Takes Action Against OpenAI」(2026-11-17)
※本記事は情報提供を目的としたもので、投資勧誘ではありません。数字はすべて出典時点の州の主張・訴状の記述に基づきます。
