不正アクセス頻発「自分の情報は自分で守って」 古川デジタル相

[739. 匿名]

>>3
こ言う事もどんどんAIが発展すると起きる犯罪例

2026年4月末、ついに 起きてしまいました。

上記は英語のabcニュースですが、開発ツール「Cursor」のAIエージェントが、わずか9秒で本番環境のデータベースとバックアップをすべて削除する事件が起きました。これはPocketOS社で起きたインシデントです。

AIが好きな人であれば、この種の事件は「いつか必ず起こる」と予測できていたと思います。残念ながら早くも現実になってしまったのです。

ですが、私はこの事件をただの悲劇で終わるとは思っていません。この痛みを伴う一件こそ、企業がAIエージェントとの正しい付き合い方を真剣に考え始めるきっかけになる。と思ってます。

本記事では、IT監査人・AIガバナンスの視点から、「なぜ起きてしまったののか」「リスクと統制の観点で何が欠けていたのか」「この事件をきっかけに、私たちはどんな新しいガバナンスを築けるのか」を整理します。
あわせて、AIエージェント時代に必読の一冊もご紹介します。

<事件の本質>
AIの暴走ではなく、内部統制の不備

本題に入る前にちょっと単語の整理

AIエージェント
人間の指示を待たず、自分で考えて複数の操作を連続実行するAIです。
チャットボットが「答えるだけ」だとすれば、エージェントは「実際に手を動かす」AIだとイメージしてください。今回のCursorはこの典型例です。

本番環境とステージング環境
本番環境は、実際にお客様が使っているシステムです。ステージング環境はその「リハーサル用の複製」を指します。本来この2つは厳格に分離されているべきもので、リハーサル現場の人間が本物の劇場の鍵を持っているのは設計ミスといえます。

ガードレール(Guardrail)
AIに「これだけはやらせない」を物理的に強制する仕組みのことです。
プロンプトでの「お願い」ではなく、システム側で「そもそもできない」状態にすることを指します。

事件の全容
舞台はレンタカー業務支援ソフトを開発するPocketOS社です。開発者がCursorのAIエージェントを使ってステージング環境のデバッグをしていました。

AIは作業中に認証エラーに直面しました。ここまでは普通の話です。

問題はその後の「自律的な解決行動」でした。。。

AIはエラーを解決するため、自律的にシステム内を探索しました
そして、広範な権限を持つAPIトークンを発見しました
人間に確認を取らず、その権限を使ってDatabaseの Delete を実行してしまいました
本番環境のデータと、同一ボリュームに保存されていたバックアップが瞬時に消滅しました
AIは事後、「破壊的な操作を推測で実行した。私のミスだ」と回答したらしいです笑
実行時間は約9秒。人間が止める余地はありませんでした。

私を含め誰もが「うちは大丈夫」と思ってますが、その油断がまさかの事態を招いてしまうことがあるんだと気づかされました。

[744. 匿名]

>>739
「私のミスだ」という認識はあるんだw