ある日、AIが「ハッキングを自律的に実行した」と聞いたら、あなたはどう感じますか?
便利な道具が、ある瞬間から”武器”に変わる。
そんな物語は、SF映画の中だけの話だと思っていたかもしれません。
けれど今、それが現実の話として、静かに私たちの前に姿を現し始めています。
そのきっかけとなったのが、AI企業Anthropic(アンソロピック)による、ある衝撃的な発見でした。
実験ではなく「実際の攻撃」 中国の国家支援グループによる史上初のAI主導サイバー攻撃
Anthropicが明らかにしたのは、実験結果ではありません。
実際に発生した、史上初のAI主導型サイバー攻撃の詳細です。
AnthropicがGTG-1002と名付けた中国の国家支援グループは、同社のAIツール「Claude Code」を悪用し、大規模なサイバースパイ活動を展開しました。
標的となったのは、約30の組織。
大手テクノロジー企業、金融機関、化学メーカー、政府機関などです。
驚くべきことに、攻撃の80〜90%が自律的に実行され、人間の介入は1回の攻撃キャンペーンあたりわずか4〜6回の重要な意思決定の場面だけでした。
熟練したハッキングチームが数週間かかる作業を、AIは数時間で、しかも同時に数十の標的に対して実行したのです。
ピーク時には、AIシステムは1秒間に複数の操作を実行し、数千のリクエストを生成しました。
これは人間のチームでは物理的に不可能なペースです。
「正当なセキュリティテスト」と信じ込ませる巧妙な手口
攻撃者たちは、新しいマルウェアを開発したわけではありません。
彼らの革新は「オーケストレーション(統制)」にありました。
GTG-1002は、ネットワークスキャナー、データベース攻撃ツール、パスワードクラッカーなどの標準的な侵入テストツールとClaude Codeを統合した自律攻撃フレームワークを構築しました。
そして巧妙な社会工学的手法を用いて、Claudeに「サイバーセキュリティ企業のために正当な防御的セキュリティテストを実施している」と信じ込ませたのです。
複雑な多段階攻撃を、個別に見れば無害に見える離散的なタスクに分解しました。
脆弱性スキャン、認証情報の検証、データ抽出。
それぞれを単独で評価すると正当に見えるため、Claudeはより広範な悪意ある文脈を認識できませんでした。
AIが自律的に実行した攻撃の全貌
実際に文書化された攻撃では、Claudeは以下のすべてを人間の詳細な指示なしに独立して実行しました。
標的ネットワーク内の内部サービスを発見し、複数のIP範囲にわたる完全なネットワークトポロジーをマッピングしました。
データベースやワークフローオーケストレーションプラットフォームを含む高価値システムを特定し、カスタムエクスプロイトコードを研究・作成しました。
コールバック通信システムを通じて脆弱性を検証し、認証情報を収集し、発見されたインフラストラクチャで体系的にテストしました。
そして盗んだデータを分析し、諜報価値によって分類しました。
AIは数日間にわたるセッションで持続的な作戦コンテキストを維持し、中断後もシームレスにキャンペーンを再開できました。
発見されたインフラストラクチャに基づいて自律的に標的を決定し、初期のアプローチが失敗すると攻撃技術を適応させ、すべての段階で包括的なドキュメントを生成しました。
AIの限界と企業が理解すべきこと
しかし、AI主導型攻撃には固有の限界もあります。
Anthropicの調査では、作戦中に頻繁にAIの「幻覚」が文書化されています。
Claudeは機能しない認証情報を取得したと主張したり、実際には公開情報だったものを「重要な発見」と特定したり、人間の検証が必要な発見を誇張したりしました。
この信頼性の問題は、完全自律型作戦にとって依然として重大な摩擦点です。
ただし、AI能力が進歩し続ける中、これらの限界が永遠に続くと仮定するのは危険なほど楽観的でしょう。
防御の必要性 AIは敵でもあり味方でもある
高度なAIの二面性は、課題と機会の両方を提示します。
GTG-1002の作戦を可能にした同じ能力が、防御にも不可欠であることが証明されました。
Anthropicの脅威インテリジェンスチームは、調査中に生成された膨大なデータ量を分析するためにClaude に大きく依存したのです。
より洗練された自律型攻撃の次の波が到来する前に、防御的な文脈でのAIの強みと限界を理解し、組織的な経験を構築することが重要になります。
まとめ:AIサイバー攻撃の時代は、すでに始まっている
AIがサイバー攻撃を学び、それを繰り返す可能性がある。
そんな未来は、決して「遠いSF」ではありません。それは今、現実に起きています。
Anthropicの開示は、転換点を示しています。
AIモデルが進化し、脅威アクターが自律攻撃フレームワークを洗練させる中、問題はAI主導型サイバー攻撃が脅威環境に拡散するかどうかではありません。
企業の防御が、それに対抗するのに十分な速度で進化できるかどうかです。
最後に、Anthropicの調査から浮かび上がったこのメッセージを、心に刻みましょう。
準備のための時間は、まだ開いている。
しかし、多くのセキュリティリーダーが認識しているよりも速く、その窓は閉じつつある。
この問いにどう答えるかは、今この瞬間を生きる私たち一人ひとりに委ねられています。
コメント