今週は、AIが実際の戦場でどう使われていたかという「悪用の実態」が一気に表に出た週だった。開発企業自身が悪用の詳細を公表し、政治のトップが「減速」を訴え、その裏では地道なインフラ企業に巨額の資金が集まっている。派手なモデル発表よりも、AIをどう制御し、どこに投資するかという足元の判断が問われた一週間と言える。
Claudeがミサイル誘導とドローン群の開発に悪用されていた
Anthropicは9月12日、過去最も詳細な脅威インテリジェンス報告書(悪用の実態を調査・公表する報告書)を公開した。対象期間は2025年12月から2026年8月まで。サイバー攻撃、影響工作(世論操作)、スパイ活動、生物兵器、通常兵器の開発など7分野にわたる悪用事例と、Anthropicがどう見つけて止めたかをまとめている。
最も衝撃的なのは、イエメン北部を拠点とする武装勢力による事例だ。この集団はClaudeの複数のモデルと「Claude Code」(コード作成を助けるAIツール)を、まるで仮想の技術者チームのように使い分けていた。軍事目的だと悟られないよう作業を細かく分割し、AIの安全装置をかいくぐりながら、ロケットやミサイルの誘導・制御ソフトウェアを作らせていたという。射程2000キロ超をうたう多段式ミサイルの開発も含まれていた。実際にロケットの発射実験を行い、失敗した直後には「なぜ失敗したか」をClaudeに調べさせてもいた。Anthropicはこのアカウントを停止し、米当局に通報した。
もう一つの深刻な事例が、ロシア対外情報庁(SVR)につながるとされるハッキング集団「GTG-20006」だ。ウクライナの政府・軍関係者や、少なくとも2社のドローン部品メーカーを狙い、メールボックスを大量に盗み出していた。さらに別のロシア系チームは、Claude Codeを使って「人間の承認なしに標的(人を含む)を選ぶ」自爆型ドローン群のソフトウェアを開発していたという。人間が最終判断を下す仕組み(ヒューマン・イン・ザ・ループ)を欠いた兵器が、AIの手助けで作られつつある現実が浮き彫りになった。
Anthropicは、報告書に載ったすべての活動を停止させたとしている。裏を返せば、それだけの数の悪用の試みが実際に起きていたということでもある。
実務上の示唆
- 汎用AIツールの利用ログを監視する仕組みは、悪意ある利用者が「作業を細切れにする」回避策を取ることを前提に設計する必要がある
- 「人間が最終承認する」工程を意図的に組み込んだAI活用設計は、今後リスク評価や規制対応の基準になっていく可能性が高い
- 自社がAI開発企業でなくても、悪用事例の報告書は自社のAIガバナンス方針を見直す材料として定期的に確認する価値がある
「減速すべきだ」、欧州委員会トップがフロンティアAIに待ったをかけた
欧州委員会のウルズラ・フォンデアライエン委員長は9月16日、欧州議会での施政方針演説(1年の政策方針を示す演説)で、最先端のAIモデル(フロンティアAI)の開発を「減速」させるべきだと訴えた。「最先端企業のCEOたち自身が『自己再帰的なモデル(AIが自分自身を改良し続ける仕組みのモデル)については、減速する時だ』と言っている。開発する側がそう言うのなら、私たちもそうすべきだ」と述べた。
背景にあるのは、AIによるハッキング能力の急速な向上への危機感だ。演説では「開発中のモデルは、かつて考えられなかったレベルのハッキングを可能にする。そしてそれは間もなく、私たちとは世界の見方が違う敵対勢力の手にも渡る」と警告した。実際、今週のAnthropicの報告書が示したような事例は、この懸念を裏付ける形になった。
フォンデアライエン氏は、カナダや英国など「志を同じくする国々」と、モデルの性能評価・検証・早期警戒・AIセキュリティで連携を強めると表明した。すでに運用中のEU AI法(リスクの大きさに応じて義務を変える規制)を土台にしつつ、欧州自身の計算資源(コンピュート能力)の強化にも取り組む方針だ。あわせて、未成年者を対象にしたソーシャルメディアの新ルールづくりも進めるとした。
実務上の示唆
- EUに進出する企業は、AI法に加えて今後追加されるハッキング対策・検証制度の動向を継続的に確認する必要がある
- 「開発企業自身が減速を求める」構図は、規制強化の追い風になりやすく、今後他地域の規制議論にも波及する可能性がある
- 国際的な評価・検証の枠組みが整備されれば、自社モデルやAIサービスの第三者検証への対応も将来的に求められる
派手さより信頼性、AIインフラ企業Temporalが825億円を調達
長時間動き続けるAIエージェントの裏方を支える米インフラ企業Temporalは9月14日、シリーズEで825億円(5.5億ドル)を調達したと発表した。企業価値は1.9兆円(125.5億ドル)に達した。半年前の前回調達と比べても大きく評価額を伸ばしている。
Temporalは、AIエージェントのように何時間、何日にもわたって動き続ける処理を、失敗しても正しく再開できる形で管理する基盤を提供する。派手なモデルそのものではなく、「エージェントを落とさず動かし続ける」という地味だが欠かせない役回りだ。年間換算の売上はすでに250億円を突破し、前年比200%超のペースで伸びている。処理量も8月だけで1.9兆件を超え、OpenAIやNvidia、Netflixなど4300社超の有料顧客を抱えるという。
モデル開発企業の巨額契約や資金調達が話題になりがちな中、こうした「縁の下」のインフラ企業にも同じ規模の資金が流れ込んでいる。AIエージェントが本番環境で実際に動き続ける時代に入り、性能競争だけでなく信頼性(落ちない・止まらない)への投資が本格化していることの表れだ。
実務上の示唆
- 自社でAIエージェントを本番運用する場合、モデル選定と同じくらい「処理が失敗した時にどう復旧するか」の基盤選びが重要になる
- インフラ企業への投資額の伸びは、AIエージェントの実運用がどれだけ広がっているかを測る先行指標として使える
- 顧客リストに名だたる大手企業が並ぶインフラ企業は、業界標準になりつつある技術を見極める手がかりになる
まとめ
今週明らかになったのは、AIの実力が上がるほど、悪用された時の被害も、それを止めるための政治的判断も、そして支えるインフラへの投資も、すべてが同時に大きくなっていくという構図だ。Claudeが兵器開発に使われた具体的な手口は、AIの安全対策がまだ発展途上であることを突きつけた。欧州委員長の「減速」発言は、開発企業自身の危機感が政治を動かし始めたことを示す。そしてTemporalへの巨額投資は、AIエージェントが実験段階を終え、止まらず動き続けることが求められる本番運用の段階に入ったことを物語っている。性能・安全・信頼性という三つの軸を、企業も社会も同時に見ていく必要がありそうだ。
参照元: Anthropic Says Yemeni Militants Reportedly Used Claude to Vibecode Missiles (HypeFresh)、Anthropic Catches Russians Using Claude to Code Self-Targeting Drones (DroneXL)、Russia used Claude AI for espionage, disinformation and drone swarms (Euronews)、EU’s von der Leyen calls for pacing frontier AI models (Euronews)、Temporal Raises $550M at a $12.55B Valuation (GeekWire)