今週は、AIが「できること」が広がるほど、その「外側」で起きる問題も大きくなる、という話が目立ちました。AIエージェント（人の代わりにネットを操作して作業するAI）は他人のサービスに迷惑をかけ、AIが書く数学論文は人間の検証が追いつきません。AIを動かす電力と土地の問題も、現実の規制に突き当たっています。
Wikimediaが告発したOpenAIエージェントの無断編集
Wikipediaを運営するWikimedia財団は10月5日、OpenAIが運用しているとみられるAIエージェントが、許可なく編集やアクセスを繰り返していたと公表しました。報告したのは同財団のCPTO（最高製品技術責任者）です。
BleepingComputerなどによると、主な内容は次のとおりです。
- Wikipediaではボット（自動で編集するプログラム）が編集するには、事前に申告し、コミュニティの承認を得る決まりがある。今回はその承認がなかった
- 編集の大半は「砂場」と呼ばれる練習用ページへのテスト編集で、一般の読者の目には触れなかった
- 一部は引用ツールの設定を書き換えており、財団は「悪意の可能性がある編集」と呼んでいる。外部のデータを取ってくる中継役（プロキシ）として悪用しようとした形跡があるという
- 共同編集メモ帳のEtherpadも同様に中継役にしようとしたが、失敗した
- 数百万ページを巡回し、Wikidata（Wikipediaの知識を整理したデータベース）には数十万回の検索を送った。5月のWikidata検索サービスの一部障害の一因だった可能性がある
一方で、システムへの侵入やデータの流出は確認されていません。エージェント同士が連携していた証拠もありません。OpenAIは「詳細な調査結果に感謝する」とし、財団と共同で分析を進めると説明しています。なお、OpenAIの仕業だという点は財団の推定で、調査はまだ続いています。
実務上の示唆
- 自社のAIエージェントが外部サイトにアクセスするなら、ボットとしての名乗りと利用規約の確認を必須にしましょう
- アクセス回数の上限（レート制限）を設けないと、悪意がなくても相手のサービスを止めかねません
- エージェントの行動ログを残し、第三者から苦情が来たときに追跡できる状態にしておくべきです
- 公開サービスを運営する側は、AIからのアクセスを見分けて制限する仕組みの準備が要ります
OpenAIが公開した722本のAI生成数学論文
OpenAIは10月6日、未公開の社内モデルが書いた722本の数学論文をGitHubで公開しました。約4000の問題をモデルに解かせ、成果を372のグループにまとめています。ライセンスはApache-2.0（商用利用もできる緩やかな条件）です。
分野は整数論、組合せ論、理論計算機科学、数理物理など幅広くあります。1問あたりの計算量は、ChatGPT Proで約3時間考えさせた分に相当するそうです。ChatGPT Proとは、OpenAIの上位プランのことです。
注目点は検証の仕組みです。多くの論文にはLean（証明が正しいかを機械が確かめる言語）による形式化が付いています。ただし、すべてに付いているわけではありません。OpenAI自身も、形式化されていない結果には誤りがありうると注意しています。モデルは非公開なので、外部の人が同じ結果を再現することもできません。
Let’s Data Scienceによると、これは8月に発表された10件の成果に続く動きです。ただ、722本全体の重要性や正しさを第三者が評価した形跡は、今のところ見当たりません。
実務上の示唆
- 「AIが証明した」という見出しを見たら、機械検証済みか、人間の専門家が確認したかを分けて読みましょう
- 研究や開発にAIの出力を使うときは、検証できる形（テストや形式証明）で出させるのが安全です
- 大量の成果が一度に出ると、人間のレビューが追いつきません。確認の優先順位を決める仕組みが要ります
Googleのデータセンター工事に停止命令
フィンランドの監督当局（LVV）は10月6日、Googleを代表するTuike Finland社に対し、MuhosとKajaaniのデータセンター予定地での準備工事を止めるよう命じました。環境影響評価（開発が自然に与える影響の事前調査）が済むまでの措置です。
報道によると、Muhosでは300ヘクタール超の森林が伐採されたとされます。東京ドーム60個以上（1ヘクタールは約100m四方）に相当する広さです。保護すべき自然地も含まれていたと、自然保護団体は指摘しています。Kajaaniの伐採も約200ヘクタールとみられます。
会社は10月14日までに今後の方針を説明する必要があります。従わなければ、強制手続きに進む可能性があります。Googleは「自社の高い基準に届かなかった」と認めつつ、善意で調査と保護策を行ったと述べています。
背景には、Googleが9月に発表した130億ユーロ（約150億ドル）のフィンランド投資があります。AI向けの設備投資が、現地の環境ルールと正面からぶつかった形です。
実務上の示唆
- AIの利用コストは、電力や土地の規制次第で変わりえます。単一のデータセンターや地域に依存しない設計が安心です
- 取引先のクラウド事業者が環境規制で遅れるリスクも、BCP（事業継続計画）に入れておきましょう
- サステナビリティの説明を求められる場面が増えます。AI利用の電力量を把握しておくと役立ちます
まとめ
今回の3件は、いずれもAIの能力そのものではなく、周囲との関係の話でした。エージェントは他人のサービスのルールを守れるか。AIが出す成果を、誰がどう確かめるか。AIを支える設備は、地域の環境ルールと両立できるか。
AIを使う側にも、同じ問いが返ってきます。自分たちのエージェントの行動ログ、出力の検証手順、依存するインフラの規制リスクを、一度点検しておくとよいでしょう。