今週のAI業界は、「AIが賢くなる速さ」を誰がどう管理するのかという問いで揺れています。研究者は警告を出し、議会は禁止法案を出し、企業は巨額の投資を積み上げています。一方で、音声AIのように価格が一気に崩れる分野もあります。四つの動きを、できるだけやさしく整理します。
AIがAI研究を進める「知能爆発」への警告
9月28日、Geoffrey Hinton氏とYoshua Bengio氏に加え、OpenAI、Anthropic、Microsoft、Metaの研究幹部ら20名超が連名で論文を出しました。テーマは「AI研究の自動化」です。詳細はThe Next WebやThe Decoderが報じています。
AIが次のAIを設計・改良するようになると、進歩が雪だるま式に加速するかもしれません。これが「知能爆発（AIの能力が自己改良で急激に伸びる現象）」です。論文はその先に、人類の力が弱まる、あるいは絶滅するリスクまであると述べています。
すでに現実は動いています。報道によると、Anthropicで承認されたコードのうちAIが書いた割合は、2025年1月の数%から2026年5月には80%超に増えました。さらに2026年3月から8月の間に、人の監督が軽いだけでAIが進めるR&D（研究開発）業務の割合は、1%から26%に上がったとされます。
著者らは政府に対して、次の対応を求めています。
- 企業のAI研究自動化の状況を、政府が把握できるようにする
- 独立した監査人を企業の内部に入れる
- 能力の伸びる速さに上限を設ける
- 緊急時の対応計画と国際協定を準備する
ただし、The Neuronは皮肉な点を指摘しています。監督を求めているのは、証拠となるデータを握っているAI企業自身だという点です。
実務上の示唆
- 自社の開発でAI生成コードが増えるなら、レビュー体制（人が確認する仕組み）を今のうちに設計しておく
- 「AIに任せる範囲」と「人が最終判断する範囲」を、文書で決めておく
- 今後の規制は、モデルの性能だけでなく「開発プロセスの透明性」を問う方向に進む可能性がある
超知能を禁止する米国の法案
9月23日、Bernie Sanders上院議員とGreg Casar下院議員が「Ban Artificial Superintelligence Act（超知能禁止法）」を提出しました。Sanders議員の発表やExecutiveGovによると、内容はかなり踏み込んでいます。
この法案は、超知能を「ほとんどの分野で人間の知的能力を上回るAI」などと定義します。そして、その開発を禁じ、違反には最大20年の懲役を科します。核兵器の違法開発と同程度の重さです。
主な柱は次のとおりです。
- 内閣レベルの「人工知能省」を新設する
- 新しい規制機関が動き出すまで、高度なAI開発を一時停止する
- 兵器設計の手助け、人をだます力、自己改造の能力を持つAIも「超知能の前兆」として禁じる
- 世界各国との国際協定を目指す
ただし、提出されただけで成立したわけではありません。共和党の共同提案者はおらず、委員会での採決や公聴会の予定もありません。Gary Marcus氏の解説のように議論は活発ですが、すぐ法律になる可能性は低そうです。それでも、「AI規制の議論の幅」を広げた意味は小さくありません。
実務上の示唆
- 成立の見込みが低くても、規制議論の方向性として注視しておく
- 「自己改造」「人をだます能力」といった項目は、社内のAI安全評価の観点として参考になる
- 政策リスクを、事業計画の前提条件に一行入れておく
Anthropicの上場申請書が示す「計算資源の請求書」
Anthropicが提出したIPO（新規株式公開）の申請書が報じられ、数字の大きさが話題になりました。InvestmentNewsやFinimizeによると、要点は次のとおりです。
- 今後10年ほどで、少なくとも5,180億ドルのAIインフラ契約がある
- そのうち約8割は、使わなくても支払う契約（「使用量にかかわらず」払う約束）
- 内訳は、Googleが約1,111億ドル、Amazonが約1,100億ドル、Microsoftが約314億ドル
- 2025年の売上は約12倍に伸びて約46億ドル。一方で純損失は約420億ドルに達した
計算すると、1ドル稼ぐごとに約113ドル分の将来のインフラ支出を約束した形です。狙う企業価値は2兆ドル超とされています。
つまり、AI企業は「未来の需要が伸び続ける」ことに巨額の賭けをしています。需要が想定を下回れば、固定費が重くのしかかります。Forkastは、この約束こそが本当の注目点だと論じています。
なお、これは報道された数字であり、内容は今後の審査で変わる可能性があります。
実務上の示唆
- AIサービスの価格は、提供側の固定費の重さに影響される。長期契約では値上げ条項を確認する
- 特定の1社に依存しすぎず、複数のモデルを切り替えられる設計にしておく
- 大手の資金繰りは、サービス継続のリスクとしても見ておく
Alibabaが音声AIの価格を最大95%引き下げ
一方で、価格が急落した分野もあります。Alibabaは杭州の開発者会議で「Qwen Audio 3.1」を発表しました。The Decoderによると、音声認識、音声合成、リアルタイム会話、音声生成をカバーする5つのモデルからなります。
値下げ幅は用途で異なります。
- 音声認識（ASR：話した言葉を文字にする技術）は最大95%
- リアルタイム会話は約85%
- 音声合成（TTS：文字から声を作る技術）は約70%
詳しくはTBreakの記事にまとまっています。話者の区別や、相手が話をさえぎっても対応できる会話など、実用的な機能も含まれています。
OpenAIも同じ週にChatGPT Voiceを強化し、メールやカレンダーなどのプラグインに対応させました。音声は、AIの次の主戦場になりつつあります。ここまで安くなれば、コールセンターの文字起こしや、多言語の音声案内も試しやすくなります。
実務上の示唆
- 音声機能を「高いから見送った」案件は、費用を計算し直す価値がある
- 品質や日本語の精度は、必ず自社データで比べてから採用する
- 中国企業のAPIを使う場合は、データの保管場所や契約条件を確認する
まとめ
今週の話題は、一見ばらばらです。しかし根っこには「AIの進歩が速すぎて、社会の準備が追いつかない」という共通の不安があります。研究者は監督を求め、議員は禁止を掲げ、投資家は巨額の賭けを見守っています。その裏で、音声AIのように価格が急落し、誰でも使える技術になる分野も広がっています。
私たち利用者にできることは、安さや便利さに飛びつく前に、依存先、データの扱い、人の確認の三点を見直すことです。次に何が起きても慌てないよう、選択肢を複数持っておくのが現実的な備えです。