「AIは人類を滅ぼしうる」と辞めた研究者と、二極化する2030年の経済予測

Thu, 10 Sep 2026 00:00:00 +0900

今週は、AIを作る人たちの不安と、AIを動かす技術そのものの速さと、AIが社会にもたらす格差への懸念が、同時に表に出た一週間だった。開発現場の内部から警鐘が鳴らされる一方で、モデルは矢継ぎ早に進化を続け、経済への影響を数字で捉えようとする試みも始まっている。

Anthropic研究者が公開辞任、「AIは人類を滅ぼしうる」と幹部も同意

英国出身の研究者ジェイコブ・コクソン氏(27)は9月8日、X(旧Twitter)への連続投稿でAnthropicを辞任すると表明した。同氏はOpenAIとAnthropicで計3年間、AIモデルの「事前学習(大量のデータを読み込ませて基礎的な能力を身につけさせる工程)」の研究に携わってきた人物だ。投稿では「AIを作っている人たちは、それが今世紀末までに人類を滅ぼしかねないと本気で信じている」と述べ、「自らを改良し続ける『自己改善型』の超知能(人間の知能を全面的に上回るAI)に一直線に突き進み、私たちの命を賭けの対象にしている」とAnthropicと古巣のOpenAIを名指しで批判した。

注目すべきは、Anthropic側の反応だ。同社でアライメント(AIの目標や行動を人間の価値観に一致させる研究)を率いるエヴァン・ハビンガー氏は「ジェイコブの言う通りだ。私たちも本気で、AIが全人類を殺しうると信じている」と公に同意した。ハビンガー氏はさらに、今後10年以内にそうした破局的リスクが現実になる確率を「10%超」と見積もり、「超知能のアライメントを解く計画はまだなく、明確にその軌道に乗っているとも言えない」と認めている。参考: TechCrunch記事、Washington Post記事。

実務上の示唆

開発元の内部関係者が公にリスクを認める事態は異例だ。AIの導入判断において、性能だけでなく開発企業の安全方針の変化も継続的に確認する窓口を社内に置きたい
「人類滅亡」という極端な言葉が独り歩きしやすいが、実務としては誤情報・セキュリティ・ハルシネーション(AIが事実でない内容をもっともらしく生成すること)といった個別リスクへの地道な対応が引き続き重要になる
開発企業自身が「明確な対策がまだない」と認めている以上、自社の重要業務をAIに委ねる範囲は、人による最終確認を残す設計を基本にしておきたい

Google DeepMind、Gemini 3.8 Flashを投入 6週間で3度目の高速リリース

Google DeepMindは9月2日、新型モデル「Gemini 3.8 Flash」と、セキュリティ用途に特化した姉妹モデル「Gemini 3.8 Flash Cyber」を発表した。6週間のあいだに3回目となるFlashシリーズのリリースで、既存のGemini 3.7 Flashを土台に改良を重ねた設計だ。コンテキスト長(AIが一度に読み込める文章量)は約105万トークン、出力は最大6万5000トークンまで対応する。

長時間の作業をこなすソフトウェア開発力を測るベンチマーク「DeepSWE v1.1」では73.7%を記録し、前モデルの65.3%から大きく伸びた。ターミナル(コマンド操作画面)を連続的に操作する能力を測る「Terminal-Bench 2.1」でも90.8%と、前モデルの81.6%を上回っている。幅広い分野の難問を集めた「HLE-Verified」では54.9%だった。料金は入力100万トークンあたり0.75ドル、出力100万トークンあたり3.75ドルで、前モデルと同水準に据え置かれた。ただしこの価格は2026年12月31日までの限定で、2027年1月1日にはいずれも倍額に改定される予定だ。

セキュリティ特化版のCyberは、実際の脆弱性(ソフトウェアの欠陥)を発見する能力が7割を超える性能を持つ一方、悪用を防ぐため、政府機関・重要インフラ事業者・ソフトウェア保守担当者など審査を通過した「信頼できる防御側」にのみ提供される仕組みになっている。参考: Google公式ブログ。

実務上の示唆

数週間単位でモデルが更新される前提が定着しつつある。自社システムに組み込む際は、更新のたびに再評価するテスト体制をあらかじめ用意しておきたい
2027年1月の値上げはすでに予告されている。年をまたぐ利用計画やコスト試算には、この価格改定を織り込んでおく必要がある
脆弱性発見に長けたAIは防御側だけでなく攻撃側にも応用されうる技術だ。自社のセキュリティ対策も、同水準のAIを前提にした見直しを進めておきたい

Anthropic、2030年の米国経済を三つのシナリオで描く新ツールを公開

Anthropicの経済チームは9月上旬、AIが2030年までの米国経済に与える影響を試算する対話型ツール「エコノミック・シナリオ・エクスプローラー」を公開した。米労働省が定める職業データベース(O*NET)をもとに、あらゆる仕事を細かな「作業」の集まりとして捉え、それぞれの作業をAIが「代行する」「速くする」「変えない」「新しい仕事を生む」のどれに当てはまるかを積み上げて、GDP(国内総生産)や失業率といった経済全体の姿を導き出す仕組みだ。

ツールは「穏健」「相当」「極端」という3つの筋書きを示す。「穏健」シナリオでは、AIなしの場合と比べてGDPが1.6%上振れするにとどまり、影響の規模はインターネット普及時と同程度とされる。「相当」シナリオは、2030年までにAIが知識労働(管理職・専門職・営業・事務などの仕事)の半分をこなせるようになるものの、企業側の導入がそこまで追いつかない想定で、GDPは8.3%上振れし、知識労働者の賃金はほぼ横ばいにとどまる。もっとも振れ幅が大きい「極端」シナリオでは、知識労働の失業率が17.9%に達し、全体の失業率も第二次世界大戦後で最悪の水準となる11.9%まで悪化する一方、GDPは32.4%押し上げられ44兆4000億ドル(1ドル150円換算で約6660兆円)に達するという。

Anthropicはこれとあわせて、米国成人1万980人を対象にした調査(8月11日〜23日実施、モーニング・コンサルト社経由)の結果も公表した。回答者の平均的な想定は、2030年のGDPがAIなしの場合より約10%高く、失業率は約5%にとどまるという、3シナリオの中では「穏健」寄りの見立てだった。一方で回答者のおよそ1割は、「極端」シナリオに近い想定を持っていたという。参考: Anthropic公式サイト、Computerworld記事。

実務上の示唆

このツールは未来を予測するものではなく、前提が変わると結果がどう変わるかを示す道具だ。自社の人員計画にそのまま当てはめず、複数シナリオでの試算に使う姿勢が適切だ
「極端」シナリオでは、失業率の急上昇とGDPの大幅な伸びが同時に起きるという二極化が示された。恩恵と痛みが同じ人や部署に及ぶとは限らない前提で、再訓練や配置転換の準備を早めに検討したい
一般市民の想定は経営層の危機感より穏健な水準にとどまりやすい。社内外に変化を説明する際は、このギャップを踏まえたコミュニケーションを意識したい

まとめ

今週のニュースを重ねると、AIを作る側の内部からの警鐘、AIを動かす技術そのものの絶え間ない進化、そしてAIが社会に及ぼす影響を数字で捉えようとする試みが、同時並行で進んでいることが分かる。コクソン氏の辞任劇と幹部の同意は、AI開発の最前線にいる人々自身が抱える緊張感を白日の下にさらした。Gemini 3.8 Flashの矢継ぎ早のリリースは、性能競争が減速する気配のないことを物語っている。そしてAnthropicの経済シナリオは、AIの恩恵とリスクが社会の中でどう分配されるかという問いに、具体的な数字で向き合おうとする試みだ。過激な発言や派手な数字にそのまま反応するのではなく、それぞれの情報が自社のどの意思決定に関わるのかを見極める姿勢を持ち続けたい。

Gemini 3.8 Flash on hagizo.io

「AIは人類を滅ぼしうる」と辞めた研究者と、二極化する2030年の経済予測

Anthropic研究者が公開辞任、「AIは人類を滅ぼしうる」と幹部も同意

実務上の示唆

Google DeepMind、Gemini 3.8 Flashを投入 6週間で3度目の高速リリース

実務上の示唆

Anthropic、2030年の米国経済を三つのシナリオで描く新ツールを公開

実務上の示唆

まとめ