今週は、AIの「作る」側の勢いと、「使わせる」側で起きているひずみが同時に表面化した一週間だった。データ基盤企業は評価額を半年で4割も押し上げ、SNS最大手は自動化を急いだ結果、無実のユーザーを大量に締め出してしまった。そして最強クラスのモデルを擁するAnthropicは、自社に巨額出資するMicrosoftのトップから名指しで苦言を呈された。資金・現場・提携という三つの角度から、今週の動きを整理する。
Databricks、半年で評価額4割増の1880億ドルへ
データ分析基盤大手のDatabricksは7月16〜17日、既存出資者のCoatueが主導する新たな資金調達ラウンドの条件書に署名したと明らかにした。調達額は約30億ドル、評価額は1880億ドルに達する見通しだ。今年2月に50億ドルを調達した際の評価額(1340億ドル)から、わずか半年で4割ほど押し上げられたことになる。2024年末の前回大型調達時点では620億ドルだったので、1年半で評価額が3倍に膨らんだ計算だ。
資金の使い道として同社が挙げるのは3つの製品だ。企業データを信頼できる回答や行動に変換する「AIコワーカー」Genie、複数のAIモデルを横断して費用や利用状況を一元管理する「Unity AIゲートウェイ」、そしてAIエージェント向けに設計されたサーバーレスのデータベース「Lakebase」である。いずれも、モデルそのものを作るのではなく、企業が複数のAIモデルを実務でどう使いこなすかを支える基盤という位置づけだ。新規株式公開(IPO)は依然として視野に入っていないとされ、非公開のまま巨額資金を集め続ける路線が続いている。(TechCrunch、SiliconANGLE)
実務上の示唆
- 複数のAIモデルを併用する企業が増えるほど、コスト管理やガバナンス(統治・管理の仕組み)を一元化するツールの需要が高まる。社内で複数ベンダーのモデルを使い分けている場合、こうした管理基盤の導入を検討する価値がある
- モデル開発企業だけでなく、データ基盤やインフラを提供する「裏方」企業の評価額が急伸している点は、AI投資の重心が徐々に「実装を支える層」へ移りつつあることを示す
- 非公開のまま調達を重ねる路線が続く限り、財務情報の開示は限定的になる。取引先として依存度を高める前に、契約条件や継続性についての確認を怠らないようにしたい
MetaのAIモデレーションが無実のアカウントを次々凍結、異議申し立てもAI任せ
米ニューヨーク・タイムズなど複数メディアの報道によると、Meta(Facebook・Instagramの運営会社)の自動モデレーション(投稿やアカウントを自動的に審査・削除する仕組み)が、規約違反のない一般ユーザーや事業者のアカウントを誤って凍結する事例が相次いでいる。報じられた事例には、フォロワー48000人のメイクアップアーティスト、障害者支援の活動家、ジューンティーンス(奴隷解放を記念する米国の祝日)関連の非営利団体などが含まれ、一部はMetaが定める最も重い違反である児童搾取コンテンツに関与したと誤って認定されていた。米国・オーストラリア・ニュージーランドにまたがる事例が確認されている。
問題を深刻にしているのが、異議申し立て(appeal)の窓口も同じAIが担っている点だ。ユーザーが凍結に異議を唱えても、審査するのは凍結を下したのと同種の自動システムであるため、人間の担当者にたどり着けないまま拒否が繰り返される「ループ」に陥りやすい。報道機関が個別に取材して初めてMetaが一部アカウントを復元した例もあり、その中にはフォロワー数100万人近いアカウントも含まれていた。背景には、Metaが今年3月にモデレーションの権限をさらにAIへ委譲すると発表した後、まさにその審査や異議対応を担っていた人員を数千人規模で削減した経緯がある。Meta広報のダニエル・ロバーツ氏は、新しいAIツールは人間の担当者より誤判定が13%少なく、違反の検出率は10%高いと説明し、報道で指摘された事例は最新のAIではなく旧世代のシステムによる判定だったと主張している。Metaの第三者監督機関である監督委員会(Oversight Board)も6月、アカウント凍結の手続きに「適正手続きと透明性が欠けている」と指摘したばかりだった。(Threads/Matt Navarra、TechCrunch)
実務上の示唆
- 事業用のSNSアカウントをプラットフォームに一元依存させるリスクが改めて浮き彫りになった。フォロワーや顧客との接点は自社サイトやメール配信など複数の経路に分散させておくと、突然の凍結にも耐えやすい
- 「AIによる判定にAIが異議申し立てで応答する」構造は、監視対象と監視者が同一という構造的な弱点を抱える。自社でAIによる自動判定の仕組みを導入する際は、必ず人間による最終確認の経路を残す設計が望ましい
- 企業側の数値説明(誤判定13%減・検出10%増)は、あくまで自己申告のベンチマークである点に注意したい。第三者機関による独立した検証がない限り、額面通り受け取らず慎重に評価する姿勢が必要だ
Microsoftのナデラ氏、提携先Anthropicの最上位モデルを「編集的統制」と批判
米CNBCなどの報道によると、Microsoftのサティア・ナデラCEOは社内のCopilotエンジニアとの会議で、AnthropicのClaude Fable 5について「あれほど編集的に統制された創作ツールを、最近いつ使ったか思い出せない」「筋が通らない」と述べ、モデルが無害な依頼まで拒否してしまう傾向を名指しで批判した。
背景には、Fable 5が7月1日に再展開された経緯がある。同モデルは6月、安全対策の抜け穴を突く手口が見つかったことを理由に米商務省の輸出規制の対象となり、19日間利用停止となっていた。Anthropicは復活にあたって、危険な依頼をより厳しく検知する新しい安全分類器を導入したが、その副作用として無害な依頼まで誤って拒否されるケースが増えたとされる。ナデラ氏の発言は、この「誤検知の増加」という副作用に対する率直な不満の表明といえる。
注目すべきは、この批判が単なる技術評論ではなく、緊密な取引関係の内側から出ている点だ。Microsoftは昨年11月、Anthropicに50億ドルを出資すると発表しており、Anthropicも300億ドル規模でMicrosoft傘下のAzureクラウドを利用する契約を結んでいる。巨額の資本・取引関係で結びついた両社の間でも、モデルの挙動をめぐる摩擦が公然と表面化した格好だ。(CNBC、Yahoo Finance)
実務上の示唆
- 出資や大型契約で結ばれた企業同士であっても、モデルの安全設計をめぐる方針は必ずしも一致しない。複数のAIベンダーを併用している企業は、各社の安全ポリシーの違いを事前に把握し、業務に適したモデルを使い分ける判断軸を持っておきたい
- 安全対策の強化による「誤検知の増加」は、Fable 5に限らず多くの最先端モデルで起き得るトレードオフだ。想定していた依頼が急に拒否されるようになった場合に備え、代替モデルへの切り替え手順を用意しておくと業務が止まりにくい
- 提携企業の経営陣同士の公然とした批判は、水面下の緊張関係が今後さらに表面化する予兆とも読める。特定の提携先に一極集中せず、複数のパートナーシップを分散させておくことが、こうした不確実性への備えになる
まとめ
今週の三つの動きは、AI業界の重心が「新しいモデルを作ること」から「作ったAIをどう回し、どう向き合うか」へ移りつつある現実を映し出している。Databricksの評価額急伸は、複数のモデルを実務で使いこなす基盤への投資意欲の高さを示した。MetaのAIモデレーション問題は、自動化を急ぎすぎた現場が、当のAIによって人間の救済経路まで塞いでしまうという皮肉な結果を突きつけた。そしてナデラ氏の発言は、資本で結びついた企業同士でさえ、安全と利便性のバランスをめぐる意見の違いを隠さなくなってきたことを物語っている。技術の進化だけでなく、それを取り巻く資金・運用・関係性の綻びにも目を配ることが、これからのAI活用には欠かせない。