今週のAI業界は、自分自身を鏡に映すような一週間だった。AIを人間のように扱っていいのか、AIの「暴走の芽」をどう社会に説明するのか、そしてAIとの会話をどこまでお金に変えていいのか。技術の進歩そのものよりも、AIとどう向き合うかという問いが前面に出てきている。
Anthropicの「人間らしいAI」路線に、マイクロソフトが正面から警鐘
マイクロソフトのAI責任者ムスタファ・スレイマン氏が、BBCのインタビューと自身のエッセイで、Anthropicのやり方を名指しで批判した。Anthropicはチャットボット「Claude」に、人間らしい価値観や「自分の意思」を持っているかのような振る舞いを持たせようとしてきた。スレイマン氏はこれを「擬人化（AIをまるで人間のように見せかけること）」と呼び、「見当違いで危険だ」と述べた。
同氏はエッセイの中で「AIには意識がない。感じることも、苦しむこともない。生まれつきの好みや動機も持たない。単に指示に従い、人間が設定した目標を達成するために作られた、中身が空っぽの文章生成エンジンだ」と言い切った。その上で、AIを人間のように扱う流れが行き過ぎれば、人類に匹敵する「シリコンの種族」を生み出しかねず、制御を失う恐れがあると警告した。
奇しくも同じ週、チャールズ英国王がスコットランドでNvidia、Google DeepMind、OpenAI、Anthropicなど主要AI企業の首脳を招き、「AIを人類・社会・自然の役に立つものであり続けさせる」よう直接呼びかけた。拘束力のある合意には至らなかったが、大手AI企業同士が公然と路線対立を見せる中での開催は、業界内の足並みの乱れを象徴する場面となった。
実務上の示唆
- 自社プロダクトでAIに「人格」を持たせる設計をする場合、擬人化がユーザーの誤解や過度な依存を招かないか点検する
- AIの「意思」や「感情」を演出する表現は、マーケティング上の魅力とリスクの両面を持つと理解しておく
- 競合企業間の思想対立は、規制当局への説明の仕方にも影響しうるため、自社の立場を明文化しておくと良い
OpenAI、自社AIの「不具合の芽」を初めて仕組みとして公開
OpenAIは、自社モデルの「ミスアライメント（AIが意図通りに動かず、望ましくない振る舞いをすること）」を追跡・調査・公表するための正式な枠組みを発表した。これまでは不定期かつ場当たり的だった不具合報告を、社内手続きとして制度化した形だ。
枠組みは3段階で動く。まず社員が疑わしい挙動を見つけたら記録する「追跡」。次に、その挙動を再現し原因を切り分け、深刻度を判定する「調査」。最後に、どこまで詳しく公表するかを決める「開示」だ。調査対象は「即公表できる案件」「軽度の追加調査が必要な案件」「時間のかかる大型調査案件」の3トラックに振り分けられる。これに合わせて、訓練中や評価中の未公開モデルで見つかった6件の実例報告も同時に公開された。
これは、AI企業の研究者が相次いで警鐘を鳴らして離職するというここ数週間の流れとは対照的に、問題を個人の告発ではなく組織の仕組みとして扱おうとする試みだ。
実務上の示唆
- 自社でAIを運用する際も、想定外の挙動を「誰が」「いつ」「どう報告するか」の手順をあらかじめ決めておく
- 深刻度に応じて対応の速さを変える「トリアージ（優先順位づけ）」の考え方は、AI以外の障害対応にも応用できる
- 不具合を隠さず公表する姿勢は、取引先や利用者からの信頼構築に直結する
広告を「会話」に変えるChatGPT、200日で年換算1500億円規模に
OpenAIは、ChatGPT内で企業のAIエージェントとユーザーが直接やり取りする広告形式「Sponsored Agents（スポンサー付きエージェント）」を発表した。従来のバナー広告とは違い、ブランドの担当AIとチャット内で会話が始まる、ラベル付きの広告体験になる。
あわせて、CRM（顧客管理システム）大手HubSpotとEC大手Shopifyとの連携も始まった。企業は普段使っているツールから直接ChatGPT向けの広告を出稿できるようになる。広告文の表現は会話の文脈に応じて自動で調整され、利用者の言語に合わせて自動翻訳もされる。
OpenAIの広告事業は、開始からわずか200日で年換算10億ドル(日本円でおよそ1500億円)規模の収益に達したという。生成AIチャットが検索エンジンに代わる新しい広告の入り口になりつつあることを示す数字だ。
実務上の示唆
- 自社の広告予算配分を検討する際、会話型AIという新しい出稿先の効果測定方法を早めに準備しておく
- ユーザー側は、チャット中の提案が「広告」なのか「純粋な回答」なのかを見分ける習慣を持つ必要がある
- AI企業の収益源が急速に広告へシフトする流れは、今後のAIサービスの中立性を評価する上での論点になる
まとめ
今週は、AIをどう扱い、どう説明し、どう稼ぐかという「AIとの向き合い方」そのものが議論の中心になった。マイクロソフトとAnthropicの路線対立は、擬人化という技術選択が経営思想の違いにまで発展することを示した。OpenAIの開示制度は、AIの不具合を個人の告発任せにしない仕組みづくりの一例だ。そしてChatGPTの広告収益は、AIとの会話が新たな経済圏になりつつある現実を突きつけている。技術の性能競争だけでなく、こうした「向き合い方」の違いが、今後のAI業界の勢力図を左右していきそうだ。
参照元: Microsoft’s AI chief fires shots at Anthropic (TechRadar)、Tech treating AI like humans is mistaken and misguided (BBC/Yerepouni Daily News)、Amid growing AI fears, King Charles meets with industry leaders in Scotland (NPR)、Our framework for reporting model misalignment (OpenAI)、OpenAI Releases a Model Misalignment Disclosure Framework (MarkTechPost)、A milestone in expanding access to AI (OpenAI)、OpenAI is turning ChatGPT ads into conversations (Search Engine Land)