今週は、生成AIが「きれいな絵を作る道具」から「そのまま使える成果物を作る道具」へ変わりつつある様子がはっきり見えた週だった。あわせて、AIエージェント（人が細かく指示しなくても自分で判断してタスクをこなすAIプログラム）に仕事を任せる際の安全装置と、それを国ではなく州単位で縛ろうとする米国の規制の動きも重なった。技術の実用化と、それを制御する仕組みづくりが足並みを揃えて進んだ一週間だ。
画像・動画生成AIが「使える文書」へ進化 Qwen Image 3.0 ProとSeedance 2.5
Alibabaは8月5日、画像生成AIの最新版「Qwen Image 3.0」を公開した。これまでの版が美しいイラストを作ることに重きを置いていたのに対し、3.0が目指すのは新聞や試験問題、複数の図表を並べたインフォグラフィックのように、文字と図がびっしり詰まった「そのまま資料として使える画像」だ。最大4500トークン分もの長い指示文を理解でき、12言語・20種類以上のフォントで文字を正確にレイアウトできるという。ただし、性能を比較するためのベンチマーク数値やモデルの重み(AIの中身のデータ)は公開されておらず、利用は同社のチャットサービス上に限られる。
同じ時期、ByteDanceも動画生成AI「Seedance 2.5」を投入した。7月31日にまず自社サービス上で使えるようになり、8月上旬には外部の開発者が呼び出せる窓口(API)も整った。特徴は、最大30秒の映像を音声付きで一度に生成できる点だ。さらに画像30枚、動画10本、音声10本を参考素材として同時に読み込ませることもできる。生成した映像を継ぎ足して、さらに長い作品に仕上げることも可能だという。
実務上の示唆
- 資料作成にAIを使う場合、これまでの「見た目が整った画像」から「文字情報まで正確な画像」を作れるツールへの乗り換えを検討する価値がある。社内資料のたたき台作りから試すとよい
- ベンチマークや技術詳細を公開しないままサービス提供する動きが増えている。導入前には自社のユースケースで実際に試し、性能を自分の目で確かめる姿勢が欠かせない
- 動画生成AIが音声付き・30秒単位で作れるようになったことで、広告や研修動画の初稿づくりが大幅に短縮できる可能性がある。著作権や肖像権など利用ルールの整備も並行して進めたい
Claude Codeの「オートモード」が標準機能に AIエージェントの自律性と安全性の両立
Anthropicは、AIによるプログラミング支援ツール「Claude Code」の「オートモード」を、8月14日から有料プラン(Pro・Max・Team)の標準設定にすると発表した。これまでは、AIがファイル削除など影響の大きい操作をするたびに人間が一つずつ承認する必要があった。オートモードでは、その承認作業の代わりに専用の判定装置(分類器)が働く。この分類器が個々の操作を確認し、取り消せない操作や、想定外の範囲に及ぶ操作を自動的に見分けて止める仕組みだ。指示に紛れ込ませた悪意ある命令(プロンプトインジェクション)がAIの挙動を乗っ取ろうとしていないかも、あわせてチェックする。
Anthropicが示した数字によると、危険な操作1053件のうち、この分類器は937件を検出できた。検出率にすると89%にあたる。一方、人間のテスト担当者が同じ危険な操作に気づけたのは143件、率にして13.6%にとどまったという。企業向けやAPI経由での利用、大手クラウド経由での利用については、管理者が内容を確認できるよう当面はオプトイン(利用者が自分で選んで有効にする方式)のままとされる。なお、分類器の判定にかかる追加の処理量分は、対象プランの利用者に課金しない方針だ。
実務上の示唆
- 開発チームでClaude Codeを使っている場合、8月14日の切り替えに備えて、削除や外部送信など取り消しにくい操作をどこまでAIに任せるか、事前に方針を決めておきたい
- 人間の見落とし率が86%以上あったという数字は、AIエージェントの安全確認を人手のレビューだけに頼る限界を示している。自動チェックの仕組みを他の業務AIにも広げる検討材料になる
- 企業利用ではオプトインのままという設計は、段階的にAIへ権限を委ねていく現実的な進め方の参考になる。まずは影響範囲の小さい業務から自動化を試すとよい
米国で州単位のAI規制が本格始動 イリノイ州は第三者監査、コロラド州は未成年保護
米国では連邦レベルの統一的なAI規制が停滞する中、州ごとに異なる切り口の規制が相次いで動き出している。イリノイ州は7月6日、「AI Safety Measures Act」に知事が署名し成立させた。この法律の特徴は、年間の総収入が5億ドルを超える大手のAI開発企業に対し、外部の専門家による監査を毎年受けることを義務付けた点だ。自己申告的な情報開示にとどまっていた他州の規制より一歩踏み込んだ内容で、全米で初めて第三者による監査を義務化した州となる。法律自体は2027年1月に施行され、監査義務の本格適用は2028年1月からとやや先になる。
一方コロラド州では、5月に成立した「AI Companion Chatbot Safety Act」が2027年1月の施行に向けて準備が進む。この法律は未成年を対象に、相手がAIであることを明示すること、自殺や自傷をうかがわせる発言があった際に危機対応の手順を踏むこと、性的な内容や依存を誘うような仕掛け(ポイント制などの「ゲーム化」)を未成年向けに使わないことを事業者に義務付ける。米国ではすでに12の州が同種のチャットボット規制を成立させており、EUが包括的なAI規制法(AI Act)で網羅的に縛る一方、米国は州ごとに対象を絞った規制を積み重ねる形で進んでいることがうかがえる。
実務上の示唆
- 米国で複数州にまたがってAIサービスを提供する企業は、州ごとに異なる規制内容を個別に把握し、対応が最も厳しい州の基準に合わせておくと手戻りが少ない
- チャットボットを未成年が利用しうるサービスに組み込んでいる場合、AIであることの明示や危機対応手順の実装を、施行前から準備しておく価値がある
- 第三者監査の義務化は、自社のAI開発体制を外部の目でチェックしてもらう機会にもなる。イリノイ州の基準を先取りして監査に対応できる体制を整えておけば、他州の規制強化にも備えやすい
まとめ
今週のニュースを並べると、AIが「作れるもの」の質が上がる一方で、それを「どう任せ、どう縛るか」という仕組みづくりも同時に進んでいることがわかる。Qwen Image 3.0とSeedance 2.5は、生成AIが装飾的な用途を超えて実務の資料や映像制作に食い込みつつあることを示した。Claude Codeのオートモード標準化は、AIエージェントに任せる判断の範囲を広げながら、その安全性を人間より高い精度で機械に見張らせる方向へ進んでいることを物語る。そしてイリノイ州とコロラド州の規制は、包括的な法律を待たずとも、具体的な被害が想定される領域から先に手を打つ米国流のやり方を映し出している。生成AIの実用化が加速するほど、それを支える安全と統治の仕組みも同じ速さで求められている。