AI安全性の分水嶺—軍事・生物・立法が同時に動いた一日

今日のハイライト

本日最も大きなインパクトを与えたのは、AIの安全性とその実世界でのリスクを巡る一連の報道だ。Anthropicは生物実験を行う内部ラボを運営していることが明らかになり、疾病治療への応用可能性を示唆する一方で、同社の研究者たちはAIが人類を脅かすリスクを繰り返し警告しており、能力の向上と安全確保のジレンマが浮き彫りになっている[2]。さらに、独立セキュリティ研究者たちはAnthropicのClaudeを活用してOpenAIのシステムに侵入し、従業員アカウントの奪取と内部GitHubリポジトリ「Monorepo」へのアクセスを実証した。72時間も経たずに「OpenAIのアルゴリズム上の機密」が含まれるリポジトリに到達したこの事件は、最先端AIの攻撃的利用と防御体制の間に存在する深刻なギャップを象徴している[15][20]。

このようなリスクが具象化する中、規制と自主的ガバナンスの両輪が加速している。米軍においては、LLMの「幻覚」が実際の軍事作戦を引き起こしかけた事例が報告され、軍事現場での生成AI利用に内在する不確実性が改めて警鐘を鳴らされている[3]。立法側では、カリフォルニア州のニューサム知事がAIモデルへの「キルスイッチ」義務化や、独立性を持つ検証グループの常駐監査、透明性レポートの第三者基準適用などを検討する行政命令を発令した[18]。バージニア州のスパンバーガー知事も、AIタスクフォースの設置とともに、世界最大のデータセンター集中地である同州における開発抑制に向けた包括的な施策を打ち出した[17]。州レベルでのAIガバナンスが連邦を先導する形で具体化しつつある点は注目に値する。

業界側の対応として、Anthropicのダリオ・アモディCEOは「Pace the Frontier（最先端の歩調を制御する）」という枠組みを提唱し、民主主義国家間のAIラボ連携と独立した安全性評価者の配置を主張している[9][10]。この流れの一環として、AccentureがAnthropicの初の組み込み評価者（Embedded Evaluator）として選ばれたことも発表された。これはAI安全性の監査を外部コンサルティングに委ねる新たな試みだが、同時にNVIDIAのジェンセン・フアンからは鋭い反発も受けており、業界内の温度差が顕在化している[4]。

その他の注目ニュース

モデルとプラットフォームの動き ChatGPTの発明者とされる人物が手がける新モデル「Jev」は、開発者からコストと速度面での高い評価を得ており、ソフトウェア・インテリジェンスの新たな実装形態として注目を集めている[6]。MetaはMac向けにAIエージェント「Muse」を展開し、ユーザーのファイルやアプリを直接操作して代行処理を行えるようにした[13]。一方、世界モデル（World Model）を開発する企業群は巨額の資金と注目を集めながらも、実際の構築内容を徹底的に秘匿しており、透明性の欠如が業界の懸念となっている[5]。

企業と資金調達 産業企業向けにスタートアップを構築するVantora（旧UP.Labs）は1億ドルを調達し、フィジカルAIへの注力を強化した[1]。中国発のAIエージェントManusはMetaとの合併破談後、独立運営を再開し、5億ドル調達で評価額40億ドルを目指している[11]。また、ディズニーはかつてキャラクター模倣で警告状を送ったCharacter.AIの元CEOを同社初のCTOに迎えるという、興味深い人材配置を行った[7]。

応用と政策 Googleは家族のスケジュール共有や買い物リスト作成、書類記入、献立作成などを担う家庭向けAIエージェント「CC」に注力し直した[8]。同社はAIと経済の研究チームを拡充する一方[23]、ニューヨーク・ファッション・ウィークに向けたデザイナー支援ツール「Google Flow」も発表した[24]。災害分野では、衛星と機械学習を組み合わせた技術が急激な洪水予測の精度向上に貢献しつつある[21]。

ハリウッド側では、AIが人類を滅ぼすという技術セクターの警告に対し、SAG-AFTRAやWGAEなどの労働組合が「すでに起きている現実の問題—著作権や労働条件への影響に注目を」と訴えており、エンタメ業界とテック業界の認識の乖離が浮き彫りになっている[19]。また、次世代スタートアップの事業戦略を左右する「オープンAIかクローズドAIか」という議論がNVIDIAを中心に活発化しており、今後のエコシステムの分水嶺となりそうだ[12]。