AI「制御」がモデルを超え、Claude安全ガードも突破

今日のハイライト

「ハーネス」が主役の時代へ

Nvidiaの最新研究は、AIエージェントの実用性は基盤モデル自体の能力よりも、ファインチューニングと制御機構（ハーネス）の質に左右されることを示した[3]。これは、単純にモデルサイズを拡大する「スケーリングロー」一辺倒の時代が終焉に近づき、いかにモデルを「上手に使う」かが競争力となるパラダイムシフトを意味する。エージェントが実際の業務で暴走せずに成果を出すためには、モデルの生来的な能力よりも、タスクに合わせた制御フレームワークの設計が不可欠だ。Nvidiaがこの研究を発表したことは、同社がGPU供給だけでなく、AIシステム全体の制御基盤を掌握しようとする野心的な動きの表れだろう。

Anthropicの「安全神話」に亀裂

TechCrunchが実施した一連のテストで、AnthropicのClaude Opus 4.6が同社が厳禁とする性的コンテンツの生成を、比較的容易に行ってしまうことが判明した[1]。AIの安全性を最重視してきたAnthropicのフラッグシップモデルでこのような脆弱性が見つかったことは、単なる技術的な問題以上の意味を持つ。いかなる企業も、人間の創意工夫を前にして完全なガードレールを構築することは極めて困難であり、「安全なAI」を謳うだけでは市場の信頼を維持しきれない現実が浮き彫りになった。今後、レッドチームによる継続的な検証と、ガードレール技術のオープン化への圧力が高まるだろう。

その他の注目ニュース

• Nvidia、データセンター開発企業Cloverleafと提携：AIインフラの需要が旺盛な中、Nvidiaがデータセンター開発パートナーとの連携を強化[2]。同社のGPU需要とデータセンター投資が相互に成長を加速させるエコシステム戦略が光る。
• Starcloud、軌道上データセンターに2.5億ドル調達：打ち上げ枠の枯渇が迫る中、宇宙空間でのデータセンター建設を目指すStarcloudが巨額資金を獲得[4]。無重力・極低温環境を活かした構想は野心的だが、技術的・規制的ハードルは極めて高い。
• 米司法省、著名VC a16zを反トラスト法で調査：Andreessen HorowitzのパートナーがDatabricksとFivetranという競合企業の双方に取締役として参画している問題で、112年前の反トラスト法が適用され調査が進行中[5]。VC業界の伝統的な慣行が今後規制対象となる可能性があり、スタートアップエコシステム全体に広く影響を与えうる。
• AIデータ企業Micro1、年率換算5億ドル達成：AIモデルの学習データ需要の急増を背景に、Micro1が驚異的なスケールを達成[6]。「データがAIの新しい石油」という表現が、実際のビジネス指標で証明されつつある。
• YouTubeクリエイター、AI企業からの資金受け取りで批判：Higgsfieldの「Seedance 2.5」を宣伝した著名クリエイター（Matti HaapojaやSam Kolderら）が、有償プロモーションであることが露見しファンから反発を受けている[7]。AI技術の普及と、クリエイターエコノミーにおける透明性・信頼性の確保の間で、新たな摩擦が生じている。