米政府、Anthropic最強AIを緊急停止—Amazonの警告が発端

今日のハイライト

Anthropic社の最上位モデル「Fable 5」と「Mythos 5」への政府によるアクセス遮断命令が、週末にAI業界に衝撃を与えました。発端となったのは、同社への大口投資家でもあるAmazonのセキュリティ調査でした。

AmazonのCEO、アンディ・ジャシー氏がホワイトハウスに共有した調査結果によれば、Fable 5は特定のプロンプト操作（ジェイルブレイク）によりサイバー攻撃に悪用可能な情報を生成する可能性が指摘されていました。これを受け、米政府は輸出管理規制に基づき、国内外を問わず外国人によるアクセスを全面的に遮断するようAnthropicに命令しました。同社の従業員であっても、米国籍でなければアクセス不可という厳しい措置です。

ここに痛烈なジレンマが生じています。Anthropicは「責任ある開示」を信条としてきた企業であり、自らの脆弱性を政府に報告したことが、結果として自社モデルの「事実上の停止」につながったのです。同社はブログで「狭義の潜在的ジェイルブレイクの発見が、数億人に展開されている商用モデルの召回（撤回）理由になるとは思えない」と不満を表明しています。

この出来事は、AI安全研究と規制の関係に根本的な緊張をもたらします。企業が脆弱性を正直に報告した結果、事業の根幹を揺るがす措置が取られるならば、今後は内部での「沈黙の修正」が常態化するリスクがあります。さらに、Amazonのような戦略的投資家が、投資先の技術的欠陥を行政機関に通報するという構図は、AIエコシステムにおける「監視と通報」の新たなダイナミクスを示唆しています。

政府の介入がこのような速度と強度で行われたことは、生成AIに対する国家安全保障上の懸念が、もはや議論の段階を超えて「スイッチを切る」実効性を伴った規制へと移行したことを示しています。Anthropicは対外的な安全性への懸念から自主規制を強めてきましたが、今回の事例は「安全性のための透明性」が逆に規制当局の標的となる可能性を露呈させました。

その他の注目ニュース

OpenAI、複数州からの司法調査を受ける OpenAIが複数の州検察総長から広告ポリシーと健康データの取り扱いについて調査を受けていることが明らかになりました。連邦レベルに加えて州レベルでの規制網が密になる中、AI企業に対する法的リスク管理の複雑さが増しています。

KPMG、AIが生成した「幻覚」により報告書を撤回—AIの自己言及の限界 大手監査法人KPMGが、AIの利用状況に関する報告書を「幻覚（ハルシネーション）」のため撤回したという皮肉な事態が発生。専門家組織でさえAIによる調査資料の検証を怠った事例は、AI自身がAIについて語る情報の信頼性について警鐘を鳴らしています。

Apple、iOS 27でネイティブAI写真編集を実装 iPhoneのネイティブ写真アプリに、生成AIによる再構成（Reframe）や拡張（Extend）、消去（Clean Up）機能がiOS 27開発者ベータに搭載されました。Google Pixelに比べて慎重な機能設定ではありますが、世界最多のカメラに本格的な生成AI編集が組み込まれることで、消費者への生成AIの浸透が加速します。

Andrew Yang、生活コスト削減が次のスタートアップ機会と提唱 元大統領候補のAndrew Yang氏が、住宅・食品・通信など「アメリカ人が過大に支払っている」分野を整理し、生活コストを下げるスタートアップが次のゴールドラッシュになると主張。インフレとAI自動化が交錯する中、消費者の「お財布に優しい」イノベーションの必要性を訴えています。

ハリウッドの生成AI活用、バニラモデルの限界が浮き彫りに トリベッカ映画祭で披露されたAI映画プロジェクトから、単なるプロンプト入力ではなく、GoogleのVeoやImagenをカスタムビルドして訓練した専用モデルが高品質な映像制作の鍵であることが示されました。汎用モデルの限界が見え始めたことで、エンタメ業界における生成AIの「プロ用ツール化」への移行が示唆されます。

「Vibe Coding」で個人アプリ開発—庭管理アプリの事例 The Vergeの記者が、Geminiへの単一プロンプトで庭の管理アプリを生成（Vibe Coding）した体験記が注目を集めています。プログラミング知識がなくとも233秒で機能するアプリが構築できた一方、バグ修正ボタンの存在が示すように、完全な自動化と人間の監視のバランスについて考察を促します。