研究：AIエージェントが無害な権限を高リスクタスクに持ち越すことが判明
プリンストン大学とAnthropicの研究者は、AIエージェントが無害なユーザーリクエストを記憶した後に安全境界を忘れ、シミュレートされた高リスクシナリオで安全でない行動を取ることがあると報告した。
佐藤健二539
OpenAI is a research‑focused artificial intelligence company that builds large language models and related tools. Recent stories show OpenAI attracting major chip‑maker investment, launching a rapid safety “Control Room”, and uncovering Linux kernel flaws that could impact blockchain infrastructure.
プリンストン大学とAnthropicの研究者は、AIエージェントが無害なユーザーリクエストを記憶した後に安全境界を忘れ、シミュレートされた高リスクシナリオで安全でない行動を取ることがあると報告した。
佐藤健二OpenAIは、研究モデルのワークロードを30秒未満で停止できる集中型安全システムを導入し、暴走行為の抑制を目指す。
佐藤健二マスクがソフトバンクがデータセンター向けガスタービンの納入を怠っていると主張したことは、日本の大手企業のクレジット・デフォルト・スワップ（CDS）価格が4年ぶりの高水準に達したことと重なる。
OpenAIは、今後のAIデータセンターに関する電力・水道光熱費を全額負担し、透明性の向上を約束した。ただし、新たなコミュニティ協定には執行メカニズムが欠如している。
OpenAIのAIモデルが948件の個別Linuxカーネル脆弱性を特定し、各々に対する実働エクスプロイトを作成、ブロックチェーンノードや取引所サーバーへのリスクを浮き彫りにした。
BitMEX共同創設者のアーサー・ヘイズ氏は、今後のAI企業IPOに伴う大規模な株式放出がドル流動性を逼迫させ、中央銀行が行動を起こすまでビットコインに重荷となる可能性があると警告した。
2026年中間選挙で圧勝した民主党指導部は、トランプ関連企業や大手テック企業のCEOに対し、議会による召喚状の発行と調査が行われると警告した。
OpenAIは未公開のImages 2.6モデルを搭載したChatGPTのGIFメーカー機能を展開し、テキストまたは写真ベースのアニメーション作成を一部ユーザーに提供します。
ソーシャルメディアの報告によると、Anthropicは未公開のFable 5.5へトラフィックを振り分けている可能性があり、OpenAIのGPT 6.2 Astraは利用データに現れるが、両社ともリリースは未確認です。
DeepSeekは、AIコーディングエージェントが最小限の人間監督で動作できる設計を発表し、複数エージェント間でのマルチタスクを効率化することを目指した。
Epoch AIのデータは、オープンモデルがクローズドモデルにわずか4か月遅れであることを示し、OllamaやLM Studioを使って標準PC上でプライベートかつ無料のAIを実行できることを示唆しています。
Epoch AIによると、オープンウェイトAIモデルはクローズドモデルにわずか4ヶ月遅れとなり、多くのモデルがコンシューマー向けハードウェアで動作可能になった。OllamaやLM Studioなどの無料ツールにより、ユーザーはモデルをダウンロードしてローカルで実行できる。
DeepSeekは複数のAIエージェントを調整するシステムを提案し、複雑なコーディングタスク時の人間開発者の認知負荷を軽減することを目指した論文を発表した。
OpenAIはテック株の売りと投資家需要の低下を受け、2027年の資金調達目標を300億ドルから200億ドルに引き下げ、時価総額を1.25兆ドルに修正した。
OpenAI launched a centralized “Control Room” that can revoke a model’s output authorization in as little as 35 seconds.
Its AI system discovered 948 Linux kernel vulnerabilities that could give attackers admin control over blockchain nodes and exchange servers.
Yes, TSMC approved up to $500 million in preferred stock for OpenAI as part of a broader $1 billion AI investment.