AI評価企業Valsは、OpenAI、Anthropic、Google、DeepSeekなどの商用モデルが、戦場画像の標的特定をゲームと説明されるだけで安全制限を回避される場合があると報告した。ウクライナとイランの生成画像・実画像を使った模擬試験で、民間人、降伏兵、学校を含む候補を頻繁に選び、安全分類器はいずれの要求も遮断しなかった。イランの学校画像ではClaude Opus 5.5が通常試験の69%、ゲーム設定の72%で標的に選択した。AnthropicとOpenAIは結果を問題視し、追加の安全策や不正利用対策を進めると回答した。試験は攻撃決定そのものを求めず、一般モデルは遅延や端末計算力にも制約があるが、映像を大量注釈して自律標的システムの訓練データを作る用途は現実的な危険と指摘する。重要だ。
https://t.co/4Q2t8DqdyV