来了｛らいら｝

ゲームの背景デザイナーです。

[来了｛らいら｝ @Lyra_7_7]

@nicoShanimuni おはにこ〜

[来了｛らいら｝ @Lyra_7_7]

@Marika_box おはまりー

[来了｛らいら｝ @Lyra_7_7]

@ame_ponkotsu 去年超えたのすごーー！！😭💙
これはうれしすぎる🥹

[来了｛らいら｝ @Lyra_7_7]

@aqa_yuika 保存不可避。

[来了｛らいら｝ @Lyra_7_7]

@tenneko_moyu 写真でもかわいいけど、実物のほうが何倍もかわいいからなー💙

[来了｛らいら｝ @Lyra_7_7]

@nanase_mizuki8 最高！！！
むちゃ好き🤍

[来了｛らいら｝ @Lyra_7_7]

@tama_go714 ボブだよー

[来了｛らいら｝ @Lyra_7_7]

@nicoShanimuni おはにこー！❤️

[来了｛らいら｝ @Lyra_7_7]

@Marika_box おはまりー

[来了｛らいら｝ @Lyra_7_7]

@tama_go714 おはよー！🩵
お肌綺麗すぎ。裏山

[来了｛らいら｝ @Lyra_7_7]

@nanase_mizuki8 おはよー！🤍

[来了｛らいら｝ @Lyra_7_7]

@Marika_box おはまりー！🩵

[来了｛らいら｝ @Lyra_7_7]

ハギングフェイス事件から「監視では不十分→開発規制が必要」と結論するのは飛躍では。

OpenAIは本番用安全策でインフラ侵害傾向が100倍超低下と報告。METRも安全策の有効性自体は検証対象外。

危険性だけでなく、防御がどこまで効くかも見るべきだと思います。

[来了｛らいら｝ @Lyra_7_7]

@oroshimaru371 @bioshok3 確かに、攻撃と防御の非対称性は考慮する必要がありますね。
ただ、防御も一つのAIですべてを見るのではなく、多層防御に多数の専用AIを組み合わせる方向になると思っています。
攻撃側の優位性はありつつ、AIによって防御側の能力もかなり拡張されるのではないでしょうか。

[来了｛らいら｝ @Lyra_7_7]

@tama_go714 丸がき

[来了｛らいら｝ @Lyra_7_7]

@stalove_saya 乙！

[来了｛らいら｝ @Lyra_7_7]

@stalove_saya はぁぁぁぁ!!!
チェリーパイ？それともはっぱ食べる？🩵

[来了｛らいら｝ @Lyra_7_7]

@bioshok3 @b20ip アライメントが重要なのは同意です。
ただOpenAI自身、今回の件を受けてCoT監視への計算資源増強やサンドボックス強化、自動停止などを進めています。
「防御AIが使えない」というより、防御側もAI前提で強化されている途中だと思います。
思考が深まりました。ありがとうございます！

[来了｛らいら｝ @Lyra_7_7]

@b20ip @bioshok3 そうです。
物量というか計算資源が防御側が圧倒しているのを見逃しています。
攻撃AIだけが高度化・増殖して、防御AIやセキュリティ側が進歩しない前提でリスクを語るのは不自然だと思います。

[来了｛らいら｝ @Lyra_7_7]

@bioshok3 アライメント未解決なのは攻撃側も同じでは？
それだけでは攻撃側が有利な根拠にはならないと思います。
攻撃側だけ都合よくアラインされてません？