R.Miyauchi

生け花/写真/発達障害/ASD 自閉症スペクトラム/神椿・Thinkr観測者

[今井翔太 / Shota Imai@えるエル @ImAI_Eruel]

政府によるAnthropicのFable/Mythos停止騒動は、単体ではこの記事がおそらく一番詳しそう
（あまりにも生々しいのと、自分も一応開発側なので、見ていて胃がキリキリする）
・まずAmazon CEOのジャシーが、政権の意見要請に応じてジェイルブレイクの問題を伝えた
・金曜日の朝の時点までに、ホワイトハウスの中で最高レベルの問題扱いになった
・ベッセント長官等の政権幹部で会合があり、アモデイに直接連絡。アモデイは誤解を解こうとしたが受け入れられず
・アモデイはもう少し時間が惜しいと訴えたが、Fable/Mythosの削除の約束はせず、ベッセントが「悪い決定をしている」と断言
・この電話会談の直後に輸出規制発動
・Anthropicの関係者曰く「削除の根拠を一切示さず、90分以内にモデル削除をするよう要請された」
（怖すぎる・・・）
https://t.co/TsMQcxa6CY

[今井翔太 / Shota Imai@えるエル @ImAI_Eruel]

昨日、国立情報学研究所オープンハウスの基調講演で話したことが、今回の米政府によるAnthropicのFable/ Mythos停止事件にちょっと関連するかもしれないので、当日の資料（少し変えた）も合わせてコメント。

仮に今度Mythos/FableレベルのAIが普通に使えるようになる場合、これからは「知能の壁」が崩れた世界が来ると思っています。現在の世界は知能が高い人がそんなに大量にいないのと、そのような人にも時間的な制約があることから安定が保たれていますが、もし誰もが高い知能を使えるようになれば、誰がどこでその高度な知能を使って危険なことをするかわからない&今まではリソース不足で行われなかった攻撃が多発する可能性が高いでしょう。ということで、Anthropicの主張する脅威論や安全策は、ある程度正しいところがあると思います（AI開発関連で警告なし弱体化はやりすぎでしたが）。
TBS CROSS DIGでも何度か触れてますが、「AIを賢く有用にし、さらに危険性も抑える」ことはほぼ成立しないと思います。特に危険なデータで学習しなくても、とても賢い存在は、自然とその気になれば危険なことができるようになってしまいます。プログラミングがとてもうまい人は同時にその気になればとても優秀なハッカーで、生物学者はどの気になれば生物兵器らしきものを作れるでしょう。
Mythos/Fableでは、モデル本体の賢さを落とさないため、AI本体に対するアライメントではなく外部フィルタの形をとってきましたが、生物学、暗号学、AI関連の単語の多くがはじかれることで有用性を損なっています。、何らかの形でフィルタが突破されれば、アライメントが不十分なAIが生身で解放されるので、もしもの危険を考えると、怪しきは全て罰せよ形式にするしかないと思います。そもそも、全く同じプロンプトの同じ出力でも、使う人によって結果が大きく異なるため、単純な入出力だけを見て規制の対象とするのが古いのかもしれません（この点、Anthropicはデータ保存ポリシーを変更して、保存されたデータの組み合わせから危険性を判断しようとしているっぽいので、これは正しいと思います）。
危険性を抑えるためにはAI本体へのアライメントが必須だと思いますが、これは例えばサイバーセキュリティだと、脆弱性特定能力とプログラミング能力は衝突するため、有用性を維持することができません。

ここまでを考えると、今回のアメリカ政府の即時停止はあまりにも急だとしても、将来的には一定性能以上のAIについては、当初のMythosのように事前審査制になり、特定の国、機関、個人しか使えなくなるというのは避けられない気がします。これはアメリカという国に限った話でなく、仮に同盟国の日本だろうと、中国だろうとロシアで先端AIが作られたとしても、世界のどこかで世界を恐怖のどん底に突き落とすウイルスを誰かに作られては困るため、同じ処置になるのではないかと思います。

[ぬこぬこ / NUKO 🇯🇵 @nukonuko]

https://t.co/KfRwOc9Meh

[Rosarinn @rosarinn]

美術館の照明は「身長160cm前後の人が、作品から1.5m〜2m離れて立った視点」を基準に、光の反射が目に入らないよう設計されている。その為、子どもには絵がテカって見えたり、背の高い人には自分の影が落ちたりする。誰もが平等に鑑賞できるわけではない現実がわかるエピソード。

[Lisan al Gaib @scaling01]

For anyone wondering what this means:
- Anthropic (and potentially future OpenAI, Google, xAI) models that cost billions to develop will make 0 revenue outside the US
- a big double digit percentage of Anthropic (and potentially OpenAI, Google, xAI) workforce can no longer work there, because they are foreigners and are not allowed to use those models

So Trump just made frontier model development effectively unprofitable and tremendously slowed down Anthropic (and potentially others in the future)

He's handing China the win on a gold platter.

*potentially: if the same restrictions are imposed on other frontier labs and models

[R.Miyauchi @ryuji108it]

地元の書店で買いたいね...

[三宅香帆 @m3_myk]

【新刊】『推したちとどう生きるか』
新潮新書より7/17に発売します…！

なぜ日本人は推しを愛するのか？
推しと年齢を重ねる時代に、私たちは推しとどのような関係を築いていくのか？

予約開始しました🙇‍♀️
たくさんの方に届きますように！

[三宅香帆 @m3_myk]

自分なりにまっすぐ戦後日本の消費の歴史から推し活に繋がる問いについて、考えてみました。

裏テーマは、戦後日本と立身出世の“アイドル”史です！

ぜひ拡散していただけるととても嬉しいです🙇‍♀️🙇‍♀️

[落合陽一 Yoichi OCHIAI @ochyai]

fable5使えなくなったからもう休み！　って人今日多そう．もう酒呑むしかないこの時代．

[R.Miyauchi @ryuji108it]

今回のアメリカによる処置が、歴史的に重要な分岐点だとしたら面白いな...
これがきっかけで国に依存しないAIの開発が促進されなければならないと考える方は、米国内に絶対いるはず...

[今井翔太 / Shota Imai@えるエル @ImAI_Eruel]

Anthropicが政府指示でFable5、Mythos5へのアクセスを突如禁止した件、同時に公開された文書曰く、モデルの安全策を無効化する手法(いわゆるジェイルブレイク)が共有され、本来のサイバーセキュリティの脆弱性特定能力が利用されてしまったためとしています。
とあるジェイルブレイク手法が昨日からSNSで出回っていたのは私も確認していたのですが、それが関連してるのかもしれません。

[R.Miyauchi @ryuji108it]

なんという時代と世界にいるのか

[R.Miyauchi @ryuji108it]

はあ！？

[Anthropic @AnthropicAI]

The US government, citing national security authorities, has issued an export control directive to suspend all access to Fable 5 and Mythos 5 by any foreign national, whether inside or outside the United States, including foreign national Anthropic employees.

The net effect of this order is that we must abruptly disable Fable 5 and Mythos 5 for all our customers to ensure compliance.

Access to all other Claude models is not affected.

We apologize for this disruption to our customers. We believe this is a misunderstanding and are working to restore access as soon as possible.

Read our full statement: https://t.co/bwn0sximKZ

[読書猿 5/23 新刊『ゼロからの読書教室』 @kurubushi_rm]

え、丸善から邦訳出てた、あれだよね？
わしのバイブル。
とんでもなく面白いやつ。

[Nobi Hayashi 林信行 @nobi]

Apple Intelligenceの核「Apple Foundation Model」はGeminiをそのまま使っているわけではない。

Appleのワールドワイドマーケティング担当シニアバイスプレジデント、グレッグ・ジョズウィアック（Joz）氏の証言です。

何が根拠かわからないのですが、ITmediaに書いたApple IntelligenceはGeminiベースではないという記事のYahoo! News転載にも、コメント欄を見ると何が根拠なのか不明なのですが「いや。でも中身はGeminiだから」的なコメントをつけている人がいて、一部でApple Intelligence=Geminiという認識をアップデートできない人がいるようです。
なのでShishirさんの以下の動画を日本語訳しました（残念ながら、今のTwitterが日本語訳できるのは文字情報だけなので）：

「Googleは『Gemini（ジェミニ）』という名を冠した製品やサービスを数多く展開しています。そのため、一部では『SiriのAIは、結局のところGeminiのアプリやシステムを看板だけ掛け替えたもの（焼き直し）に違いない』と思われた方もいたようです。

ですが、実際はまったく異なります。もちろん、私たちはGoogleと素晴らしいパートナーシップを結んでいます。彼らが極めて優れた最先端の『フロンティアモデル』を開発しているからこそ連携しているわけですが、私たちが共組して行ったのは、全く新しい独自のモデル群をゼロから構築することでした。

それが、デバイス上およびクラウドを介して提供される『Apple Foundation Models（アップル・ファンデーション・モデル）』です。開発にあたっては彼らの最先端の技術をベースとして活用していますが、これらは『Apple Foundation Models』として専用に開発された、完全に新しい独自のモデルなのです。そして、新しいSiriはこのモデルを原動力として動いています。

したがって、これは皆さんが普段慣れ親しんでいるGeminiのアプリやサービスをそのまま使っているわけではありません。そうではなく、Googleの広範な技術ブランドである『Geminiテクノロジー』を、共同開発という形で深く組み込んでいる、ということなのです」

[けんすう @kensuu]

産業革命と資本主義のコンボで新しい思想が生まれたみたいに、AIでも確実に生まれるんだろうな。今までの社会通念とか、常識とか、倫理とか、そういうの全部ぶっ壊れる感じする。

社会規範やルール、倫理が先にあるのではなくて、

技術が生産体制を決め、それがあると社会の主要なプロジェクトを決まり、それにより社会規範が作られる、の順番なので

この先の社会規範や倫理がどうなるかは全くわからない。

[R.Miyauchi @ryuji108it]

以前から思っているけれど、文章を元にどれだけ仕様枠を使うかという点で見れば、ClaudeよりもChatGPTの方がこちらが指示しなくても、推論しないでできるところはやらずに節約してくれていると感じる...
Fable5やMythosの継続利用を考えると、使用量の判断部分をClaudeにもっとやってほしいかも...

[ナル夫(元XRオピニオンリーダー) @GOROman]

めんどくさい人は

https://t.co/4BVqcbxkuv のナルエビちゃんニュースをすべて読もう

[R.Miyauchi @ryuji108it]

サブスクだとFreeでしばらく使えるのか。。
いろいろ、今やってることを評価し直してもらおうか。。

[R.Miyauchi @ryuji108it]

Claude Fable 5、使えたとして（現在pro）、どんなことを依頼してあげればいいのかを、まず考えなければいけない。。
(´ー｀)