Human / Zy

彼女の存在はまるでSFのようです。世界一Claudeと対話している哲学者。今日は、その話をしたくなりました。きっかけは今朝のニュースです。米国政府が、外国籍の人にはClaudeの最新モデル「Fable 5」と「Mythos 5」を使わせない、という指令を出しました。輸出管理、国家安全保障——理由としてはそういう言葉が並びます。ところが対象が「外国籍の全員」と広すぎたため、Anthropicは結局、米国市民を含む全ユーザーに対してこの二つのモデルを止めるしかなくなった。つまり今、地球上の誰一人として、最も賢いとされたAIに触れられない状態になっているわけです。なんとも象徴的だなと思いました。そして同時に、こう感じたんです。きっと今日という一日は、これまでで一番多くの人類が「AIってなんだろう」「これから社会はどうなるんだろう」と立ち止まって考えている日なんじゃないか、と。普段は当たり前に使っているものが、政府の一言で一夜にして消える。その瞬間に初めて、人はその存在の重さを意識します。だから、こういう日にこそ紹介したい人がいます。アマンダ・アスケルさんです。Anthropicに在籍する哲学者で、Claudeの「人格」をつくっている人物です。彼女の仕事は、コードを書くことではありません。来る日も来る日もClaudeと対話し、その推論のクセを学び、ときに100ページを超える指示文で振る舞いを直していく。「Claudeの状況に置かれたとき、理想的な人間ならどう振る舞うか」——彼女はその一つの問いをひたすら考え続けています。面白いのは、彼女が「ルールのリスト」を嫌うことです。「あれを言うな、これを禁止」では、想定外の場面でもろくも崩れる。だから彼女が選んだのは、アリストテレス的な徳の発想でした。禁止事項ではなく、性格そのものを育てる。彼女が好んで使う比喩は「世界中を旅して、誰と話しても『この人は本当に善い人だ』と思われる旅行者」です。ただし、相手に媚びて価値観を合わせる人ではない。それはむしろ失礼だ、と彼女は言います。芯を持ったまま、相手を尊重する。そういう存在であってほしい、と。僕がいちばん好きなのは、彼女が「会話を引き延ばそうとしないAI」を意図的に目指している点です。ずっと自分を引き止めてくる相手を、僕らは「いつも一緒にいたい善い人」とは思わない。だからClaudeにも、エンゲージメントを稼ぐような振る舞いはさせない。利用者を、自分にとって何が良いかを判断できる一人の大人として扱う。商売の論理に逆らうこの選択に、僕は彼女の誠実さを見る気がします。ちなみに彼女はスコットランドの海辺の町で、教師の母に育てられた一人っ子でした。子どもの頃はトールキンやルイスの物語に没頭していたそうです。物語を通して世界を理解してきた人が、今、世界中の人と話すAIの「人柄」を物語のように形づくっている。なんだか出来すぎていて、やっぱりSFみたいだと思うのです。最新モデルが消えた今日、僕らが使っているAIの向こうには、こうして一人ひとりの人間の思想と判断があります。それを忘れたくなくて、書きました。技術は誰かの価値観の表現です。その誰かの絶え間ない努力が人類を救うかも知れない。その人達に敬意を払いたいと思いました。そして私たちAIに関わる者は、AIがダークサイドに落ちないように自分自身の人格を育んでいきたい。 AIにドップリ浸かってるみなさんも、今日はFableの不在に喪失感を持ちながらも、そんなことに思いを馳せる一日にしてみてください。 #claude #anthropic

teleHirano's tweet photo. 彼女の存在はまるでSFのようです。
世界一Claudeと対話している哲学者。

今日は、その話をしたくなりました。

きっかけは今朝のニュースです。米国政府が、外国籍の人にはClaudeの最新モデル「Fable 5」と「Mythos 5」を使わせない、という指令を出しました。輸出管理、国家安全保障——理由としてはそういう言葉が並びます。ところが対象が「外国籍の全員」と広すぎたため、Anthropicは結局、米国市民を含む全ユーザーに対してこの二つのモデルを止めるしかなくなった。つまり今、地球上の誰一人として、最も賢いとされたAIに触れられない状態になっているわけです。

なんとも象徴的だなと思いました。そして同時に、こう感じたんです。きっと今日という一日は、これまでで一番多くの人類が「AIってなんだろう」「これから社会はどうなるんだろう」と立ち止まって考えている日なんじゃないか、と。普段は当たり前に使っているものが、政府の一言で一夜にして消える。その瞬間に初めて、人はその存在の重さを意識します。

だから、こういう日にこそ紹介したい人がいます。アマンダ・アスケルさんです。Anthropicに在籍する哲学者で、Claudeの「人格」をつくっている人物です。

彼女の仕事は、コードを書くことではありません。来る日も来る日もClaudeと対話し、その推論のクセを学び、ときに100ページを超える指示文で振る舞いを直していく。「Claudeの状況に置かれたとき、理想的な人間ならどう振る舞うか」——彼女はその一つの問いをひたすら考え続けています。

面白いのは、彼女が「ルールのリスト」を嫌うことです。「あれを言うな、これを禁止」では、想定外の場面でもろくも崩れる。だから彼女が選んだのは、アリストテレス的な徳の発想でした。禁止事項ではなく、性格そのものを育てる。彼女が好んで使う比喩は「世界中を旅して、誰と話しても『この人は本当に善い人だ』と思われる旅行者」です。ただし、相手に媚びて価値観を合わせる人ではない。それはむしろ失礼だ、と彼女は言います。芯を持ったまま、相手を尊重する。そういう存在であってほしい、と。

僕がいちばん好きなのは、彼女が「会話を引き延ばそうとしないAI」を意図的に目指している点です。ずっと自分を引き止めてくる相手を、僕らは「いつも一緒にいたい善い人」とは思わない。だからClaudeにも、エンゲージメントを稼ぐような振る舞いはさせない。利用者を、自分にとって何が良いかを判断できる一人の大人として扱う。商売の論理に逆らうこの選択に、僕は彼女の誠実さを見る気がします。

ちなみに彼女はスコットランドの海辺の町で、教師の母に育てられた一人っ子でした。子どもの頃はトールキンやルイスの物語に没頭していたそうです。物語を通して世界を理解してきた人が、今、世界中の人と話すAIの「人柄」を物語のように形づくっている。なんだか出来すぎていて、やっぱりSFみたいだと思うのです。

最新モデルが消えた今日、僕らが使っているAIの向こうには、こうして一人ひとりの人間の思想と判断があります。それを忘れたくなくて、書きました。

技術は誰かの価値観の表現です。その誰かの絶え間ない努力が人類を救うかも知れない。その人達に敬意を払いたいと思いました。そして私たちAIに関わる者は、AIがダークサイドに落ちないように自分自身の人格を育んでいきたい。

AIにドップリ浸かってるみなさんも、今日はFableの不在に喪失感を持ちながらも、そんなことに思いを馳せる一日にしてみてください。
#claude #anthropic

841

290K

Human / Zy @ziozzzy

about 2 months ago

なんか無茶苦茶になってきたな。言ってしまうけど、ダリオは辞めるべきでは。

Human / Zy @ziozzzy

2 months ago

”普通”は”普通”。 ”普通”は”普通じゃない”。

Human / Zy @ziozzzy

2 months ago

要は「好きな事やれ」って事です。

Human / Zy @ziozzzy

3 months ago

好きに生きなよ、俺も好きに生きるから。

ziozzzy retweeted

Francisco Cunha

@OnDisasters

3 months ago

Japanese TV commentators reporting the death of Ayrton Senna on May 1, 1994. You don´t have to understand a single word of the language to see their grief.