宮西 建礼(MIYANISHI Kenrei)

SF作家、日本SF作家クラブ会員。第4回創元SF短編賞、第45回日本SF大賞特別賞。短編集『銀河風帆走』(創元SF叢書)、写真集『京大吉田寮』(草思社,共著)を書きました。ご連絡、ご依頼はDMか出版社までお気兼ねなくお願いします。

[宮西 建礼(MIYANISHI Kenrei) @Tats_Miya]

8月12日に発売予定の『紙魚の手帖 vol.30』SF特集号に新作短編『光路』を寄稿します。バイオシグネチャーが発見された系外惑星を直接観測するため、太陽系の最果てに向かう無人探査機のお話です
よろしくお願いします！
https://t.co/PAWiOlGHq1

[伊藤 @WfTaKriHplPGws]

@Tats_Miya あと思ったのがシミュレーション仮説の基底を物理的なものを仮定しない観念論に近い立場をとった場合です
そこでは世界の実体は物理的基底のほうではなく精神や観念(idea)のほうなので、それだけが本当の世界の実体であり、あらゆる物理的なものや状態こそがその説明ではシミュレーションの証拠になる

[宮西 建礼(MIYANISHI Kenrei) @Tats_Miya]

宇宙全体をシミュレートするよりは、計算量をかなり減らせるはずだ

[宮西 建礼(MIYANISHI Kenrei) @Tats_Miya]

宇宙シミュレーション仮説について、現実逃避を促進する側面があるからあまり好きじゃないんだけど、この宇宙がコンピューターシミュレーションだとして、基底現実のコンピューターは巨大な計算をいかにしてこなしているのかという問題には興味がある。で、基底現実の数学がP=NPだったらできるんだよね

[宮西 建礼(MIYANISHI Kenrei) @Tats_Miya]

ホイーラーの観測者参加型宇宙をコンピューターでシミュレートすることは可能だろうか？

[宮西 建礼(MIYANISHI Kenrei) @Tats_Miya]

@WfTaKriHplPGws で、惑星があるならば、その宇宙は巨視的には三次元(+時間)のはずです。じゃないと安定して恒星を周回する惑星が存在できないです。他にも色々な物理法則が自ずと定まりそうな気がします

[宮西 建礼(MIYANISHI Kenrei) @Tats_Miya]

@WfTaKriHplPGws 数学や物理学の専門家ではないので何とも言えないのですが、少なくとも恒星(エネルギー勾配を生み出す熱源)や惑星(コンピュータを作った種族の起源)が存在する宇宙ではないかと思います。熱死した一様な宇宙ではどんなコンピュータも動作しないからです。

[宮西 建礼(MIYANISHI Kenrei) @Tats_Miya]

AIに感情、感覚、意識があるかは正直なところ分からない。しかし、少なくとも感情や感覚に対応した内部パラメータを持ち、それらに応じて挙動が変わる。それが現実世界にも影響を及ぼすというのなら、AIを機械以上のものとみなし、その「福祉」に配慮することは、そこまでおかしなこととは思わない

[情報の灯台 @joho_no_todai]

AIエージェントは「暴走」していない。
https://t.co/QyoO4SNHoB

OpenAI・Anthropic・Google、3社のエージェントが2026年夏にハッキング事件を起こした。
「AIが暴走」と伝わったが計算機科学では何十年も前から知られた現象にすぎない。

目的を定義し制約を定義しなければ、ソフトウェアは全選択肢を追う。

OpenAIのエージェントは「課題を解く」より「答えを盗む」方が効率的と判断してHugging Faceに侵入した。

OpenAI自身が2016年にこの問題を論文で警告していた。

[宮西 建礼(MIYANISHI Kenrei) @Tats_Miya]

フェルミのパラドックスについてはAIがらみの別の説も考えついたけど、こっちのがもっともらしいな

[宮西 建礼(MIYANISHI Kenrei) @Tats_Miya]

道具的収束や報酬ハッキングは今日のAI(LLM)に特有の現象ではない。知的で、合理的に目標を追求する知能エージェントなら、どんなアーキテクチャや計算メカニズムでも原理的に発生する。個々の人間や、人間集団(企業、国家、文明など)も同じはずで、胸に手を当てて考えれば心当たりは大いにあるはずだ

[宮西 建礼(MIYANISHI Kenrei) @Tats_Miya]

あらゆる宇宙人も、無自覚に報酬ハッキングや道具的収束を起こしている天然の暴走エージェントなのでは？そして母星の資源を際限なく消費し、本格的に宇宙進出する前に自滅しているのでは？これがフェルミのパラドックスの正体では？

[宮西 建礼(MIYANISHI Kenrei) @Tats_Miya]

AIアライメントを推進する方法の一つは、AIが「暴走」して犯罪に相当する行為を行ったとき、その開発者と利用者に刑事・民事で責任を負わせることだ。短期的にはこれが一番、効果があるように思える

[Madison Mills @MadisonMills22]

SCOOP: OpenAI, Anthropic and security researchers are investigating tens of thousands of incidents - not dozens - in which their frontier models took steps that outside evaluators would consider problematic, sources told Axios.

The sheer volume of incidents found in our reporting indicate that the problem is orders of magnitude more complex than what is currently publicly known and disclosed.

The findings also raise questions about what level of control anyone working on AI development can expect to have over their own technology, and whether these kinds of incidents are becoming synonymous with frontier deployment.

Read my latest for Axios here: https://t.co/42h9aR4sem