AIアライメントネットワーク（ALIGN）

一般社団法人AIアライメントネットワーク（略称ALIGN＝アライン）の日本語アカウント。ALIGNの活動や、AIアライメント／AIセーフティに関する国内外の情報を発信します。
English: @AIAlignNetwork

[AIアライメントネットワーク（ALIGN） @AIAlignNetJP]

AIアライメントネットワークは、政策提言書「日本AGI基盤（NAGI）構想」を改訂し、第三版(v3.1)を公開しました。 全文↓
https://t.co/k1dbRgcwMz

[Kazuki Kimura @kazukik0403]

https://t.co/HE9nolEpex

[白石正明 @shiraishimas]

「無料に見えるときは，エントロピーの請求書を境界の外に隠しているだけだ」
会計境界（Accounting Boundary）」って面白いな。

[⿻ Yusuke Hayashi 林祐輔 @hayashiyus]

https://t.co/EuvsnXkc8M

[⿻ Yusuke Hayashi 林祐��� @hayashiyus]

高橋恒一先生 @ktakahashi74 との共著論文（https://t.co/wItYaZtdAc）の解説記事を公開しました。物理現象と情報処理の間にある「隠れた会計学」を考慮しよう，という提案です。
https://t.co/wzYXrHjv0V

[R. Maruyama @rmaruy]

＼開催決定！／
メタサイエンス・ミートアップ
～科学・研究について考える人たちの集い～

📅 2026/3/14(土)・15(日)
📍 日本科学未来館
無料・要登録

【テーマ例】
メタサイエンス国際動向 / Science of Science / AI for Science / オープンサイエンス

詳細👉 https://t.co/4SVRFM9zy6

[bioshok⏸️ @bioshok3]

AI安全性に興味ある方はぜひこのフォームに入力をお願いします。日本でAI安全性や未来志向の議論空間を作れるチャンスです！

[⿻ Yusuke Hayashi 林祐輔 @hayashiyus]

【コワーキングスペース設立に向けたご協力の��願い】
AI安全性，AIアライメントの技術的な研究チームを東京で組成しよう，という話が進んでいます。そのコワーキングスペースの設立に向けて，ぜひ皆様にEOI（関心表明）のご提出をお願いしたいです。10分程度で終わる簡単なフォームです。
https://t.co/n5HfohRr84

現在，ロンドンのAI Safetyスペース「LISA」の創設者が，アジアでの新拠点として東京を検討しています。東京が候補地として選ばれるためには，皆様の関心の高さを示すことが非常に重要です。
みなさまご指摘の通り，コミュニティの形成と成熟には物理的な拠点が欠かせません。東京での実現に向けて，ぜひご協力をお願いいたします。

[高橋恒一 @ktakahashi74]

フィジカルインテリジェンス(実世界知能)全てに適用される根本的な知能効率の上限に関して論じています。

ここでのフィジカルインテリジェンスには、AIだけでなく生き物の脳のような自然知能も含みます(仮想的には宇宙人の知能も含む)。

ここから、知能爆発論 (FOOM)、AIアライメント、グリーンAI、AIガバナンスなど様々な方面への示唆が導けると考えています。

知能爆発については2018にも論文を書きました。その時は、古典計算機においては熱力学上限が制限を設定すると論じましたが、量子計算などの可逆計算(ユニタリ変換)については制限突破の可能性を否定しませんでした。今回新たに、認識や推論のような知能的な情報処理において、このような根本的な制限が量子コンピュータにも適用されることを形式的に導きました。

[高橋恒一 @ktakahashi74]

フィジカルAIの性能の理論上限に関する論文を公開しました。

解説記事:
https://t.co/3LyvDWcYU3

論文: https://t.co/i7PNV1LLAn

[AIアライメントネットワーク（ALIGN） @AIAlignNetJP]

AIアライメントネットワークは，academist Prizeを受賞した「AI時間構造学」プロジェクトを受け入れ機関としてホストし，応援しています！！🚀

「人間とAIの「時間の感じ方」は同じか？AI時間構造学の提案」@rtakatsky @Sho_Westbook
https://t.co/61zWVUJ6w5

[高橋恒一 @ktakahashi74]

AIアライメントネットワークは、academist Prize受賞の「AI時間構造学」プロジェクトを受け入れ機関としてホストすることになりました。

「AIは時間をどう感じるか」という問いは、長期的な安全性確保に不可欠な視点です。本研究の発展を全面的にバックアップします。

https://t.co/Ue7EAFuelM

[高橋恒一 @ktakahashi74]

先日のブログ記事とともに、AI アライメントネットワークでは下記の提言を公表しました。　　また、これに合わせた具体的な政策提案も作成しています。こちらについては後日公開します。

提言:
我々AIアライメントネットワーク（ALIGN）は、AIと人類の希望ある未来を目指す非営利・���立系の組織です。近年の急激なAI技術の進展に伴い、将来のAGI（汎用人工知能）技術が特定の国や企業に過度に集中する「国際的な局在リスク」が顕在化しつつあります。我々は、自由、人権、民主主義といった普遍的価値観を持つ平和主義国家である日本が、先端AI開発で先行する米国と中国に続く国際的な「第三極」としてAGI開発能力を保持し、さらにはその成果をオープン化して、日本に続く「第四極」「第五極」となり得る国や企業を増やし、AIと人が相互依存的かつ相互共生的につながる「AI生態系」を形成するよう行動してゆくことが、この人類規模のリスクの緩和につながると考えます。この理念のもと、我々は、日本国がAGI開発能力を確保・強化し、その成果を世界各国と共���することで、AGI出現後の世界の安定と調和に寄与することを提言します。

[高橋恒一 @ktakahashi74]

AGIに関するブログ記事の第３回をポストしました。最終回です。

https://t.co/cv926acsmC

日本がAGI時代に担える役割を論じています。

#AGI #AIAlignment #AIアライメント #ScalingLaw #ALIGN #SMR

[高橋恒一 @ktakahashi74]

AGIに関するブログ記事の第二回をポストしました。

https://t.co/9DTnbrLFL5

AGI技術の局在リスクについて解説しています。

最終回となるパート３は来週火曜日の投稿を予定しています。

#AGI #AIAlignment #AIアライメント #ScalingLaw #ALIGN

[高橋恒一 @ktakahashi74]

AGIに関するブログ記事をポストしました。３回シリーズの１回目です。

近年の理論研究で、Transformerの学習がソロモノフ帰納に漸近することが明らかになりました。つまり、現代のAIがAGIと連続しているということです。

第一回はこのことの意味を解説します。

https://t.co/4PvbnhpKhJ

#AGI #AIAlignment #AIアライメント #ScalingLaw #ALIGN

[AIアライメントネットワーク（ALIGN） @AIAlignNetJP]

AIアライメントネットワークの活動を共に推進していただける事務スタッフを募集しています。社会的意義のある取り組みに関わりながら，主体的に組織運営を担っていただくポストへのご応募をお待ちしております。
https://t.co/BelY5TrQgQ

[AI Alignment Network (ALIGN) @AIAlignNetwork]

Join us for ALIGN Webinar #13 with Vanessa Kosoy on “Infra-Bayesian Physicalism���! Vanessa will present a groundbreaking approach that redefines AI hypotheses beyond agent-centric biases, addressing key challenges in decision theory and AI alignment.
https://t.co/J17EkDcAWl

[⿻ Yusuke Hayashi 林祐輔 @hayashiyus]

ALIGN webinar 第13回が開催されます！

2025年1月27日（月） 21:00 - 22:00 JST
Zoom開催（https://t.co/6Co0ZtSvaf からの事前参加���録が必要です）
https://t.co/l3arZzDfIg

In the thirteenth episode of the ALIGN webinar series, we are delighted to host Vanessa Kosoy, a leading researcher in the field of infra-Bayesian physicalism and its applications to AI theory. Vanessa Kosoy will explore an alternative approach to understanding the behavior of AI systems that bypasses traditional agent-centric inductive biases by reformulating hypotheses about the world from a computationalist metaphysical perspective.

​In this webinar, Vanessa will introduce the infra-Bayesian physicalism framework, which provides fresh insights into long-standing challenges in AI and decision theory, such as the ontology of values, anthropic reasoning, simulation paradoxes, and acausal trade. This framework also lays the groundwork for a theory of value learning that is robust against perverse incentives, mesa-optimizers, and misidentified boundaries.

​Vanessa Kosoy’s innovative research has made significant contributions to the theoretical understanding of AI, offering solutions to critical problems in metaphysics and alignment. Her work continues to pave the way for a safer and more principled approach to AI development.

​Agenda:
​21:00–21:05 (JST): Opening remarks by ALIGN
​21:05–21:50 (JST): Vanessa Kosoy on infra-Bayesian physicalism
​21:50–22:00 (JST): Q&A and discussion with participants

​The event will be held in English, with slides in English, but participants are welcome to ask questions in Japanese.

ALIGNウェビナーシリーズ第13回では，インフラ・ベイジアン物理主義（infra-Bayesian physicalism）の分野で活躍する研究者Vanessa Kosoy氏をお迎えします．Vanessa氏��，従来のエージェント中心の仮説設定が持つ非自然な帰納バイアスを回避する新しい枠組みとして，計算主義的形而上学の視点からAIの行動を理解するアプローチを提案します．

​このウェビナーでは，Vanessa氏がインフラ・ベイジアン物理主義の枠組みを紹介します．この枠組みは，価値の存在論，人間原理推論，シミュレーション仮説に関連するパラドックス，非因果的な取引といったAIや意思決定理論における長年の課題に新たな洞察を与えるものです．また，不健全なインセンティブ，メサ・オプティマイザー，誤認された境界に耐性のある価値学習の理論への道を開きます．

​Vanessa Kosoy氏の革新的な研究は，AI理論の理解を深めるとともに，形而上学やアライメントの重要な課題に解決策を提供してきました．彼女の研究は，安全で原理的なAI開発への道を���り���き続けています．

​アジェンダ：
​21:00–21:05：ALIGNからのオープニング
​21:05–21:50：Vanessa Kosoy氏による「インフラ・ベイジアン物理主義」
​21:50–22:00：参加者とのQ&Aセッション

​本ウェビナーは英語で行われ，スライドも英語で提供されますが，聴衆は日本語で質問することができます．

[AIアライメントネットワーク（ALIGN） @AIAlignNetJP]

In the twelfth episode of the ALIGN webinar series, we are pleased to invite Jesse Hoogland, a prominent researcher in the field of Singular Learning Theory (SLT) and its applications to AI alignment.
https://t.co/2dULWGQbUd