yakatano

[全脳アーキテクチャ・イニシアティブ @wba_meetings]

第11回全脳アーキテクチャ・シンポジウム（9月10日） 参加登録はこちらから：https://t.co/ivRGflIg2h

[yakatano @Yakatano]

こんなのあったんだ．．次は出したいなーー

[小林竜太 @CH1H160]

���日は工学院大学 新宿キャンパス1Fアトリウムにて、Interface誌主催 「つくったもの展示の会」に出展しています。
https://t.co/GshygvZGs2

[yakatano @Yakatano]

あーーーー面白い

[後藤技研(ごっけん) @RUG2483]

3速の球状磁気歯車非接触変速機
試作!

組み立て精度が出せなくて非接触にならなかったけど動作はする...(うるさい

[防衛装備庁 @atla_kouhou_jp]

#防衛装備庁 #航空装備研究所 は第５回 #空戦AIチャレンジ (#機械学習コンテスト)を開催します✈

皆さまのご参加お待ちしています！

■第５回 空戦AIチャレンジのお知らせ
https://t.co/3kN9kUyTfL

[yakatano @Yakatano]

まじか！

[Yoshiki Sato @phys_yoshiki]

日本評論社、nヶ月ぶりの半額セールやってる
https://t.co/JUn9SiYqf8

[yakatano @Yakatano]

なんか不思議な形。面白いw

[Space and Technology @spaceandtech_]

Avero was an ETH Zurich student research project that developed a propeller-free inspection drone.

Using swiveling thrust nozzles, it can withstand collisions while offering full six-degree-of-freedom maneuverability.

The project was discontinued last year after successfully developing and testing multiple prototypes.

[yakatano @Yakatano]

炎とストライプ。ま���ちょっとLEDの座標など修正あるなあ。

[yakatano @Yakatano]

球体ディスプレイ、だいぶ進んだーー

[Daisuke Okanohara / 岡野原 大輔 @hillbig]

拡散モデルは、画像生成において、なぜ訓練データを単に暗記するのではなく、新しいデータを生成できるのか。この問題を情報理論と統計力学の観点から説明する理論が提案されている。

今回紹介する論文では、Bayesian Information-Restricted Denoiser（BIRD）を導入する。BIRDは、各画素の復元に利用できる情報を、局所パッチの観測などに制限したベイズ最適なデノイザである。

有限の訓練集合に対するベイズ最適な復元器は、観測と整合する各訓練画像を事後確率で重み付けし、それらの対応する画素値を平均したものとして導出できる（拡散モデル本でも紹介している）

ここで、各訓練画像に対する負の対数尤度をエネルギーとみなすと、事後分布は統計力学におけるボルツマン分布と同じ形をとる。多数の訓練画像が同程度に事後分布へ寄与する場合、事後エントロピーは大きく、モデルは複数の訓練例に共通する構造を利���する。一方、一つの訓練画像だけが圧倒的に��い尤度を持つ場合、事後分布はその画像へ凝縮し、暗記が起こる。

本論文では、一般化相と暗記相の相転移条件が

I(Φ;C)=log⁡∣D∣

と明確に表されることを示す。左辺は、観測 C が元画像 Φについて持つ相互情報量であり、右辺は、∣D∣ 枚の訓練画像から一枚を指定するために必要な情報量である。

観測情報量が log⁡∣D∣ より小さければ、その観測だけでは訓練画像を一意に特定できず、多数の候補が残る。この領域が一般化相に対応する。

反対に、観測情報量がこの境界を超えると、特定の訓練画像を識別できるようになり、事後分布が一つの画像へ凝縮する暗記相へ移る。

ただし、情報を制限しすぎると、暗記は防げても復元に必要な情報まで失われ、性能が低下する。したがって、最も良い学習は、暗記しない範囲で可能な限り多く���情報を利用する相転移境界付近にある。著者らはこれを「edge of memorization」と呼ぶ。

また、逆拡散の初期はノイズが大きいため、大きな受容野を使っても個々の訓練画像を識別しにくい。一方、逆拡散の後半では画像が鮮明になり、同じ受容野から得られる情報量が増える。そのため、暗記を防ぎながら境界付近を保つには、後半ほど参照範囲を狭めるなどして、利用可能な情報量を抑える必要がある。

この研究の重要な点は、暗記と一般化の境界を、単純なモデルサイズやパラメータ数ではなく、モデルが予測に利用できる入力情報量によって記述したことである。データ量、ノイズ量、観測範囲という異なる要因を、一つの相転移条件で統一した点は画期的である。

さらに、異なる訓練集合で学習したBIRD、UNet、DiTを比較する実験では、特に学習初期に、実際のニューラルネットワークの予測がBIRDの予測とよく一致することが示されている。ただし、この一致は学習が進むにつれて弱くなり、実際のニューラルネットワークが常にBIRDと同じ原理で動作していること��で示されたわけではない。

コメント
===
拡散モデルが、訓練データを暗記するだけでなく、なぜ未知の画像を生成できるのかについては、これまでさまざまな説明が提案されてきた。本論文は、この問題に対して、利用可能な情報量と訓練データ数の関係から、明確な理論的枠組みを与えている。

BIRDは、実際のニューラルネットワークによるデノイジングを理想化したモデルである。しかし、訓練画像の負の対数尤度をエネルギーとみなし、暗記を事後分布の凝縮として捉える構成は単純かつ本質的であり、今後の発展的な研究につながる可能性が高い。

暗記相と一般化相の境界付近で性能が最も高くなるという現象は、過学習を避けつつモデルの能力を最大限利用するという一般的な直感とも整合する。
LLMにおいても、訓練データへの過度な適��が始まる直前まで学習を進めることが有効なことが過去報告されているが、本論文がその現象と関係しているかは今後検証すべき興味深い研究課題である。

本論文からは、般化を制御する際、モデルサイズや表現力だけでなく、モデルが入力からどのような情報を受け取り、��部でどの情報を利用できるかを見る必要があることが示唆される。
BIRDでは、その情報量を相互情報量として定式化できる点が特に興味深い。ただし、実際の画像分布やニューラルネットワーク内部の相互情報量を正確に測ることは難しく、論文でも実画像についてはガウス近似による上界などを用いており、発展が必要である。

実際のニューラルネットワークは、局所パッチレベルの表層的な規則だけでなく、より大域的な構造や意味的な関係も学習する。学習初期にはBIRDとの一致が高い一方、学習後半になると一致が低下することは、ニューラルネットワークが次第にBIRDでは表現できない高次の構造を獲得していく可能性を示している。

[木村 駿介 / Shunsuke Kimura @kimushun1101]

本日LTで紹介したROS 2ハンズオン資料はこちらです。
https://t.co/udL9B24nHU
ご活用いただけますと嬉しいです。
#ROSConJP2026

[yakatano @Yakatano]

アボガドコア　改良版。見た目にはあまり変わらないけれ���、だいぶ違うw

[ぷらぎあ @plastic_gear]

うう…
https://t.co/1MhhWyWWbp

[池谷裕二 @yuji_ikegaya]

【参加申込受付中】 「池谷脳AI融合ERATOプロジェクト」の8年間の集大成となる終了シンポジウムを開催します🧠
📅 日時：2026年11月1日(日)
📍 会場：東京大学 安田講堂
▼詳細・お申し込み： https://t.co/poe3pKsiZn
#脳科学
#AI
#人工知能

[yakatano @Yakatano]

私も今2S, 2Pの充放電回路作っているのでメモ

[ガジェッ��大好き！！ @smartphone_jp1]

朝活ブログ📝
最近リポバッテリーを扱った自作基板や試作回路を組むことが多くなったので、サクッと簡単に使えるクイックチャージャーを作ったのでブログに書いてみました。

こういうのは1台もってると、とても重宝する👍️

Thank you
@JLCPCB_Japan

https://t.co/MwY3A8qKQR

[ガジェット大好き！！ @smartphone_jp1]

朝活ブログ📝
最近リポバッテリーを扱った自作基板や試作回路を組むことが多くなったので、サクッと簡単に使えるクイックチャージャーを作ったのでブログに書いてみました。

こういうのは1台もってると、とても重宝する👍️

Thank you
@JLCPCB_Japan

https://t.co/MwY3A8qKQR

[まつけん @Kenmatsu4]

話題のKimi K3で採用されている「Attention Residuals」の仕組みが面白いと思ったので、図などを使って直感的に解説する記事を書きました！
今回は基本形のFull Attention Residualsを扱っています😊

Kimi K3のAttention Residualsを解説する
https://t.co/NrH87FbCeI

[ファミネコ@大型AC筐体ドクター @fcneet]

以前TLで見た半ピッチずらしのスルーホール、考えた人は天才やった。ピンヘッダが程よく固定されていい感じ。これでいちいちサービス用のピンソケットを実装しなくてよくなった。

[Praveen Kumar Verma @Alacritic_Super]

What if you could design PCBs by talking to an AI?

That's exactly what KiCAD MCP Server enables.

It connects AI assistants to KiCad through the MCP, allowing natural-language PCB design workflows.

What it can do 👇

- Create and manage KiCad projects
- Generate and edit schematics
- Place and organize components
- Route PCB traces (including Freerouting integration)
- Run ERC and DRC checks
- Create custom symbols and footprints
- Manage reusable component libraries
- Search JLCPCB parts with pricing and availability
- Export Gerbers, PDFs, BOMs, and manufacturing files
- Capture snapshots and maintain session history
- Works across Windows, Linux & mac

Imagine saying:
"Design an ESP32 sensor board with USB-C, an IMU, LiPo charging, and I²C headers."

...and letting AI generate the first draft before you review and refine it.

[数理ちゃん @yohaku121244]

統計でよく出る確率分布の関係を一枚の図にまとめてみました！
和や極限でつながる変換に加えて、再生性と無記憶性も整理しています。
アクチュアリー試験や統計検定でも頻出の変換なので、頭の整理に役立てば嬉しいです！