Masa Yamamoto予測誤差が大きい人生を楽しもう

発言は個人。様々な分野で研究、開発、事業を経験。先端的な技術を常に取り込み、LLMに関しても2021/12に某公的機関のウェビナーにて技術トレンドを紹介。今は神経科学が専門だと思っているがその時々の仕事相手からはその仕事が専門だと思われている。当面はAI&ブレインテック御用聞き。数学無しでの生成AIの仕組みをまとめ中

[Tom Yeh @ProfTomYeh]

U-Net by hand ✍️ ~ 17 steps walkthrough below

I consider U-Net as a key milestone in deep learning, the first image-to-image model that really worked!

It came out of medical imaging, an unusual place, not from NeurIPS or CVPR or ACL.

Now it is the backbone of diffusion models, which you see in almost all modern image generation models.

I drew the network as a C so the matrix multiplication flows naturally down.

Tilt your head to the right and it is a U again. 🤣

Goal: push a 3 x 16 image down to a 2 x 4 bottleneck and back out again, filling in every cell yourself.

= 1. Given =

An image of three channels, R, G and B, sixteen pixels wide, and every kernel the network will use.

= 2. Convolution 1 =

Let us slide the first kernel over the image. Each output is one multiply-and-add over a 2 x 3 window, and the result is the green feature map.

= 3. Find the maxima =

We circle the largest value in each 1 x 2 window. Circling first is worth the extra step: it is the pooling decision, made before anything is written down.

= 4. Max pool 1 =

Let us copy those maxima down. Sixteen columns become eight, and half the detail is gone for good.

= 5. Convolution 2 =

We convolve again with the second kernel, deeper into the contracting path. The feature map is blue now.

= 6. Find the maxima again =

Same move as step 3, on the blue map.

= 7. Max pool 2 =

Eight columns become four.

= 8. The bottleneck =

Let us convolve once more. This is the bottom of the U, a 2 x 4 block that is everything the network kept.

= 9. Spread it out =

We start back up. The transposed convolution writes each bottleneck value into a wider grid, leaving gaps between them.

= 10. Transposed convolution 1 =

Let us fill those gaps by convolving over the spread-out grid. Four columns become eight.

= 11. The first skip =

We copy the encoder's matching row straight across. This is the skip connection, and it is the whole reason a U-Net can recover detail that pooling threw away.

= 12. Convolution with the skip =

Let us convolve the upsampled features together with the copied ones.

= 13. Spread it out again =

Same as step 9, one level up.

= 14. Transposed convolution 2 =

Eight columns become sixteen, back to the width we started at.

= 15. The second skip =

The encoder's first feature map comes across, the one made before any pooling happened.

= 16. Convolution and ReLU =

We convolve, then cross out every negative and set it to zero.

= 17. Output convolution =

Let us apply the last kernel. Out comes R', G' and B', an image the same size as the one we started with.

The outputs:
R' = [3, 0, 7, 0, 7, 0, 17, 0, 3, 0, 9, 0, 2, 0, 6, 0]
G' = [1, 20, 1, 10, 1, 12, 1, 19, 2, 5, 1, 11, 1, 3, 1, 7]
B' = [4, 20, 8, 10, 8, 12, 18, 19, 5, 5, 10, 11, 3, 3, 7, 7]

Congrats! You just calculated a U-Net by hand.

💾 Save this post!

[elvis @omarsar0]

Great technical paper from Google.

Great read on why context beats scale for agents working against unfamiliar APIs.

(bookmark it)

GPU kernel optimization has KernelBench to hillclimb on. TPUs had nothing, and the Pallas DSL is documented thinly enough that models mostly guess. New research from Google, Harvard, and UC Berkeley introduces JAXBench, 50 JAX workloads built from real MaxText architectures like Llama-3.1, DeepSeek-V3, Mixtral, Mamba-2, and AlphaFold2.

Eight operators ship with hand-tuned Pallas kernels from Tokamax, so agent output gets measured against expert work instead of a naive baseline.

With Gemini 3 Flash, conditioning on curated TPU documentation lifts per-sample correctness from 5.8% to 37.3%, solving 48 of 50 benchmarks at a 1.28x geomean speedup. Beam search then pushes it to 1.36x.

Correctness turned out to be a documentation problem and speed turned out to be a search problem.

Paper: https://t.co/8lOLtFHlfq

Learn to build effective AI agents in our academy: https://t.co/1e8RZKs4uX

[@kai_infra @sideb_01]

Linuxカーネルの名著『Understanding the Linux Kernel』の英語版PDFが無料で公開されていることを知りました。🐧

英語を勉強していて良かったと思える瞬間ですね。

少しずつ読み進めながら、学んだことをアウトプットしていきたいと思います💪

https://t.co/W5NNwlVX62

#Linux #LinuxKernel #エンジニア #英語学習

[日本評論社 営業部販売課 @nippyo_hanbai]

✨新版のご紹介✨

『新版 行動意思決定論　経済行動の心理学』竹村和久 著
https://t.co/lPhskUKK0H

経済学、経営学、工学などの分野でも広く応用されている心理学的な方法論を丁寧に説く【K】

📸芳林堂書店高田馬場店 様　3F　経済

[中藤玲（日本経済新聞）Rei Nakafuji @reinknk]

Claudeの母と呼ばれる哲学者、アマンダ・アスケル氏にインタビューしました。なぜテック企業が哲学者を増やすのか？AIの性格を研究する時、善良さとは何かという古くからの問いが重要に。

AIが正しく振る舞うには「善良さ必要」　Anthropicの哲学者アスケル氏：日本経済新聞 https://t.co/H8GOkcBgdD

[量子ポータルサイトQ-Portal @Q_Portal_]

量子コンピュータが25倍高速化！
IBM Quantumは、新プロセッサ「Nighthawk r2」で量子ビットの高速リセット技術を実現し、回路処理性能を従来比25倍に向上させました。 誤り訂正に不可欠な初期化精度も11倍改善し、実用的な誤り耐性量子コンピュータへの前進となる成果です。https://t.co/3zHdnO0afi

[NHKアーカイブス @nhk_archives]

【追悼 東野圭吾さん死去】

「容疑者Xの献身」で知られる直木賞作家の東野圭吾さんが大腸がんのため、今月23日に亡くなりました。68歳でした。

NHKアーカイブスでは、東野圭吾さんの原作をドラマ化した「ドラマ愛の詩　浪花少年探偵団」の一部を動画で紹介しています。
https://t.co/3RyYFMdgOo

[じゅんご @jungo_FanMarke]

記憶を消してまた見たい「東野圭吾原作映画」

🥉傑作
・沈黙のパレード(伏線回収が見事)
・麒麟の翼(最後の真実に泣ける)
・マスカレード・ホテル(最後まで騙される)

🥈名作
・手紙(涙が止まらない)
・容疑者Xの献身(映画史に残る名作)
・ナミヤ雑貨店の奇蹟(心が温かくなる)

🥇神作品↓

[ぐっちー @gucci0421777]

東野圭吾　武勇伝

1. 会社員として働きながら小説を書き、
『放課後』で江戸川乱歩賞を獲得

2. デビュー後は長い売れない時代を経験するも、
執筆を続けて国民的作家へ成り上がる

3. 直木賞に5回落選しても書き続け、
6回目の『容疑者Xの献身』で受賞

4. 『容疑者Xの献身』で直木賞だけでなく、
本格ミステリ大賞まで同時に獲得

5. 同作で主要ミステリーランキング
3冠も達成する圧倒的評価を獲得

6. 100冊目の著書を刊行した2023年、
国内累計発行部数1億部を突破

7. 著書100冊で1億部という、
1冊平均約100万部の怪物級記録を達成

8. 作品は37の国と地域で出版され、
国内外の累計は推定1億6800万部超え

9. 2023年には紫綬褒章と菊池寛賞を受賞し、
人気だけでなく文化的功績まで認められる

10. 趣味の域を超えて私財を投じ、
日本一のスノーボーダーを決める大会を創設

[Towa / ラノベ読書記録用垢 @i_towaa]

日本のミステリー小説史上、最高傑作と呼ぶべき小説の一つだと思う。
まず石神と湯川という二人の天才による頭脳戦が、ミステリーとして圧倒的に面白いことは言うまでもない。
更にトリックの真相が明かされた瞬間の衝撃が大きい上、なぜ犯人はそのトリックを実行に移したのかという一点に、著者･東野圭吾が投げかけたかったであろう「人の愛とは何か」というテーマが詰められている点も面白い。

犯人の愛する人への「献身」は純愛だったのか、もしくは執着だったのか、狂気だったのか。事件の真相が作中で明かされようとも、この感情が正義だったのか悪だったのかその答えが本作に提示されることはなく、いわば著者が読者に対し、「あなたはどう思う？」と最後に一つ小さな謎解きを残した状態で文章は終わっている。この東野圭吾が残した最後の問題に対して、自分なりの解答を出すところまで含め、本作には傑作と呼ばれ得る魅力があるように感じる。

小説が好きで、まだこの作品を読んだことがない方には是非読んで欲しい。持っていない場合は、今夜にでも書店に走って欲しい。恐らく古本屋には売ってない。こんな名作を手放す人間がいるとも中々考えにくいため。

『容疑者Ｘの献身』（文藝春秋）
読了。ご冥福をお祈りします。
★★★★★★★

[朝日新聞デジタル編成席 @asahicom]

東野圭吾さんの直木賞「大問題だった」 北方謙三さんが明かす舞台裏
https://t.co/AkQgQmCjZM

亡くなった東野圭吾さんの直木賞について語っています。

「私は直木賞に対して、少しだけキャパシティーが広いんです。ただ、狭い選考委員は狭い。狭いことに関しての立派な見識をもっている。そこにぶちあたった。渡辺淳一さんです」

「彼いわく、人が1人死ぬというのは大変なことで、トリックのために死ぬというのは許せない、普通の文学のリアリティーがないと。小説そのものは面白いから、ミステリーの世界で顕彰すればいいだろう、直木賞は違うと。選考会が終わった後の打ち上げの席でも、ずっと同じことを言っていて、選評にも『優れたミステリーであるが文学ではない』と書く。受賞した『容疑者Xの献身』はトリックを使ってるけれど、人間の心理が実によく描かれている。ここで押し切れなかったら、ミステリーの受賞なんて金輪際ないと思って、私は○をつけました」

[SoftwareDesign @gihyosd]

『Software Design 2026年8月号』は本日（7月17日）から発売しています。

第1特集では、認証・認可の中でもとくに意識すべき、特権ID、Non-Human Identity、AIエージェントのIDについて取り上げます。

第1特集：　特権ID・NHI管理入門
第2特集：　誰も教えてくれないLLMの話
新連載：　設計としてのTypeScriptプログラミング

特集概要や目次の情報はリプライのリンクから↓

[金子弘昌＠研究員（２４歳～６７歳）募集中 @hirokaneko226]

小規模データを用いた物理的制約のある逆設計に対し、Incremental Transformer（INCRT）を組み込んだトポロジー認識型サロゲートモデルを提案し、ジオポリマーコンクリート（GPC）の配合設計に応用した論文。機械学習による単純な性能予測だけでは、未学習の領域において非現実的な予測を出してしまうのが逆設計における課題であり、今回は圧縮強度の予測にExtraTreesなどの非線形な決定木アンサンブルモデルを、二酸化炭素（CO2）排出量の予測にElasticNetなどの正則化線形モデルを用いてサロゲートモデルを構築し、さらに自己組織化アーキテクチャであるINCRTを単純な予測モデルとしてではなく、データが裏付ける設計多様体のプロトタイプ抽出と、生成された候補の妥当性を測る多様体サポートスコアの算出へ活用。これにより、数値的な予測に物理的ルールやデータ構造の支持を組み合わせ、小規模で異種混合な制約付きデータセットからの設計候補を絞り込み。実際のGPCのデータセットを用いた検証の結果、制約のない最適化や物理的制約のみの最適化戦略と比較して、提案するトポロジー認識型戦略による、目標強度への許容可能な適合、大幅なCO2排出量の削減、物理的妥当性の確保、そして学習済み多様体近傍への配置という、最もバランスの取れた新配合候補を提案できることを確認

https://t.co/KQTosAN23C

[Masa Yamamoto予測誤差が大きい人生を楽しもう @mshero_y]

この教訓は非常に実践的

[変化 hEnka @hEnka_robots]

面白そう

RTX 3090（24GB）で7Bモデル学習を成立― 個人GPUで大規模Transformerを動かすための実践記録 #LLM - Qiita https://t.co/XrHu8epXGK

[変化 hEnka @hEnka_robots]

面白そう

RTX 3090（24GB）で7Bモデル学習を成立― 個人GPUで大規模Transformerを動かすための実践記録 #LLM - Qiita https://t.co/XrHu8epXGK

[野村泰紀（Yasunori Nomura） @YasuNomu1]

新しい論文を公開しました。蒸発するブラックホールの量子情報的複雑性について議論しています
https://t.co/gKCwOTmNAr

[書泉_MATH @rikoushonotana]

『紀伊國屋数学叢書15　無限次元リー群論　ＯＤ版』
大森英樹　14,960円（紀伊國屋書店）
近年とみに重要性が強調されている無限次元リー群論の最初のまとまった教科書であると同時に，この理論を通じて切り拓かれるべき幾何学の諸分野についても，群論の見地から言及した他に類をみない独創的な本
https://t.co/vqIAXKbhkE

[特務機関NERV @UN_NERV]

【NHKニュース速報 16:11】
直木賞作家　東野圭吾さん死去
大腸がんのため　６８歳

[Masa Yamamoto予測誤差が大きい人生を楽しもう @mshero_y]

データサイエンス・AI分野という括りとAI分野という括りでは抽出される大学が異なってくるはずでその理解もないまま記事が書かれているのはちょっとどうかと思う

[malum @jNkif3uTQa86516]

そういえば、Flow Matching (確率パスを学習させる生成モデル)のこれめっちゃよかった

https://t.co/CDrCmawhRL