semantics

しがないエンジニアのAnother world.

[semantics @semantics1235]

根尾あかりさんのサイン会にて
癒しのひと時と手作りクッキー頂きました。美味しゅうございました。ありがとう。#根尾あかり #サイン会

[elvis @omarsar0]

Weak-to-Strong GraphRAG

Interesting ICLR 2026 submission with some insights on improving GraphRAG systems and making them more feasible in production environments.

Graph-based RAG lets LLMs ground responses in structured knowledge graphs. But there's a fundamental mismatch between retrievers and the LLMs they serve. As knowledge graphs become central to RAG systems, aligning retrievers to LLM needs through LLM feedback offers a principled path to better multi-hop reasoning with lower costs.

The problem is twofold.

First, graph retrievers train on weak supervision like query-answer shortest paths. This misses key reasoning steps and introduces spurious connections.

Second, retrieved knowledge comes back unorganized. LLMs are sensitive to context ordering, and messy graph data adds unnecessary complexity.

This new research introduces ReG (Refined Graph-based RAG), a framework that uses LLM feedback to align weak retrievers with the LLMs they serve.

Graph-based RAG is essentially a black-box combinatorial search. Given a query, find the minimal sufficient subgraph for correct reasoning. The LLM acts as an evaluator. But exhaustively searching this space is computationally intractable.

ReG takes a simpler approach. Instead of optimizing over all possible subgraphs, it utilizes LLMs to select more effective reasoning chains from candidate chains extracted from the knowledge graph. The improved supervision trains better retrievers.

A structure-aware reorganization module then refactors retrieval results into logically coherent evidence chains. This aligns the presentation to how LLMs actually process information.

On CWQ-Sub with GPT-4o, ReG achieves 68.91% Macro-F1 versus SubgraphRAG's 66.48%. On WebQSP-Sub, 80.08% versus 79.4%. The gains hold across multiple LLM backbones.

The data efficiency is notable in the reported experimental results. ReG trained on just 5% of data, matches baselines trained on 80%. The refined supervision eliminates noise that larger datasets would otherwise compound.

When paired with reasoning LLMs like QwQ-32B, ReG reduces reasoning tokens by up to 30% while improving performance. The structure-aware reorganization prevents the "overthinking" problem where LRMs produce verbose traces in a noisy context.

Paper: https://t.co/mF9sLB63JN

[GitHub Projects Community @GithubProjects]

An open-source Chrome extension that enables AI-powered web automation.

[semantics @semantics1235]

@PINTO03091 場外からちょいとぼやき。普通にあると思いますけどね。そもそもアーキの性能を詰めきれないことが多い。resnetも初期と後期では全然精度違いますしね。ちなみにnoisy studentの進化版みたいな感じですね。

[anonym(論文1000本ノックの人) @shriver_light]

#111論文等共有 1549 https://t.co/VmIENaEoTe
[NeurIPS'24] Entity alignment は高い人手ラベル、大きい annotation space 、 LLMの noisy labels が実用化の課題。
提案手法LLM4EAは、LLMを自動アノテータとして使いつつ、inter- & intra-knowledge graph 構造を使った active learning 予算配分を高��率化し、 確率的推論で継続的に label refine しノイズを除去し、entity alignment model からのフィードバックで反復的に改善する。
4データセットでベースラインを上回り、GPT-3.5でも予算を増やせばGPT-4並みまで到達するコスト効率を示した（Fig.2）。
Label refiner は結構 ad hocで handcrafted 感がある。

[asap @asap2650]

https://t.co/paXzABv7Jr

モデルに自信度を出力させるよくある研究かなと思ったら、補足Aで、この方法なら報酬ハックが起きないってことをちゃんと証明してて面白い。

あと、reasoningモデルは、think部分のせいで、トークンの出力確率を自信度として使えないって考察も面白い。

[Rohan Paul @rohanpaul_ai]

Absolutely deluxe resource on large language models. 👌

LLMs pick up world knowledge just by guessing the next token, and that single trick scales from chatbots to code helpers.

It treats language as a chain of choices, predicting one token at a time based on everything that came before.

Repeating that prediction task across trillions of tokens lets the network squeeze statistical hints about grammar, facts, and even logic into its weights, without any labeled examples.

Growing the model and the data unlocks abrupt jumps in reasoning skill but also makes training fragile.

Keeping context windows huge and latency low is now the top practical hurdle.

🧵 Read on 👇

[Dmytro Mishkin @ducha_aiki]

VLM-Guided Visual Place Recognition for Planet-Scale Geo-Localization

Sania Waheed, Na Min An, @maththrills , Sarvapali D. Ramchurn, Shoaib Ehsan

tl;dr: in title
https://t.co/Ty7kMRZzYA

[anonym(論文1000本ノックの人) @shriver_light]

#111論文等共有 1542 https://t.co/W5QtjZMKfO
[arXiv’25] VLMを新しいドメインに汎化させる手法のサーベイ。Promptベース（prompt tuningなど）、パラメタベース（robust fine-tuningや蒸留など）、特徴量ベース（adaptorなど）に分類。データセットと評価結果もまとめてある。

[semantics @semantics1235]

@AkariNeo お疲れさまでした．こんな近くでリアルに会ってお話しできるとは思わず，嬉しかったです．浴衣チェキは家宝にします．アットホームというか，緩い感じのイベントっていいですね．あ，カメラマンさんもいい感じでした．ありがとうございました．

[semantics @semantics1235]

サガオケ昼の部参加。生オーケストラは感無量。野々村彩乃さんの歌も最高。一瞬で場の空気が変わり引き込まれました。岩男潤子さんの優しい歌声は久々。昔良くライブ行ってました。いい意味で���薄い感じなのでイトケンさんの楽曲に合うかも。
#サガオケ2025

[anonym(論文1000本ノックの人) @shriver_light]

#111論文等共有 1496 https://t.co/VnGebwwEEr
[NLP’25] Vocabulary spaceと重みの row spaceとの擬似直交性を実験で調べた。モデルはBERTとGPT-2。Encoderモデルかdecoderモデルかの違いによって、層ごとの擬似直交性の違いが見えたのが面白い。

例えば、Encoderとdecoderは入力層方向と出力層方向との直交性の傾向が逆転する。
また、attentionは語彙空間と直行する傾向にあるが、FC層はそうでもない。これはlogit lensに使える層と使えない層があるという従来��知見とも整合している。

Quasi-orthogonal vectors（擬似直交性）と特徴量空間の関係については他にも、mechanistic interpretability界隈で有名な superposition 論文などで言及されている。重みのrow spaceと語彙空間が直交していない方が、重みを言葉として解釈しやすくなる。

[CAMPFIRE（キャンプファイヤー）国内最大級のクラウドファンディング @CAMPFIREjp]

【終了まで残りわずか】石川県奥能登、酪農と和牛の繁殖を主とした松田牧場。
能登半島震災により、生乳の出荷量は1/4まで減少し、経営に大きな打撃を受けました。餌やりや乗馬、この牧場ならではの「体験」を提供したい。そんな想いから、全壊した牛舎の再建に挑戦しています【終了まで残りわずか】石川県奥能登、酪農と和牛の繁殖を主とした松田牧場。
能登半島震災により、生乳の出荷量は1/4まで減少し、経営に大きな打撃を受けました。餌やりや乗馬、この牧場ならではの「体験」を提供したい。そんな想いから、全壊した牛舎の再建に挑戦しています【終了まで残りわずか】石川県奥能登、酪農と和牛の繁殖を主とした松田牧場。
能登半島震災により、生乳の出荷量は1/4まで減少し、経営に大きな打撃を受けました。餌やりや乗馬、この牧場ならではの「体験」を提供したい。そんな想いから、全壊した牛舎の再建に挑戦しています【終了まで残りわずか】石川県奥能登、酪農と和牛の繁殖を主とした松田牧場。
能登半島震災により、生乳の出荷量は1/4まで減少し、経営に大きな打撃を受けました。餌やりや乗馬、この牧場ならではの「体験」を提供したい。そんな想いから、全壊した牛舎の再建に挑戦しています【終了まで残りわずか】石川県奥能登、酪農と和牛の繁殖を主とした松田牧場。
能登半島震災により、生乳の出荷量は1/4まで減少し、経営に大きな打撃を受けました。餌やりや乗馬、この牧場ならではの「体験」を提供したい。そんな想いから、全壊した牛舎の再建に挑戦しています【終了まで残りわずか】石川県奥能登、酪農と和牛の繁殖を主とした松田牧場。
能登半島震災により、生乳の出荷量は1/4まで減少し、経営に大きな打撃を受けました。餌やりや乗馬、この牧場ならではの「体験」を提供したい。そんな想いから、全壊した牛舎の再建に挑戦しています。

[semantics @semantics1235]

@LOPYLOG カセットエアコンはどうすれば...

[Ryoさん @Qkn3R]

税務調査に入られている人に簡単なアドバイスをするとしたら、指摘された事に対して、裁判の準備書面形式で指摘された事への反証と証拠の添付を提出する良いです。
税務署は証拠として残るのでかなり嫌がります。

以下に例文を載せます。

[「うる星やつら」TVアニメ公式 @uy_allstars]

✬ #うる星やつら✬
╋┏┏┏┏┏┏┏┏╋
　　　第43話
　 ⚡️予告公開⚡️　　　　
「ボーイ ミーツ ガール　別れの朝」
╋┛┛┛┛┛┛┛┛╋

闇にとらえられる暗示…
https://t.co/ig4WWJWmvn

📺5/30より #ノイタミナ ほかにて
24時55分より放送

[semantics @semantics1235]

@oreteki_douga 特茶と炭水化物。無駄遣いですね��

[光杏🍎全力性教育 @Couanne_CC]

本当に危険‼️唾液ローション⚠️
女性を病院送りにする

濡れてないからと唾液をペッと女性器につける、あなたのさりげない行為...

雑菌が繁殖し尿道炎や膀胱炎になり多くの女性がこの行為に苦しんでいる、病院送りにさせてる事を知ってください。

皆んなが正しい知識を知る事で悲しむ人がいなくなる✨

[semantics @semantics1235]

@oreteki_douga そろそろ逆神がフラグ立てる頃合いかな

[「うる星やつら」TVアニメ公式 @uy_allstars]

⚡️#うる星やつら 第37話放送記念⚡️
台本プレゼント🎁

＋――――――――
＜非売品＞第37話台本を
抽選で1名様にプレゼント🎁
　　　　――――――――＋

⚡️応募方法
①@uy_allstars をフォロー
②この投稿をリポスト

〆切 5/1(水)23:59