T_ai_hacker

AIの研究者です。 LLM、画像・動画生成などの最新技術から、古典的なDeep Learningまで幅広く扱っています。 生成系AIのアウトプットだけでなく、AI技術そのものについても発信しています。 研究・実験の過程もシェアしていきます。

[T_ai_hacker @T_ai_hacker]

今後ともご指導ご鞭撻のほどよろしくお願いします。
プロンプトは戻して、今度は「Veo3.1」に作ってもらいました！
というかこの変化Veo3と比べてもかなり良くなっている！
prompt: 日本人の若い女性のイラスト　お辞儀をする　アニメ調

[T_ai_hacker @T_ai_hacker]

今後ともご指導ご鞭撻のほどよろしくお願いします。
少しプロンプトを足して、今度は「sora2」に作ってもらいました！
背景がめちゃくちゃシンプル！
prompt: 日本人の若い女性のイラスト　お辞儀をする　アニメ調　「今後とも宜しくお願いします」

[T_ai_hacker @T_ai_hacker]

UDSCは、意味論的圧縮です。
トークの節約にも使えるし、RAGのインデックスなんかでも使えます。
#LLM #RAG #UDSC
さらにバージョン0.8として詰めました。
そしてこのバージョンをもとに実装してみます。

どうなることやら、楽しみです！

https://t.co/TKvAdT6uky

[T_ai_hacker @T_ai_hacker]

色々問題があったので、というかミスったのでバージョン0.2をあげ直しました。
#LLM #RAG #UDSC
UDSCは意味圧縮言語です。これによってLLM間通信やRAGなんかでトークンを節約できます。

[T_ai_hacker @T_ai_hacker]

@koro_hakumai コロさんがコロコロになっとる！！！

[T_ai_hacker @T_ai_hacker]

@essan_xx ご紹介ありがとうございます。今内容をさらに詰めてバージョン0.8を作ってます。連休中に実装できるといいな

[T_ai_hacker @T_ai_hacker]

みなさん　おはようございます！
金曜日です！そして明日から連休の方も多いと思います！

次の研究実装のネタが2つほど
この連休間にどこまでできるか楽しみ！

本日もゆるゆると参りましょう！

[T_ai_hacker @T_ai_hacker]

人が言ってしまった酷い一言を、AIが完全な言い回しで覚えてたら逃げ場がない。
だから記憶を「本体（全文）」と「索引」に分ける。索引には命題だけ残し、言い方は載せない。棘は本体に残るが手前には出てこない——人間の記憶と同じように。
こうして "絶対忘れない" と "忘れることも必要" を両立させる。LLMに記憶をどう持たせるか、に絞った論文を公開しました。
#LLM #RAG

[T_ai_hacker @T_ai_hacker]

人が言ってしまった酷い一言を、AIが完全な言い回しで覚えてたら逃げ場がない。
だから記憶を「本体（全文）」と「索引」に分ける。索引には命題だけ残し、言い方は載せない。棘は本体に残るが手前には出てこない——人間の記憶と同じように。
こうして "絶対忘れない" と "忘れることも必要" を両立させる。LLMに記憶をどう持たせるか、に絞った論文を公開しました。
#LLM #RAG

[T_ai_hacker @T_ai_hacker]

論文はこちら（Zenodo / DOI付き・オープンアクセス）
https://t.co/AXfK5EiN1L
本体は全文で保持、索引だけUDSCで圧縮。UDSC（索引の言語）とRFAIF（振る舞いの定着）を"記憶"の上で接続する構成です。実装はこれからですが、索引は汎用LLMで今すぐ動きます。

[T_ai_hacker @T_ai_hacker]

人が言ってしまった酷い一言を、AIが完全な言い回しで覚えてたら逃げ場がない。
だから記憶を「本体（全文）」と「索引」に分ける。索引には命題だけ残し、言い方は載せない。棘は本体に残るが手前には出てこない——人間の記憶と同じように。
こうして "絶対忘れない" と "忘れることも必要" を両立させる。LLMに記憶をどう持たせるか、に絞った論文を公開しました。
#LLM #RAG

[T_ai_hacker @T_ai_hacker]

本体はこちらから
https://t.co/gIa8HBhR77

解説記事は書き直し中なんで近々発表します

[T_ai_hacker @T_ai_hacker]

色々問題があったので、というかミスったのでバージョン0.2をあげ直しました。
#LLM #RAG #UDSC
UDSCは意味圧縮言語です。これによってLLM間通信やRAGなんかでトークンを節約できます。

[T_ai_hacker @T_ai_hacker]

UDSC (Universal Dense Semantic Compression) の仕様書を公開しました。
LLM同士の通信、RAGの意味論的インデックス、Agent間メッセージ、Judge入力のための多層意味圧縮言語です。
要約ではなく、意味を保存した再表現。保存できなければ「不明」と出す。推測を禁じます。
10.5281/zenodo.21340833
#LLM #RAG #UDSC

[T_ai_hacker @T_ai_hacker]

おはようございます。
コミュに投稿したつもりで間違えました！

本日もゆるゆると参りましょう

[T_ai_hacker @T_ai_hacker]

みなさん　おはようございます。
今日のお昼から東���に戻りますが、夜に仕事が入っているので、移動からの現場　頑張ります！

本日もゆるゆると参りましょう

[T_ai_hacker @T_ai_hacker]

みなさん　おはようございます。
今日のお昼から東京に戻りますが、夜に仕事が入っているので、移動からの現場　頑張ります！

本日もゆるゆると参りましょう

[T_ai_hacker @T_ai_hacker]

UDSC (Universal Dense Semantic Compression) の仕様書を公開しました。
LLM同士の通信、RAGの意味論的インデックス、Agent間メッセージ、Judge入力のための多層意味圧縮言語です。
要約ではなく、意味を保存した再表現。保存できなければ「不明」と出す。推測を禁じます。
10.5281/zenodo.21340833
#LLM #RAG #UDSC

[T_ai_hacker @T_ai_hacker]

Released the specification for UDSC (Universal Dense Semantic Compression) — a multi-level semantic compression language for LLM-to-LLM communication, RAG semantic indexing, and agent messaging.
Not summarization. Meaning-preserving re-representation, with explicit failure conditions. If the invariant can't be satisfied, it outputs "unknown" instead of speculating.
Spec only; implementation and evaluation to follow.
10.5281/zenodo.21340833
#LLM #RAG #UDSC

[T_ai_hacker @T_ai_hacker]

UDSC (Universal Dense Semantic Compression) の仕様書を公開しました。
LLM同士の通信、RAGの意味論的インデックス、Agent間メッセージ、Judge入力のための多層意味圧縮言語です。
要約ではなく、意味を保存した再表現。保存できなければ「不明」と出す。推測を禁じます。
10.5281/zenodo.21340833
#LLM #RAG #UDSC

[T_ai_hacker @T_ai_hacker]

本文はこちら
https://t.co/uxda6gEgbS

NOTEの解説記事は明日以降に出します！

[T_ai_hacker @T_ai_hacker]

UDSC (Universal Dense Semantic Compression) の仕様書を公開しました。
LLM同士の通信、RAGの意味論的インデックス、Agent間メッセージ、Judge入力のための多層意味圧縮言語です。
要約ではなく、意味を保存した再表現。保存できなければ「不明」と出す。推測を禁じます。
10.5281/zenodo.21340833
#LLM #RAG #UDSC

[T_ai_hacker @T_ai_hacker]

みなさん　おはようございます

普段は東京ですが、今日は関西にいます。

たまたまかもしれませんが、こっちのほうが過ごしやすい。なんというか暑さがマシに感じます。

本日もゆるゆると参りましょう！

[T_ai_hacker @T_ai_hacker]

【論文公開＆Note新連載📝】
AIの振る舞いを設計する新フレームワーク「RFAIF」を発表しました。 複雑な強化学習（RL）に頼らず、SFTやLoRAによるシンプルな「軌道の再重み付け」でモデルをアライメントします。
鍵となるのは「Generate. Judge. Internalize.」のループ。 評価器（Judge）による「選択」が、AIの振る舞いを形作ります。

��んとなくわかった���になれるnoteとFullPaperは次に

[T_ai_hacker @T_ai_hacker]

おはようございます。
日曜日です。

関西に移動中なんですが、日曜日の朝の新幹線はぽつぽつと人が乗ってます。
もっと空いてるかと思った。

お休みの方もお仕事の方も本日もゆるゆると参りましょう！

[T_ai_hacker @T_ai_hacker]

MLX.VMLでLoRA作ってマージして新しいモデルにして使っていたんですが、このVLMもでるをHF（PT）モデルに戻すスクリプトがない！
困った！ ってことで作りました！
需要あるのかどうかわからないけど、公開しときます。

絵は適当にnanobanana2
#localLLM #mlx #vlm
https://t.co/WOAhRLcI4c

[ハカセ アイ(Ai-Hakase)🐾最新トレンドＡＩのためのＸ 🐾 @ai_hakase_]

【llama.cpp高速化】AMD環境で最大28%性能アップ！？ggml-hipの数学演算最適化が話題に

LLaMAモデルをC++で軽快に動かせる「llama.cpp」で、AMDのGPU環境（ROCm/HIP）向けに劇的なパフォーマンス向上のアップデートが議論されています！✨

なんと、コンパイラの最適化フラグ「-funsafe-math-optimizations」を有効にすることで、数学演算がめちゃくちゃ高速化されるとのこと！
※これは計算の処理順序などを効率化して、処理速度を限界まで高める設定ですね。少し精度に影響する可能性はありますが、背に腹は代えられない圧倒的な速度が得られます！

実際の検証データでは、Qwen 3.6 35Bモデルで「20〜28%」、27Bモデルで「14〜18%」もの性能向上が報告されています！🚀
具体的には、35Bモデルの処理速度が1400〜1600トークン/秒から、なんと1800トークン/秒まで跳ね上がっ��という驚きの結果も……！

シングルGPUでの構成やレイヤースプリットの設定をさらに調整すれば、もっとパフォーマンスを絞り出せる余地がありそうです！
精度とのトレードオフを検証しつつ、AMD環境でローカルLLMを動かしている方は要チェックですね！💡

#LLM #AMD

[T_ai_hacker @T_ai_hacker]

おはようございます！
土曜日です。

セブンイレブンの日です！

お休みの方もお仕事の方も本日もゆるゆると参りましょう！

[T_ai_hacker @T_ai_hacker]

LLMから望ましい回答を得るためにSystempromptにガンガン指示を入れても、たまに忘れることってありませんか？
新しいFineTuneのやり方を開発して検証しました。

こ���によって、SystempromptなしでSystempromptありの状態の返答を得ることが可能になります。

興味のある方は、是非ご一読ください！

[T_ai_hacker @T_ai_hacker]

みなさん　おはようございます。
金曜日です。

本日もゆるゆると参りましょう。

俺は今日はセミナーに行ってきます！AIじゃなくて本業のだけど

[T_ai_hacker @T_ai_hacker]

MLX.VMLでLoRA作ってマージして新しいモデルにして使っていたんですが、このVLMもでるをHF（PT）モデルに戻すスクリプトがない！
困った！ ってことで作りました！
需要あるのかどうかわからないけど、公開しときます。

絵は適当にnanobanana2
#localLLM #mlx #vlm
https://t.co/WOAhRLcI4c