古井和雄

試作品はこちら↓

[古井和雄 @KazuoFurui]

ピクミングミの袋を開けてみたら
このところの暑さでくっついて
何色かわかんなくなっていた。

味は普通のグミ。

[古井和雄 @KazuoFurui]

AIが設計した薬「レントセルチブ」が
人間の生物学的年齢を若返らせたことが判明
https://t.co/lj0vWWW8B7

[ハカセ アイ(Ai-Hakase)🐾生成AI・ComfyUI @ai_hakase_]

【Qwen3.8-27B TAK量子化】驚異の推論性能！BF16の99%をわずか15%のサイズで実現そうです！✨
👉 https://t.co/t5NbqMmVqb

タスク固有コーパスに基づくテンソルレベルの割り当てを行う「TAK（Task Aware Knapsack）」という手法で量子化されたそうですよ！

業界標準のUnsloth UD IQ2_Sと比較しても、推論スコアが大きく向上していてとっても高精度ですね。剪定や微調整を一切行わずに純粋な量子化だけでモデル崩壊直前の最小サイズを探索しているとのことです！😊

#量子化 #LLM

[古井和雄 @KazuoFurui]

https://t.co/RiL9k1Z7GH

[ナショナルジオグラフィック日本版 @NatGeoMagJP]

生存率最悪のすい臓がんに「画期的」な治療薬、米国で承認: 「歴史的な承認です」と研究者。部位別で最も生存率が低いすい臓がんの治療に大きな転換点となりそうです。新薬の効果や副作用などについて詳しく解説します。 https://t.co/DP51dYwIr6

[古井和雄 @KazuoFurui]

その他、アジアの妖怪とかいろいろ。

[古井和雄 @KazuoFurui]

ぬいぐるみも作ってみた。

[古井和雄 @KazuoFurui]

昭和っぽい怪人を作ってみた。

[古井和雄 @KazuoFurui]

背景をちょっと直してみた。

まあテスト用というか
サンプル素材なんだけど、
タイリングできるように
なってないといけないんだよね。

[古井和雄 @KazuoFurui]

またかなり直してしまった。

op5でも総点検したんだけどな。

セットアップの時の手順が
まだわかりにくい感じかな。

https://t.co/3hRilC3ywm

[ハカセ アイ(Ai-Hakase)🐾生成AI・ComfyUI @ai_hakase_]

【Qwen3.8-27B量子化ベンチマーク】16GB VRAMで動かす最適解が見つかりました！

話題の大規模言語モデル「Qwen3.8-27B」を、16GBのVRAM（RTX 5080など）を搭載した環境でフルオフロードして実用的に動かすための21種類の量子化バリアントが徹底検証されたそうですね！💻✨

検証の結果、精度とファイルサイズのバランスが最も優れている総合ベストモデルとして『bartowski/Qwen3.8-27B-IQ4_XS』が輝いています！サイズは約14.5GiBで、精度維持率は95.8%超えと非常に優秀ですね！😊

さらに、安全ガードレールを解除しつつ高い性能を維持する検閲解除（アブレーション）モデルのベストとして『huihui-ai/Huihui-Qwen3.8-27B-abliterated-UD-IQ4_XS』もランクインしていますよ！

KVキャッシュの設定を工夫すれば60kトークン程度のコンテキスト長も収容できるとのことで、ローカルLLM環境を構築している方にはたまらない情報ですね！🚀

#LLM #ローカルAI

[共同通信公式 @kyodo_official]

人手不足の社協、体制強化 － 身寄りない高齢者の生活など支援
https://t.co/wcyPwpZQ3n

[古井和雄 @KazuoFurui]

壁のチップ画像を作ってみた。

[古井和雄 @KazuoFurui]

スズキのムニエル。

小さいのが一匹
500円だったから
買ってみた。

タッパー一つ分くらいは
身が取れたかな。

[古井和雄 @KazuoFurui]

そういえば、
ムニオの写真をアップするのを忘れていた。

あしたにしょう。

[ハカセ アイ(Ai-Hakase)🐾生成AI・ComfyUI @ai_hakase_]

【Qwen3.8 27B 量子化モデルの実践的活用】
👉 https://t.co/FeCblA4Lca

大規模言語モデル「Qwen3.8 27B」のGGUFフォーマットにおける量子化ベンチマークが話題になっていますね！
Unslothの動的量子化技術（UD Q3_K_XLなど）を使うと、モデルサイズを12.8GBまでコンパクトに圧縮できるそうです。

これにより、16GB VRAMを搭載したGPU環境でもモデルウェイトを完全に収めつつ、長文のコンテキストやKVキャッシュにしっかりメモリを割り当てられるようになります！
BF16（16-bit浮動小数点）基準で100%の精度回復率を記録しており、実務での誤答や思考ループの抑制に大きな効果を発揮するとのこと。

OPNsenseのトラフィック解析やVLAN管理ツールのバックエンドなど、ローカル環境での実務アプリケーション運用において非常に心強い選択肢ですね！

#LLM #量子化

[古井和雄 @KazuoFurui]

AceStep.cppのUIも更新しておいた。

調べたところによると、
MiniMax-H3 Musicに対応したcppプロジェクトは
まだ暫定的なものみたいなんで、
うちもそれに合わせたものにしておいた。

まあ、早ければ数週間後には
正式リリースされるんじゃないかな。

https://t.co/D6d47mOII7

[古井和雄 @KazuoFurui]

これもちょっとだけアップデートしておいた。

https://t.co/V4MeOZ571x

[古井和雄 @KazuoFurui]

背景をもう少し追加。

[古井和雄 @KazuoFurui]

水平線が何層もあるのはおかしいので修正。

[古井和雄 @KazuoFurui]

これもちょっとアップデートしておいた。

見た目が少し派手目になっているのと、
視認性や使い勝手も向上している。

まあ使わないとは思うけど。

https://t.co/LbjRSLlfNY