Top Tweets for #LLAMACpp
𝗔 𝟳𝟮-𝗹𝗶𝗻𝗲 𝗠𝗖𝗣 𝘀𝗲𝗿𝘃𝗲𝗿 𝗶𝗻𝘀𝘁𝗲𝗮𝗱 𝗼𝗳 𝘁𝗿𝘂𝘀𝘁𝗶𝗻𝗴 𝟭𝟲𝟳 𝗱𝗲𝗽𝗲𝗻𝗱𝗲𝗻𝗰𝗶𝗲𝘀.
#LocalAI #LLM #MCP #SearXNG #Privacy #OpenSource #Python #SelfHosted #LlamaCpp #AISecurity
https://t.co/TcvLUpZENL
A distilled, coding + agentic-reasoning 120B MoE (128 experts, 4 active).
Getting MLX → GGUF working meant solving MXFP4 dequant, LoRA fusion & GPT-OSS metadata quirks in llama.cpp.
Now it just runs — Mac/Win/Linux, CPU/CUDA/Metal/Vulkan/ROCm.
#llamacpp #GGUF #opensource
「ローカル LLM で MCP 経由で Kubernetes を操作する」を公開しました!
ローカルの llama.cpp と kubernetes-mcp-server を MCP でつなぎ、LLM に Kubernetes を操作させてみました。ローカル MCP の現在地を率直に記録します。
https://t.co/Ds4WoiHsYu
#VALinux #技術ブログ #Kubernetes #llamacpp
【ローカルAI激変】llama.cppにEAGLE3統合で推論速度が劇的向上!🚀
オープンソースの推論ライブラリ「llama.cpp」の最新バージョン(b9606)に、新技術「EAGLE3」が実装されました!
従来の推論処理の弱点だったメモリ読み込みによる待機時間を、革新的な「推論的デコード(先読み検証)」技術で大幅に削減。驚異的な処理スピードを実現します。
💡 導入による主なメリット
・応答速度の大幅な短縮とUX向上
・処理の高速化にともなう運用コストの削減
・定型パターンの多いコード生成などの生産性向上
ローカルAIの実用性がさらに一歩進んだ大注目のアップデートです!
#AI #テクノロジー

AMD Ryzen AI Max+ 395
× EVO-X2 × 8 Nodes
llama.cppによる分散推論環境を構築。
大規模モデルのローカル実行を検証しています。
#RyzenAIMax395 #DeepSeek #llamacpp #GMKtec #LocalAI

and if you happen to have #llamacpp running nearby… well, why not create a fancier version? Still offline and local. Still just a prompt away.
Imagine for a moment: Fable 5 is gone, for some reason (and given current political climate it's not that difficult to imagine that too) the internet is gone. But you still fancy playing tic-tac-toe on your phone, and you don't have the game installed.
Well, well, well… you're covered if you have PocketPal in your pocket, with a model like Gemma 4 E2B already downloaded, tbh, these should be part of your emergency kit, folks.
Then you're only one prompt away from creating the game. This tic-tac-toe game was created entirely on-device: no Cursor, no Claude Code, no Codex, no GPU farm, all running on a phone, fully offline.
You're welcome.
https://t.co/DfxIb1N6Cd
やってみようやってみよう
#llamacpp
GTX1060 3GB の古いWin機でローカルAI環境を作る話【第2回:Unsloth Studio との格闘とllama-server直結への辿り着き】|東京PCレスキュー隊長 @yuutanman https://t.co/4h5nLTI0c9 #ローカルLLM #Unsloth #UnslothStudio #Qwen3 #llamacpp #CUDA #GTX1060 #ローカルAI
New dock style. Local models ready. Coffee poured. ☕️
#buildinpublic #LocalAI #UIUX #opensource #llamacpp

メモ > Bonsai 8B(1bit LLM)をGPUなしWindows PCで動かす|Iris Xe・Radeon 680Mで実測ベンチ比較 - uepon日々の備忘録 https://t.co/LwGMBfOEHO #llamacpp
I have a new low cost AI toy. 😍
Ubuntu 26.04 nightly on a 64GB #GMKTec H255 with #780m igpu, VRAM set to 32GB in BIOS, < 1K$.
#llamacpp segfaults with rocm 7.2.1 when loading a model into mem but llama-cli on vulkan works.
23tps output on igpu with #supergemma4-26b @jun_song

Androidターミナルアプリからllama.cppのサーバーを起動し、チャットしてみた。
Code severも動くし、ある程度、安定して使える環境になったと実感。速度は仕方がない。
モデルのサイズ対効果とスマホの性能によってはローカルLLMを楽しめそう。
#AndroidTerminal
#llamacpp

It is going to be a busy weekend of testing, I have some good stuff incoming. Early Gemma 4 31B q8
@Google @GoogleAI @GoogleDeepMind @ggaborlov @UnslothAI
@ngxson
#Gemma4
#OpenSource / #OpenSourceAI
#LocalLLM / #LocalAI
#llamacpp
#MoE
#AIBenchmark
#OnDevice #EdgeAI

Je me suis encore amusé cet après-midi (mauvais temps oblige).
Un LLM local ce'st bien mais sans recherche web c'est pas top.
On s'était amusé en live avec des recherches Wikipedia.
Là c'est tout le Web qui est interrogé :)
#python #streamlit #duckduckgo #llamacpp #qwen35

Last Seen Hashtags on Sotwe
Most Popular Users

Elon Musk 
@elonmusk
240.4M followers

Barack Obama 
@barackobama
119.3M followers

Donald J. Trump 
@realdonaldtrump
111.7M followers

Cristiano Ronaldo 
@cristiano
110.1M followers

Narendra Modi 
@narendramodi
107M followers

Rihanna 
@rihanna
97.6M followers

NASA 
@nasa
92.1M followers

Justin Bieber 
@justinbieber
90.8M followers

KATY PERRY 
@katyperry
87.4M followers

Taylor Swift 
@taylorswift13
81.3M followers

Lady Gaga 
@ladygaga
72.8M followers

Kim Kardashian 
@kimkardashian
69.7M followers

Virat Kohli 
@imvkohli
69.5M followers

YouTube 
@youtube
68.7M followers

Bill Gates 
@billgates
63.7M followers

The Ellen Show
@theellenshow
62.5M followers

Neymar Jr 
@neymarjr
62.2M followers

CNN 
@cnn
61.9M followers

X 
@x
60.8M followers

Selena Gomez 
@selenagomez
60.5M followers

































