Интервальное Недержание

Ботаник по профессии, мужик с трамбователем в душе.
Сумел построить дом в Германии не привлекая внимания санитаров.
20 лет ML & AI, топ-0.1% на chess com

[Интервальное Недержание @sami3dat]

Крик души целого поколения

[Radical Living @RadicalFalk]

I'm leaving Germany | Brutally Honest Review

[Интервальное Недержание @sami3dat]

200W "silent mode"

[Интервальное Недержание @sami3dat]

Gemma 26B / 12B @ Nvidia RTX 3090 24GB 370W

[Интервальное Недержание @sami3dat]

Сравнение скорости Gemma 12B Q4/Q6 (Dense) / Gemma 26B Q2 (MoE) на старенькой Titan X (Pascal) 12GB.

pp512
tg128

[Интервальное Недержание @sami3dat]

@de1m0s242 на маке вроде как что-то с MLX стоит брать

https://t.co/aREividpZs

[Xaden Ryan @XadenRyan]

@ivanfioravanti It's the MTP model.

[Интервальное Недержание @sami3dat]

Сравнение скорости Gemma 12B Q4/Q6 (Dense) / Gemma 26B Q2 (MoE) на старенькой Titan X (Pascal) 12GB.

pp512
tg128

[Интервальное Недержание @sami3dat]

Выходит, что новая Gemma 12B почти как Gemma 26B по качеству, при этом требует намного меньше VRAM / Unified Memory.

Правда 26B скорее всего заметно шустрее. Вопрос насколько.

[Интервальное Недержание @sami3dat]

@stableAPY I've just downloaded it and ran some benchmarks.
Unsloth Q6 is too large for 12GB smh, I get OOM if I start with context larger 16k.
Q5 should be fine.

[Интервальное Недержание @sami3dat]

@UnslothAI @LottoLabs

How much faster is Gemma 26B ?

[Интервальное Недержание @sami3dat]

Выходит, что новая Gemma 12B почти как Gemma 26B по качеству, при этом требует намного меньше VRAM / Unified Memory.

Правда 26B скорее всего заметно шустрее. Вопрос насколько.

[Unsloth AI @UnslothAI]

Gemma 4 12B can now run locally on just 8GB RAM via Dynamic GGUFs.

Google's new model, Gemma 4 12B Unified supports image, audio and 256K context.

You can run and train the model via Unsloth Studio.

GGUF: https://t.co/8cL321pVDh
Guide: https://t.co/odRo9WjRpA

[Интервальное Недержание @sami3dat]

@googlegemma @softwarevlogger schau mal

[Интервальное Недержание @sami3dat]

@mannoroch @bodryachog когда помоет кухню, придумают ещё что нибудь.

[Интервальное Недержание @sami3dat]

@DD_3141592 @Moonraker_KK Wir sind mehr!

[Интервальное Недержание @sami3dat]

@Moxorama @EliasLeRetour Макрон, Zidane, Уэльбек

[Интервальное Недержание @sami3dat]

@kaapyth0n красота, спасибо!

[Интервальное Недержание @sami3dat]

@softwarevlogger @stableAPY @summitainotes Did you try Gemma 26B (also MoE) ?

[Интервальное Недержание @sami3dat]

ebat!

[Stefan Kofner @merkwelten]

Streikende bei Samsung

Quelle: @WELTAMSONNTAG v. 31.05.2026

[Интервальное Недержание @sami3dat]

@zelle116 @MatthiasHartel guter Punkt!

[Интервальное Недержание @sami3dat]

Вот теперь попробую (наверное).

[Nous Research @NousResearch]

The next evolution of Hermes Agent is here!

Introducing Hermes Desktop: everything you love about Hermes, now native on your machine.

First demoed in Jensen's GTC keynote, it's now in public preview.