Robert

[Robert @Robert78298457]

@HancockErikL @morganlinton @VulcanBench For GLM 5.2: 78 layers, 64 KV heads, head dim 192

2 (K+V) × 78 × 64 × 192 × 2 bytes ≈ 3.8 MB per token (a token is 3-4 characters)
For 1M Context window this would be about 3,8TB - with sparse attention about factor 2,9 less —> 1,31TB
Therefore you need at least 2,8TB.

[Robert @Robert78298457]

@HancockErikL @morganlinton @VulcanBench With 744B params, the math is simple:
BF16/FP16 (full model): 744 x 2 bytes = 1,488TB
FP8 = 744B x 1byte = 744GB
INT4 = 744B x 0.5 byte = 372GB

For real comparison FP16 with at least 1,488TB, but you need the context window on top.

[Robert @Robert78298457]

@HancockErikL @morganlinton @VulcanBench Ah yes, ‘glm runs on user hardware.’ Just show me the user whose hardware fits 744B parameters and the context on top. I’ll wait.

[Robert @Robert78298457]

@studentofcycles Was denkst du, wann das mNav von MSTR kritisch wird für Bitcoin durch massiven Verkaufsdruck?

[Robert @Robert78298457]

@karatademada @elonmusk Seriously? There are Apps out there doing the same since years…

[Robert @Robert78298457]

@Bitcoinprof0637 THANK YOU!!

[Robert @Robert78298457]

@Mrcryptoxwhale done

[Robert @Robert78298457]

@Bitcoinprof0637 :)

[Robert @Robert78298457]

@cabelo_escobar You won‘t 😂

[Robert @Robert78298457]

@Mrcryptoxwhale @Brknfeller DONE

[Robert @Robert78298457]

@Brknfeller DONE

[Robert @Robert78298457]

@nayibbukele A list which state the wrong person as the Austrian leader should be a confirmation for what?

[Robert @Robert78298457]

@ErikVoorhees Send me a dm with details, I think we can work it out.

[Robert @Robert78298457]

@saylor @BTCPrague Will you be in the VIP area, @saylor ?

[Robert @Robert78298457]

@100trillionUSD #sellthenews

[Robert @Robert78298457]

@100trillionUSD some sample data?

[Robert @Robert78298457]

@marcfriedrich @Karl_Lauterbach @marcfriedrich Das ist leider eine Falschinformation. Die Sozialdemokraten in Wien halten ebenfalls krampfhaft ideologisch daran fest. Im Zug bekommt man eine Aufforderung per Durchsage: „Wir überqueren in kürze die Wiener Stadtgrenze, setzen Sie ab hier Ihre Masken auf!“

[Robert @Robert78298457]

@julianhosp Man könnte es auch als Wortspiel interpretieren.. Die Aussage der Fleischverkäuferin könnte sich auf den Fleischwolf beziehen und „Ein Wolf ist auch nur ein Mensch“ könnte sich auf Armin Wolf beziehen, der aktuell unter starker Kritik steht. :-D

[Robert @Robert78298457]

@TheOracleV3 @BrahimiCedric @Balkaner11801 @magentatelekom Doch das kann man sehr wohl erwarten. Wenn einem Technologiekonzern das Thema Redundanz, welches zum kleinen Einmaleins der IT zählt, derart entgleitet, läuft etwas gewaltig schief!
Zum Thema Lebensdauer: Denkst du dass Hardwarekosten nicht in den Tarifen eingepreist sind?

[Robert @Robert78298457]

@MautzeMautz @AllestoerungAT Kann ich bestätigen :-D