La photo :
3090 Suprim X limitée à 380W.
Strata par @coldniko avec Qwen-3.8-flash-coder tout droit sorti de chez ISTA-DASLab.
Tout rentre dans 80Gb de ram et les 24Gb de vram (proxmox lxc).
16-105 tok/s mesurés, en moyenne 85 toks/s avec maximum 5 agents en parallèle 😺
Ici, pas d'IA. Ce sont quatre Orange Pi Zero 512Mb avec leur switch 100mbps.
Sur ces 4 petits :
- Gitea
- Keepass
- DNS local
- Surveillance réseau
- Conduit (client matrix)
- Anvil pour la blockchain dev
- Des petits bots discord/telegram
10W de consommation max.
@VassilyBeyond@coldniko Ça se tient, le gaming 49" + un gpu XX90 c'est autre chose 😁
D'où une 3090 dans un serveur dédié, et une 3090 dans le pc windows/wsl pour les essais.
La photo :
3090 Suprim X limitée à 380W.
Strata par @coldniko avec Qwen-3.8-flash-coder tout droit sorti de chez ISTA-DASLab.
Tout rentre dans 80Gb de ram et les 24Gb de vram (proxmox lxc).
16-105 tok/s mesurés, en moyenne 85 toks/s avec maximum 5 agents en parallèle 😺
@VassilyBeyond@coldniko Grosse différence entre le 1000R et mon philips 1800R, j'ai jamais testé un écran aussi incurvé que le tiens !
C'est ta machine principale ? Tu l'exploites pour quelle utilisation ?
@VassilyBeyond@coldniko Moh que c'est beau 🤩
Ma station de travail est plus modeste en ram mais y'a ce qu'il faut pour afficher. C'est aussi un 49" que tu as ? Et le deuxième écran, c'est un 27" ?
@ItsmeAjayKV What a bounce for deepseek 1017 !
I was super happy with nemotron 3.5 super VL and deepseek-v4.1-flash, now I realize why I like models ranked 40 and plus.
@FuturLucide Tu regardes seulement deux labos, les plus gros qui plus est, et tu trouves qu'ils n'itèrent pas assez vite ?
Ah voui hein, tu peux être en manque de nouveauté 😆
J'hésite à repasser les publications de ce compte en anglais. Ou faire un alt international.
Sans mon infra d'hébergement souveraine sur le sol français, la question ne se poserait pas.
Comme qui dirait, le doute m'habite...
Causer d'inférence en France, c'est sport !