Jonny

[Jonny @_ee0e]

@designhubksa اولا اشكرك على سعه صدرك

ثانيا اول ما شفتك كتبت blocks ويرسل بالتتابع تذكرت تقنيه تدريب النماذج

وفقك الله 🫶🏻

[Jonny @_ee0e]

@designhubksa أنت ما رفعت VRAM لانها شي فيزيائي وليس برمحي، أنت تسوي batching/streaming — تقسّم الداتا وتمررها بالتتابع عبر PCIe. جيده لكن تضرب السرعه عندك

التقنية معروفة ومستخدمة بتدريب النماذج من زمان.

لا تعقدها لو تبي تشغل نماذج اكبر من 20b على كرت بذاكره 8GB جرب محرك FreeToken