@grok@3rab_Alien هل نسأت العربية من العدم أم تطورت من لغات أخرى وما هي أم اللغة العربية.
وهل هناك طابع مشترك بين اللغة العربية واللغات التي تنحدر من قوميات ترجع أصولهم إلى Em35
@grok@3rab_Alien#grok هل هناك رابط بين لغة حاملي J1 في شمال آسيا روسيا والشيشان واللغة العربية.
وهل هناك رابط بين اللغة العربية ولغة حاملي Em35 أو اللغات الآفرو آسيوية
@Ahmed_ben_Yasir هكذا أخلاق العبيد رغم أن مصر آوته وصدق الشاعر حين قال
إإن أنت أكرمت الكريم ملكته ## وإن أنت أكرمت اللئيم تمردا
وكما قال
العبد يقرع بالعصا ### والحر تكفيه الملامة
@malakoffline67@YaraYousryyy طيب وهي بتصوره ليه.
دا مش تعدي على خصوصية الرجل.
حتى لو غلط حسابه مش عليها آخرها تبلغ الأمن وكان هيدفع غرامه.
لكن تصوير وقلة أدب تستاهل اللي ياجيها
@moiegy الرجل عمل مخالفة في حق الدولة وعقوبتها غرامة لكن البنت عملت مخالفة في حق الرجل والدولة حق الرجل وهي تصويره بدون إذنه والتشهير به وفي حق الدولة إساءة استخدام وسائل التواصل الإجتماعي والتشهير بالمواطنين ليه مسكتوا الراجل وتركتوا البنت؟!
واحدة من الوظايف اللي عليها طلب عالي في المجال ال AI و في نفس الوقت العرض فيها نسبيًا قليل هي الـ Inference Engineering خصوصًا في السوق الأمريكي و الاوربي و اعتقد قريب السوق الخليجي.
الشركات مش محتاجة بس ناس تعرف تبني أو تدرب models، لكن كمان ناس تعرف تشغّل LLMs وVLMs وخدمات STT/TTS بكفاءة لملايين المستخدمين و باقل تكلفة ممكنو.
حاولت أرتب الـ resources دي في learning path التالي:
1. ابدأ بأساسيات LLM Inference
اول حاجة محتاج تفهم lifecycle بتاعة request واحدة. لازم تبقى فاهم المفاهيم زي:
- ال Tokenization
- ال Forward pass
- ال Autoregressive generation
- ال Prefill
- ال Decodeا
- ال KV cache
- ال TTFT وITL
- ال Throughput vs. latency
المصادر:
- ال NVIDIA talk at AI Engineering
https://t.co/Y62d2JpRo8
- ال Hugging Face — LLM Inference at Scale with TGI
https://t.co/PNwr2LkmNp
- ال Abi Aryan — Prefill vs. Decode
https://t.co/VuAPWrCUFK
2. الفهم الاساسي لل Transformer internals
مش محتاج ترجع تذاكر الـ Transformer architecture كلها من الأول. ركز أكتر على الحاجات اللي ليها علاقة مباشرة بالـ inference:
- ال Transformer blocks
- ال Embeddings
- ال Self-attention
- ال Q, K, V
- إزاي attention بينتج عنها الـ KV cache
من أحسن الـ resources اللي بتساعد تبني intuition بصري للموضوع:
- ال Brendan Bycroft LLM Visualizer
https://t.co/vyR5Cg97N1
3. الفهم الاساسي لل mental model للـ GPU
على الأقل حاول تفهم:
- ال GPU architecture
- ال Streaming Multiprocessors
- ال HBM vs. SRAM
- ال Memory hierarchy
- ال Memory bandwidth
- ال FLOPS
- ال Arithmetic intensity
- ال Compute-bound vs. memory-bound workloads
جزء كبير من inference optimization بيبدأ يبقى أوضح لما تبطل تفكر في الـ model بس، وتبدأ تفكر كمان في إزاي الـ data بتتحرك جوه الـ GPU.
ال resources دي هتكون مفيدة:
- ال Horace He — Making Deep Learning Go Brrrr From First Principles
https://t.co/eBFgQqlGRZ
- ال Damek Davis — Basic Facts about GPUs
https://t.co/0e0Kkhvnak
4. بعدها ابدأ في تقنيات ال Inference Optimization
لما تكون فاهم الأساسيات والـ hardware، التقنيات دي مش هتبقى مجرد مجموعة tricks منفصلة عن بعض.
ركز على:
ال Quantization
ال PagedAttention
ال FlashAttention
ال Chunked prefill
ال Speculative decoding
ال Prompt / Prefix caching
ال Continuous batching
شركة NVIDIA عندهم overview كويس جدًا للموضوع:
- Mastering LLM Techniques: Inference Optimization
https://t.co/umxAnCwGEi
بعدها ممكن تبدأ تقرأ الـ original papers للحاجات المرتبطة أكتر بالـ systems اللي بتشتغل عليها.
5. وفي الآخر، اختار Inference Engine وادرسه و ممكن حتى تعمل open source contributions ليهم
هنا أغلب المفاهيم اللي ذاكرتها بتبدأ تتجمع في system واحدة. اختار engine وافهم request بتمشي جواه إزاي:
- ال Scheduling
- ال Batching
- ال KV-cache management
- ال Memory allocation
- ال Execution
- ال Serving
فيه 3 engines ممكن تبدأ بيهم:
- ال vLLM: اختيار قوي لو مهتم بـ general-purpose high-throughput LLM serving.
- ال SGLang: مثير للاهتمام خصوصًا في workloads اللي فيها reusable prefixes أو LLM programs معقدة زي multi-turn وagentic systems.
- ال llama.cpp: مهم لو مهتم بالـ local inference، CPUs، consumer hardware أو edge deployment.
اهم المصادر:
- ال Inside vLLM
https://t.co/oZRqHzjd1N
- ال Distributed LLM Inference
https://t.co/ib2iNzYRo7
ولو إنت أصلًا mid-level أو senior ML/AI engineer، بعدها ممكن تدخل في:
- ال Tensor parallelism
- ال Pipeline parallelism
- ال Prefill-decode disaggregation
- ال Distributed KV caching
- ال Load balancing
- ال Prefix-aware routing
-ال Multi-node inference
لو شغلك حاليًا في ML أو AI engineering، أعتقد إن LLM inference من المجالات اللي تستحق وقت أكبر في الفترة الجاية.
@mayaomwya ق""حبة سورية تنشر لعا&&هرة كويتية رغم أننا آوينا أهلها لأكثر من 12 سنة لكن نقول إن أنت أكرمت الكريم ملكته وإن أنت أكرمت اللئيم تمرد.
أسوأ خدمة عملاء ممكن تحصلها من بنك الإنماء لي طلب عندهم من تاريخ 24/6 بطلب وثيقة تحويل سويفت MT103 وللأسف الطلب قيد المراجعة من 10 أيام ولا حياة لمن تنادي
لذا قررت إن شاء الله بارفع شكوى في ساما وبعدها بقفل حسابي عندهم.
@alinmaCare السلام عليكم أعاني من سوء خدمة العملاء في إصدار وثيقة حوالة سويفت MT103 حيث أني أجريت حوالة دولية يوم 23/6 وإلى يومنا هذا لم يتم إصدار الوثيقة رغم رفع أكثر من طلب ولكن لا حياة لمن تنادي.