Train your own LLM from scratch.
This repo builds a GPT-style transformer from the ground up, without using any high-level libraries.
You see exactly how attention, multi-head attention, the feed-forward block, embeddings, residuals, and layer norm fit together.
And it doesn't stop at the model. It walks the whole path from raw data to generated text.
↳ Data download, preprocessing, training, and generation
↳ Training data from The Pile (825GB across 22 sources)
↳ Tokenized with tiktoken (r50k_base) and stored in HDF5
↳ Training loop with eval, LR decay, and crash-safe checkpoints
↳ An SFT and RLHF guide for what comes after pretraining
The same code scales by changing a few config values. Around 13M parameters is where the output starts producing correct grammar and spelling, and you can train that in about a day on a free Colab or Kaggle T4.
If you've ever wanted to actually see how a transformer works instead of importing one, this is a clean place to start.
Link to the repo in the comments.
Interested in ML/AI Engineering? Check my FREE AI engineering Guidebook with 380+ pages (downloaded over 80k times, link below)
كل بزنس يمر بأربع مراحل قبل ما يصل إلى 10 مليون
المرحلة الأولى
أنت كل شيء
انت المؤسس
والبائع
والمسوق
وخدمة العملاء
وحتى عامل النظافة
كل شيء يمر عبرك
هذه مرحلة الجهد الخام
وغالباً سقفها حول 500 ألف سنوياً
كثير من الناس يبقون هنا
لأنهم مدمنون السيطرة
وانا هذي عديتها ولله الحمد
المرحلة الثانية
توظف أشخاصاً متعددي المهام
زي الطبيب العام.. يسوي كل شيء بس بدون تخصص
يفعل شيء من كل شيء
هذولا يساعدونك على كسر حاجز المليون
لكن المشكلة ما زالت موجودة
وهو أنت
كل قرار
كل مشكلة
كل فرصة
لازم تمر عبرك
وهنا يتوقف كثير من المؤسسين
عنق الزجاجة
هو المؤسس نفسه
المرحلة الثالثة
تبدأ بجلب الخبراء الحقيقيين
تستبدل الموظفين العامين بمتخصصين
تسويق
مبيعات
تشغيل
كل قسم يقوده شخص أفضل منك فيه
وهنا يبدأ العمل يعتمد على الخبرة
لا على الجهد فقط
وهذه المرحلة غالباً تقود إلى 5 مليون وأكثر
المرحلة الرابعة
بناء الأقسام
قادة يديرون فرقاً كاملة
أنت لم تعد توظف أفراداً
بل تبني أنظمة
لم تعد تحل المشاكل
بل تمنعها قبل أن تبدأ
وهنا يبدأ كسر حاجز 10 مليون
الحقيقة التي لا يحب المؤسسون سماعها
معظم الشركات تتوقف في المرحلة الثانية
لأن المؤسس
لا يريد التخلي عن السيطرة
الحل
اعرف مرحلتك الحالية
ثم قم بالتوظيف التالي بشكل استراتيجي
طوّر فريقك
ثق بالخبراء
وابنِ نظاماً يعمل بدونك
Hands-On Large Language Models:🤞
It covers :
Chapter 1: Introduction to Language Models
Chapter 2: Tokens and Embeddings
Chapter 3: Looking Inside Transformer LLMs
Chapter 4: Text Classification
Chapter 5: Text Clustering and Topic Modeling
Chapter 6: Prompt Engineering
Chapter 7: Advanced Text Generation Techniques and Tools
Chapter 8: Semantic Search and Retrieval-Augmented Generation
Chapter 9: Multimodal Large Language Models
Chapter 10: Creating Text Embedding Models
Chapter 11: Fine-tuning Representation Models for Classification
Chapter 12: Fine-tuning Generation Models
- https://t.co/kG4QHfACtI
الـ Syntax مش هو اللي بيعمل Software Engineer!
في مرحلة معينة من مسارك المهني، هكتشف إن الـ Language اللي بتكتب بيها (سواء كانت Flutter, Python, أو حتى Assembly) هي أقل حاجة بتشغل بالك، الفرق الجوهري بين كاتب كود وبين مهندس برمجيات بيتلخص في 3 قدرات:
1. فهم المشكلة (Problem Domain)
العميل مش جاي يسألك عن State Management أو List Comprehension؛ هو عنده مشكلة في البيزنس، المهندس الشاطر هو اللي بيعرف يحلل الـ Requirement ويطلع منها بالـ Edge Cases قبل ما يبدأ كتابة سطر كود واحد.
2. تقسيم الحل (Decomposition)
أي سيستم معقد هو في الحقيقة مجموعة من المشاكل الصغيرة، قدرتك على تقسيم المشكلة الكبيرة لـ Modular, Reusable Components هي اللي بتحدد الـ Scalability بتاعة شغلك.
3. بناء System محترم (Architectural Thinking)
ده اللي بيفرق الـ Professional عن الـ Hobbyist، المهندس بيفكر في،
• Maintainability:
هل لو حد غيري جه يقرأ الكود هيفهمه؟
• Performance:
السيستم ده هيتصرف إزاي لو دخل عليه مليون مستخدم؟
• Reliability:
لو حصل Error في الـ Database، الـ System هيقع كله ولا هيعرف يتعامل؟
اتعلم الأداة (Tool) عشان تشتغل، بس اتعلم الأساسيات (Fundamentals) عشان تكبر وتستمر، الـ Senior هو اللي بيعرف يختار الأداة الصح للمشكلة الصح، مش اللي بيحاول يحل كل المشاكل بنفس الأداة اللي عارفها.
انت ك مبرمج إيه أكتر مفهوم (Concept) ندمت إنك مكنتش فاهمه كويس في بداياتك واكتشفت إنه أهم من لغة البرمجة نفسها؟ 🤔
Hold on a sec, Mistral 3 Large uses the DeepSeek V3 architecture, including MLA?
Just went through the config files; the only difference I could see is that Mistral 3 Large used 2x fewer experts but made each expert 2x large.
Codex team is hiring. We are rapidly improving the Codex agent, but want to build more delight and have a highly ambitious roadmap.
Share your cool fork of our open source codex repo or similarly impressive rust oss project. Opportunities for full time and contracting.
🔹صفات قد تبدو مميزة لكنها تُتعب صاحبها إذا تجاوزت حدّها :
1) الاجتهاد العالي
•مفيد عندما يكون موجّهًا ومحدودًا بزمن وراحة.
•مُرهق إذا أصبح دائمًا بلا توقف أو مكافأة.
•الدليل: أبحاث الاحتراق النفسي توضّح أن الضمير الحي العالي دون حدود يرتبط بـ Burnout. (Big Five – Conscientiousness)
2) الحساسية الانفعالية
•مفيدة في العلاقات، الرعاية، والفهم العاطفي.
•مُرهقة إذا لم تُنظّم أو لم تُحمَ بحدود.
•الدليل: دراسات Highly Sensitive Person تبيّن أن الحساسية قوة في البيئات الداعمة وتتحول لاستنزاف في البيئات الضاغطة.
3) تحمّل المسؤولية
•صحي عند الأدوار الواقعية المحددة.
•ضار إذا تحوّل لتحمّل ما لا يُطاق.
•الدليل: مفهوم Over-responsibility في اضطرابات القلق.
4) السعي للكمال
•مفيد للجودة والتطوير في مراحل معينة.
•ضار إذا أصبح شرطًا للقيمة الذاتية.
•الدليل: Hewitt & Flett يفرّقون بين الكمالية التكيّفية والمرضية.
🔹صفات يراها الآخرون ضعفًا لكنها مفيدة إذا استُخدمت بحدود :
5) البكاء
•مفيد عند الفقد، الضغط العالي، أو الصدمة، ولمدة محدودة.
•غير مفيد إذا أصبح أسلوبًا دائمًا لكل موقف.
•الدليل: البكاء وسيلة تنظيم انفعالي تخفّض التوتر الفسيولوجي، لكن الإفراط يرتبط بالاكتئاب.
6) التردد
•مفيد في القرارات المصيرية التي تحتاج معلومات واستشارة.
•غير مفيد في القرارات اليومية البسيطة.
•الدليل: نظرية System 1 / System 2 (Kahneman) تبيّن متى نحتاج التفكير البطيء.
7) الهدوء وقلة الكلام
•مفيد في التوتر والنقاشات الحساسة.
•غير مفيد إذا تحوّل لكبت دائم.
•الدليل: التنظيم الانفعالي يرتبط باستثارة عصبية أقل لدى الانطوائيين.
8) الانسحاب المؤقت
•مفيد لإعادة التوازن بعد ضغط شديد.
•غير مفيد إذا أصبح تجنبًا دائمًا.
•الدليل: الفرق بين Adaptive Withdrawal وAvoidance في نماذج القلق.
9) وضع الحدود
•مفيد لحماية الطاقة والعلاقات.
•غير مفيد إذا تحوّل إلى قطيعة أو قسوة.
•الدليل: مهارة Assertiveness مرتبطة بصحة نفسية أفضل.
✳️ الخلاصة :
الصفة ليست مشكلة…
المشكلة في استخدامها خارج وقتها، أو بلا حدود، أو بلا وعي بالسياق.
You can now train OpenAI gpt-oss with Reinforcement Learning in our free notebook!
This notebook automatically creates faster kernels via RL.
Unsloth RL achieves the fastest inference & lowest VRAM vs. any setup - 0 accuracy loss
gpt-oss-20b GRPO Colab: https://t.co/UHARhIfQSh
برنامج مِداد لتطوير الخريجين يأتيكم من #نوبكو لعام 2025، بالتعاون مع #مسك_المهارات @MiskSkills لتمكين الكفاءات الشابة في سلاسل الإمداد والقطاع الصحي.
#تطوير_الخريجيبرنامج مِداد لتطوير الخريجين يأتيكم من #نوبكو لعام 2025، بالتعاون مع #مسك_المهارات @MiskSkills لتمكين الكفاءات الشابة في سلاسل الإمداد والقطاع الصحي.
#تطوير_الخريجيبرنامج مِداد لتطوير الخريجين يأتيكم من #نوبكو لعام 2025، بالتعاون مع #مسك_المهارات @MiskSkills لتمكين الكفاءات الشابة في سلاسل الإمداد والقطاع الصحي.
#تطوير_الخريجيبرنامج مِداد لتطوير الخريجين يأتيكم من #نوبكو لعام 2025، بالتعاون مع #مسك_المهارات@MiskSkills لتمكين الكفاءات الشابة في سلاسل الإمداد والقطاع الصحي.
#تطوير_الخريجين