Abdullah

nothing much just an AI Engineer
@nabrahAi

[نـبـره | Nabrah.AI @NabrahAI]

بامكانك اليوم تجربة أدق خدمة تفريغ نصي #STT موجهة ومخصصة للغة العربية على ستديو نبرة مجاناً!

*الصوت بالفديو تم انتاجه كذلك باستديو نبره عن طريق خدمة تحويل النص لصوت Text-to-speech

سجّل واستمتع
https://t.co/9Sd8n2ktyL

[Abdullah @LatentDev_]

طبعاً فكرة الـ EWC معتمده على الاستفادة من الـ Over-parameterization، ايش هي طيب؟
تقول لك بما ان النتوورك كبيرة جداً وفيه براميترز مررره كثير، فغالباً بتلاقي براميترز تكون كويسه للتاسك B وقريبة جداً من التاسك القديمة A.

[Abdullah @LatentDev_]

لو كانت الـPenalty عالية ماراح تتعدل البرامترز لكن لو كانت قليلة بتتعدل وهذي ميزة ال EWC يعطيك الحريه تغيير البرامتر لو كانت ماتأثر على التاسك القديم.

[Abdullah @LatentDev_]

اعظم قراف يشرح الفكرة،
الحل لمشكلة الـ Catastrophic Forgetting هي ما يُسمى بـ Elastic Weight Consolidation(EWC)
الـEWC بكل بساطة هي عملية حراسة البراميترز حقت التاسك A (OLD TASK)
بحيث لما النتوورك تتعلم على تاسك B(New Task) ماتخرب البرامترز حقت التاسك القديمة.
يتبع..

[Abdullah @LatentDev_]

فالحل بالسهم الاحمر EWC بحيث انها ماتخسر البرامترز اللي تعدلت عشان التاسك A وبنفس الوقت تقدر تتعلم التاسك B. طبعاً لو حاولت النتوورك تغير البراميترز باتجاه الازرق (تتعلم تاسك B وتنسى تاسك A) مثلاً، راح يكون فيه Quadratic penalty عبارة عن (ثيتا A القديمة - ثيتا الجديد)
يتبع..

[Abdullah @LatentDev_]

😵‍💫

[GitHub @github]

We are investigating unauthorized access to GitHub’s internal repositories. While we currently have no evidence of impact to customer information stored outside of GitHub’s internal repositories (such as our customers’ enterprises, organizations, and repositories), we are closely monitoring our infrastructure for follow-on activity.

[Abdullah @LatentDev_]

الورقة البحثية لهذا الاسبوع؛

“LoRA: Low-Rank Adaptation of Large Language Models” by Hu et al. (2021)

[Abdullah @LatentDev_]

وقت الـ deployment اكثر وقت يرفع الكرتزول😵‍💫

[Abdullah @LatentDev_]

@leetm5n ما اقدر ادمنت ماودي اخلصها🥸ا

[Abdullah @LatentDev_]

اللي للان ماقرأ الورقة البحثية حقت catastrophic forgetting، فاتك الكثيييير
مُثرية جداً جداً

[Abdullah @LatentDev_]

متفوقين على عمالقة الـSTT، نبرة ماهي سهلة ابداً 😁

[نـبـره | Nabrah.AI @NabrahAI]

**بحسب SADA Benchmark**

نبرة STT هي الأفضل والأدق كخدمة تحويل صوت إلى نص (التفريغ النصي) للهجة العامية.

لمختلف التطبيقات من ملخص اجتماعات لبودكاست الى مراكز اتصال. اعرف كل كلمة انقالت وحللها!

جربه الآن https://t.co/9Sd8n2ktyL

[The AI Timeline @TheAITimeline]

🚨This week's top AI/ML research papers:

- DeepSeek-V4 Report
- Hyperloop Transformers
- Scaling Self-Play with Self-Guidance
- Qwen3.5-Omni Technical Report
- Agent-World
- There Will Be a Scientific Theory of Deep Learning
- Context Unrolling in Omni Models
- LLaDA2.0-Uni

overview for each + authors' explanations
read this in thread mode for the best experience

[Abdullah @LatentDev_]

واحنا نتعلم السواقه مثلاً الاتصال بين العصبونتين يكون اقوى عن طريق ارسال اشارات تأثيرها قوي وسريع.
لما الانسان يتعلم شيء جديد، العقل يعطي الSynapses المهمة مثل الحماية بحيث يكون صعب تتغير (اقل قابلية للتغيير) لما يتعلم شيء جديد.

[Abdullah @LatentDev_]

معلومة مهمة وجميلة الصراحة تعلمتها وانا اقرأ “Overcoming catastrophic forgetting “
لما نتعلم مهارة جديدة بالحياة فيه جزء اسمه “Synapse” اللي هي نقطة التواصل اللي يصير فيها عملية انتقال المعلومات من العصبونة الاولى الى الثانية،

[Abdullah @LatentDev_]

@leetm5n ايه هو نفسه

[Abdullah @LatentDev_]

فيه شركة تقدم خدمة تأجير GPUs كنت اسمع انها رخيص لين جربت بنفسي ، رهيب جداً.
الفرق بين الشركة اللي كنت استعملها وهذي الشركة حرفياً ٧ اضعاف السعر😅

[Abdullah @LatentDev_]

اي ورقة بحثيه اقراها راح انزلها هنا،
الورقة البحثية اللي راح اقراها خلال الاسبوع الجاري هي: "Overcoming Catastrophic Forgetting in Neural Networks" — Kirkpatrick et al. 2017

[Qwen @Alibaba_Qwen]

⚡ Meet Qwen3.6-35B-A3B：Now Open-Source！🚀🚀

A sparse MoE model, 35B total params, 3B active. Apache 2.0 license.

🔥 Agentic coding on par with models 10x its active size
📷 Strong multimodal perception and reasoning ability
🧠 Multimodal thinking + non-thinking modes

Efficient. Powerful. Versatile. Try it now👇

Blog：https://t.co/EXx5y466su
Qwen Studio：https://t.co/bg4tAU1p74
HuggingFace：https://t.co/w4pDX14DZS
ModelScope：https://t.co/SuRyLzdQiO
API（‘Qwen3.6-Flash’ on Model Studio）：Coming soon～ Stay tuned