My team at @GoodfireAI has been cooking up a new way to do interpretability: decompose a language model’s weights, not its activations.
Our decomposition natively handles attention (!) and behaves less like a lookup table and more like a generalizing algorithm. (1/6)
Every OpenClaw today is an intern with root access & no oversight ☠️🏴☠️
So we built the first one with a boss 🦞
@getdiana is a business-ready OpenClaw with a Governor that shuts it down mid-task before damage is done 🧵
→First 500 to RT + comment “DianaClaw” get 1 month free
This is a playlist of 9 AI & ML youtube videos you can’t miss as an AI engineer,
It’s 50+ hours of technical hands-on courses:
1. Neural Networks Zero to Hero (Karpathy)
https://t.co/ffdq7buycG
From micro-gradients to nanoGPT, code-first all the way.
2. Stanford CS336 (2025): Language Modelling from Scratch
https://t.co/0p7LUY8Dzm
A full-stack LLM bootcamp: data → training → serving → evaluation.
3. MIT 6.S191 (2025): Intro to Deep Learning
https://t.co/n7P1poXDEr
Transformers, diffusion, and modern DL in under 2 hours.
4. CS25: Intro to Transformers with Karpathy
https://t.co/CXeva0AMPM
Turns “Attention Is All You Need” into code you can actually deploy.
5. Stanford CS229 Guest Lecture: Building LLMs
https://t.co/Gn01aGHkkY
Behind the curtain of Stanford’s 2025 LLM stack.
6. Deep Dive into LLMs like ChatGPT
https://t.co/tIKBP2p7HK
3.5 hours of how GPTs really work under the hood.
7. Let’s Build GPT from Scratch
https://t.co/wqKHo4vmUr
200 lines of Python → a functional GPT. Watch, code, repeat.
8. Agentic AI by Stanford
https://t.co/4qO2hEbLvg
Gain an introduction to the concept of agentic AI language.
9. Transformers and Self-Attention
https://t.co/fZIsULEQlp
Introduction to the Transformers architecture from scratch
Hats off to @ordax for the list!
Phi-4-reasoning Technical Report
Author's Explanation:
https://t.co/cRJrXNrOWI
Overview:
Microsoft presents Phi-4-reasoning, a 14B parameter model developed through supervised fine-tuning on curated "teachable" prompts and reasoning demonstrations, enabling it to generate detailed reasoning chains.
A variant, Phi-4-reasoning-plus, further enhances performance and generates longer reasoning traces using outcome-based reinforcement learning.
Across benchmarks including math, coding, and planning, both models significantly outperform larger open-weight models and approach the performance of top-tier counterparts, showing non-trivial transfer to general benchmarks.
The results demonstrate the benefit of careful SFT data curation for reasoning models, which reinforcement learning can amplify.
Paper:
https://t.co/oAZ7IAa10r
This is huge: Llama-v2 is open source, with a license that authorizes commercial use!
This is going to change the landscape of the LLM market.
Llama-v2 is available on Microsoft Azure and will be available on AWS, Hugging Face and other providers
Pretrained and fine-tuned models are available with 7B, 13B and 70B parameters.
Llama-2 website: https://t.co/PKrrXgHdem
Llama-2 paper: https://t.co/aINNrXNhMb
A number of personalities from industry and academia have endorsed our open source approach: https://t.co/N7HwgW9Suh
The most useful razors and rules I've found:
1. Bragging Razor - If someone brags about their success or happiness, assume it’s half what they claim
If someone downplays their success or happiness, assume it’s double what they claim
2. High Agency Razor - If unsure who to work with, pick the person that has the best chances of breaking you out of a 3rd world prison.
3. The Early-Late Razor - If it's a talking point on Reddit, you might be early. If it's a talking point on LinkedIn, you're definitely late.
4. Luck Razor - If stuck with 2 equal options, pick the one that feels like it will produce the most luck later down the line.
I used this razor to go for drinks with a stranger rather than watch Netflix. In hindsight, it was the highest ROI decision I've ever made.
5. Buffett's Law - "The value of every business is 100% subject to government interest rates" - Warren Buffett
6. The 7-Figure Razor - If someone brags about "7 figures" -- assume it's closer to $1 million than $9 million.
7. Mack's Rule - Break down the investments your parents made in you: Time, Love, Energy, and Money.
If they are still alive, aim to hit a positive ROI (or at least break even.)
8. Instagram Razor - When you see a photo of an influencer looking attractive on Instagram -- assume there are 99 worse variations of that photo you haven't seen.
They just picked the best one.
9. Narcissism Razor - If worried about people's opinions, remember they are too busy worrying about other people's opinions of them. 99% of the time you're an extra in someone else's movie
10. Everyday Razor - If you go from doing a task weekly to daily, you achieve 7 years of output in 1 year. If you apply a 1% compound interest each time, you achieve 54 years of output in 1 year.
11. Bezos Razor - If unsure what action to pick, let your 90-year-old self on death bed choose it.
12. Creativity Razor - If struggling to think creatively about a subject, transform it:
• Turn a thought into a written idea.
• A written idea into a drawing.
• A drawing into an equation.
• An equation into a conversation.
In the process of transforming it, you begin to spot new creative connections.
13. The Roman Empire Razor - Historians now recognize the Roman Empire fell in 476 - but it wasn't acknowledged by Roman society until many generations later.
If you wait for the media to inform you, you'll either be wrong or too late.
14. Physics Razor - If it doesn't deny the law of physics, then assume it's possible. Do not confuse society's current lack of knowledge -- with this knowledge being impossible to attain.
E.g. The smartphone seems impossible to someone from the 1800s -- but it was possible, they just had a lack of knowledge.
15. Skinner's Law - If procrastinating, you have 2 ways to solve it:
• Make the pain of inaction > Pain of action
• Make the pleasure of action > Pleasure of inaction
16. Network Razor - If you have 2 quality people that would benefit from an intro to one another, always do it.
Networks don't divide as you share them, they multiply.
17. Gell-Mann Razor - Assume every media article contains a % of false information.
Sandbox the article from your worldview until you've:
• Seen primary sources
• Spoken to 3 domain experts
18. Taleb's Surgeon - If presented with two equal candidates for a role, pick the one with the least amount of charisma.
The uncharismatic one has got there despite their lack of charisma. The charismatic one has got there with the aid of their charisma.
My recorded video lecture on Fourier Transforms in cryo-EM I was supposed to give in person at the course in Sao Paolo today (“CryoEM São Paulo School 2023”). Unfortunately, I could not attend the event, so I recorded this talk for the students. https://t.co/qmZqrX8YHS
Please, #cryoEM community (and @ImagingArtifact), we need some help to identify this object. It is 150A large,C2 and it is an impurity coming from an melanoma EVs extraction. Any idea?
بیرونی ممالک جانے کے راستے!!
اگر آپ بیرونِ ممالک آنا چاہتے ہیں تو اسکے مختلف طریقے ہیں اور یہ اس پر منحصر ہے کہ آپکی عمر، تعلیم، خاندانی صورتحال اور پیشہ کیا ہے۔
یہاں بات کرتے ہیں تعلیم یافتہ افراد کی جنکے پاس سائنس یا بزنس کی ڈگریاں ہیں۔
ایسے افراد بیرونِ ملک اعلی تعلیم کے حصول کے سلسلے میں سٹوڈنٹ ویزا پر آ سکتے ہیں۔ اس حوالے سے امریکہ، برطانیہ، یورپ، آسٹریلیا ، چین اور ملیشیا کی کئی یونیورسٹیاں ہیں جہاں کم قیمت میں، سکالرشپ یا مفت میں تعلیم حاصل کی جا سکتی ہے۔
اس حوالے سے کئی ویب سائٹس موجود ہیں جہاں ماسٹرز اور پینایچ ڈی لیول کے پروگران ڈھونڈے جا سکتے ہیں۔چند ایسی ویب سائٹس جہاں ماسٹرز کے پروگرام مختلف ممالک کی مختلف یونیورسٹیوں میں ڈھونڈے جا سکتے ہیں وہ یہ ہیں:
https://t.co/8hqpxbXvHw
(ماسٹرز کے پروگرامز کے حوالے سے)
https://t.co/R22Rzv3mqO
(پی ایچ ڈی کے پروگرمز کے حوالے سے)
یہاں یہ بات یاد رکھیں کہ ان دو ویب سائٹس پر اپ دنیا کے مختلف ممالک میں مختلف طرح کے ماسٹرز اور پی ایچ ڈی کے پروگرامز دیکھ سکتے ہیں۔
یہاں یہ بات یاد رکھیں کہ بہت سے یورپی ممالک میں تعلیم مفت ہے تاہم ان ممالک میں سمسٹر فیس لی جاتی یے جوفی سمسٹر چند سو یور ہوتی ہے یعنی ڈیڑھ سے دو لاکھ روپے کے درمیان۔ البتہ اس سمسٹر فیس سے اپکو مفت پبلک ٹرانسپورٹ، لائیبریری اور دیگر سہولیات فراہم کی جاتی ہیں۔ یہ فیس تعلیمی اخراجات کی مد میں نہیں لی جاتی۔
جن یورپی ممالک میں تعلیم کم قیمت یا کم و بیش مفت ہے ان میں جرمنی سرِ فہرست ہے۔
اسکے علاوہ چیک ری پبلک، امفن لینڈ ، ناروے، آسٹریا وغیرہ میں بھی سمسٹر فیس نہیات کم ہے۔ جرمنی یورپ کا آبادی اور وسائل کے اعتبار سے بڑا ملک ہے اور یہاں مخلتف شعبہ جات میں دنیا کی ٹاپ کلاس یونیورسٹیاں موجود ہیں ۔ جرمنی میں ماسٹرز اور پی ایچ ڈی کے پروگرامز اور سکالرشپس آپ اس ویب سائٹ پر تلاش کر سکتے ہیں۔
https://t.co/HokzxqYKYB
فرانس میں انگریزی میں تعلیمی ڈگریوں کے پروگرام اس ویب سائٹ پر:
https://t.co/qpxpYMu9D9
سویڈن میں اس ویب سائٹ پر:
https://t.co/VhqQO3fTtT
ناروے میں اس ویب سائٹ پر:
https://t.co/DpRZEFItOE
امریکہ میں اس ویب سائٹ پر:
https://t.co/RWBiBA8MdD
کینڈیا میں اس ویب سائٹ پر:
https://t.co/sHpqq0KOjT
اور ایسے ہی دوسرے ممالک میں انکے آفیشل پلیٹفارمز پر۔
ساینس کے شعبہ جات میں پی ایچ ڈی اور پوسٹ ڈاک کم و بیش جاب کی طرح ہوتی ہے۔ اس حوالے سے آپکو یورپ اور امریکہ میں مختلف ٹاپکس پر پی ایچ ڈی پوزیشنز اور پوسٹ ڈاک کے لیے اپلائی کرنا پڑتا ہے۔
ایک ایسی ویب سائٹ جہاں آپکو مخلتف پی ایچ ڈی پوزینشز ٹاپکس کے اعتبار سے ملیں گی وہ یہ ہے:
https://t.co/AHmV7gQEAf
اسکے علاوہ امریکہ اور دیگر ممالک میں پی ایچ ڈی اور پوسٹ ڈاک کی پوزینشز مخلتف جاب پورٹلز پر ایڈورٹائز ہوتی ہیں۔ آپ ان جاب پورٹلز پر جا کر Phd یا Postdoctoral لکھیں تو ایسی کیی پوزیشنز آئیں گی جنکی شرائط پر اگر آپ پورا اُترتے ہیں تو ان پر اپلائی کر سکتے ہیں۔
مخلتف جاب پورٹلز یہاں پر:
https://t.co/ni0xFUmz0M
اگر آپ کینڈیا، آسٹریلیا،نیوزی لینڈ وغیرہ امیگریشن باہتے ہیں تو اس کے لیے ان ممالک کی ویب سائٹس یہ ہیں:
کینیڈا
https://t.co/2zZn9raxkI
آسٹریلیا
https://t.co/fEvixBDUw2
نیوی ذی لینڈ
https://t.co/uAUEm1zVd8
خدارا ایجنٹوں اور انسانی سمگلروں کے ہاتھوں ذلیل ہو کر مت آئیں۔ آپ اگر پڑھے لکھے ہیں تو انٹرنیٹ پر باہر کے ممالک میں تعلیم ، کاروبار اور امیگریشن کے حوالے سے تمام معلومات خود بھی حاصل کر سکتے ہیں۔ اپنے اور اپنے عزیز و اقارب کی زندگیاں کو یوں داؤ پر مت لگائیں کہ کل کو آپکے بوڑھے ماں باپ یا بچے تمام عمر بس آپکا راستہ ہی تکتے رہیں۔
برائے مہربانی سب ان معلومات کو ضرور شیئر کریں۔
شکریہ🙏😊❤️
"Top-down machine learning of coarse-grained protein force-fields"
General-purpose neural network potentials trained on 15,000 proteins are compared to protein-specific potentials
https://t.co/ntnOehgP8u
At https://t.co/my8bmvxWZZ, we’re building a foundational protein machine learning model that aims to understand everything about macromolecules. We can successfully create a zinc binding site without ever specifying the positions or geometries to the model.
“Hierarchical design of pseudosymmetric protein nanoparticles”
Designed particles almost 0.1 microns across w/ up to 960 (!) subunits
https://t.co/zUlwz8KyXx
📢 Our #CVPR2023 tutorial on "Denoising Diffusion Models: A Generative Learning Big Bang" w/ @chenlin_meng and @ArashVahdat is happening tomorrow morning! 9:00 to 12:30, West 202-204. https://t.co/YBf7RsFROL
This is the year of big bang for diffusion models in CVPR!