Tal Kachman ✈️ somewhere

Ass prof @DondersInst/@KachmanLab. Simulation and Coffee abuser. Ex:@TechnionLive-)@MIT-)@IBMResearch-)Rhizome-)@AQRCapital--)@AI_Radboud spicy opnions are mine

[Tal Kachman ✈️ somewhere @TalKachman]

After a suggestion from @LucaAmb a thread on the books I used when moving from being a #MachineLearning researcher in tech to being a ML researcher in #finance. A thread !
1/n (I might continue updating it as more things come to mind)

[Tal Kachman ✈️ somewhere @TalKachman]

Please listen to this, Avi is one of the most special researchers I have ever heard. His book is a masterpiece, truly and wholeheartedly

[Ryan Peterman @ryanlpeterman]

Avi Wigderson is the only person in history to have won both a Turing Award (computer science) and Abel Prize (math). I interviewed him all about his field. We discussed:

• His intuition on a proof of P vs NP
• Why we use SAT solvers for most NP problems
• Zero knowledge proofs and their impact
• Quantum computation and implications
• Math and computer science's relationship

Where to watch:
• YouTube: https://t.co/zViqAulFCo
• Spotify: https://t.co/iat08Xob17
• Apple Podcasts: https://t.co/jOYDGtGVnt
• Transcript: https://t.co/k4zS7yOhnw

Thank you to this episode's sponsors for supporting my work:
• WorkOS: makes your app Enterprise Ready with easy to use APIs to add SSO, SCIM, RBAC, and more in just a few lines of code, check them out at https://t.co/y8noBzFEem

Timestamps:

00:00 - Intro
01:08 - P vs NP
14:51 - What if you relaxed correctness
25:38 - Why NP complete problems are equivalent
30:33 - Space vs time complexity
43:06 - Why people use SAT solvers
45:53 - Randomness is a resource
55:48 - Randomness depends on computational power
01:21:20 - Zero knowledge proofs and their significance
01:38:30 - Quantum computation and why it matters
01:56:24 - Math vs computer science
02:08:16 - Major breakthroughs and his experience
02:12:31 - Advice for his younger self
02:14:48 - Outro

[Iain Dunning @iaindunning]

Lot of QTs about "IB-ification" and how uncool that is and I agree. We've been resisting this by not giving intern candidates exploding offers and will continue to resist it. Thanks to everyone who reached out in this situation. Our listings will go up in a month or so.

[Iain Dunning @iaindunning]

Heard that some firms already making QR intern offers for summer 2027. I'd suggest if you're in that situation, first of all don't let them pressure you. Second, if you're a "rising junior" and you want an HRT offer, get in touch. Willing to talk early for exceptional candidates.

[Tal Kachman ✈️ somewhere @TalKachman]

@Ananyo @GoogleDeepMind So basically business as usual as alpha fold etc ....

[fly51fly @fly51fly]

[AI] Probabilistic Tiny Recursive Model
A Sghaier, A Parviz, A Jolicoeur-Martineau [Mila – Quebec AI Institute] (2026)
https://t.co/R96AHIYmWT

[Tal Kachman ✈️ somewhere @TalKachman]

@SarahAllisonFl @grok @SarahAllisonFl Have you seen this : https://t.co/Wo162L4e5Z

[Tal Kachman ✈️ somewhere @TalKachman]

I feel seen

[Delip Rao e/σ @deliprao]

Your PI juggling their PhD students managing their research projects.

[Tal Kachman ✈️ somewhere @TalKachman]

So...... Neurips 40000 papers ?

[Tal Kachman ✈️ somewhere @TalKachman]

@suchenzang Mavic 4 pro ftw !

[Tal Kachman ✈️ somewhere @TalKachman]

היי טק ישראלי בתמונה אחת

[Tal Kachman ✈️ somewhere @TalKachman]

@sarahookr @Hardik_Meisheri By far one of the books that inspired me most in my academic career to the point of shifting from physics to machine learning. There's also the Amazon lecture series https://t.co/0eLpNCnONM

[Tal Kachman ✈️ somewhere @TalKachman]

@shareyourgold תאמת שיש לי סייד קווסט רציני שלקחת את כול מה שאנחנו עושים בקבוצה שלנו על חשיבה אסטרטגית תורת המשחקים הסוכנים ולזרוק אותם על סוכנים לאומנות !

[Tal Kachman ✈️ somewhere @TalKachman]

@shareyourgold דברים כאלו גם מגניבים
https://t.co/PYhSN9Azj4

[אמיר שפרלינג @ShperlingAmir]

לפני עשר שנים קם איזה סגן רמטכ״ל בערב יום השואה. קוראים לו יאיר גולן. הוא הסתכל עלינו במבט יבש ואמר שמה שמפחיד אותו זה לזהות פה תהליכים מעוררי חלחלה שקרו שם, בגרמניה ההיא, פעם.

כולם מיד חטפו קריזה מוחלטת. אנשים שמעולם לא קראו ספר היסטוריה שלם התחילו לצעוק עליו שהוא בוגד, עוכר ישראל, סמולן שמוזיל את השואה.

הפוליטיקאים שלנו, אלה שבדיוק התחילו לחמם מנועים לקראת ריסוק המדינה, דרשו שיפוטר מיד. אמרו לו: ״איך אתה בכלל מעז להגיד שאנחנו דומים אליהם? אנחנו הרי העם הנבחר, אנחנו קורבנות נצחיים עם תעודת אחריות מהשמיים״, גולן חטף על הראש, הפסיד את הרמטכ"לות, וחזר הביתה.

עבר עשור בדיוק. עשר שנים שבהן התהליכים האלה כבר לא משהו שצריך משקפת של קצין מעוטר כדי לראות. הם הפכו לשלטי חוצות באיילון. ראינו מיליציות אלימות ברחובות שלנו, שרים שקוראים למחוק כפרים עם חיוך זחוח, שחיתות שהפכה לאידאולוגיה רשמית, ומערכת משפט שהפכה לשק החבטות של עבריינים בחליפות מעצבים שנוסעים לחו״ל על חשבוננו.

פתאום, הנאום ההוא כבר לא נשמע כמו נבואת זעם הזויה של איש צבא מודאג מדי, אלא כמו קריאת השכמה שפספסנו כי בדיוק העברנו ערוץ לריאליטי.

כל מילה שיצאה לו מהפה באותו ערב, מילה במילה, קפצה מהדף של נאום יום השואה והתיישבה לנו בסלון, עם רגליים מלוכלכות על השולחן, דורשת שנכין לה קפה שחור חזק וניתן לה ללחוץ בשלט על ערוץ 14.

היום, כשמסתכלים אחורה, מבינים שגולן אפילו היה אופטימי להחריד. הוא דיבר על ״תהליכים״, מילה איטית כזאת, כמו פקיד שדוחף טפסים בטאבו. הוא לא ידע שהתהליכים יקבלו נתיב תחבורה ציבורית פטור מפקקים ויסעו מאתיים ועשרים קמ״ש לתוך קיר המציאות. והם, הם עדיין כועסים עליו שהוא הרס את הטקס.

[Tal Kachman ✈️ somewhere @TalKachman]

Forgot about world class research. I am more proud of my group's world class slack #meme channel . @SamuelNellessen

[Tal Kachman ✈️ somewhere @TalKachman]

@tdhopper @astral_sh @charliermarsh @JaneStreetGroup SO sad this is going away into openAI :(

[Tal Kachman ✈️ somewhere @TalKachman]

@AlexGDimakis @claudeai Dang I missed that! Going to update ours as well
https://t.co/9hmbZ3rxQ1

[Gili Bisker @GiliBisker]

🚨 New paper alert! 🚨 Read our latest "Identification and quantification of irreversibility in stochastic systems", now published in Physical Chemistry Chemical Physics https://t.co/YaEsDUDYWu
@TelAvivUni @stem_program

[Tal Kachman ✈️ somewhere @TalKachman]

@CalcCon @MasExMachina @ylecun Wait where was that ?!!

[Calc Consulting @CalcCon]

Why I got back into research a decade ago: I read the 2015 “neural nets = spin glasses” paper by @ylecun, "The Loss Surfaces of Multilayer Networks". 𝐓𝐡𝐢𝐬 𝐢𝐬 𝐭𝐡𝐞 𝐰𝐨𝐫𝐬𝐭 𝐀𝐈 𝐭𝐡𝐞𝐨𝐫𝐲 𝐩𝐚𝐩𝐞𝐫 𝐢𝐧 𝐡𝐢𝐬𝐭𝐨𝐫𝐲.

It’s bad enough to not properly cite @SchmidhuberAI ; JEPA might actually be useful.

This work has misled the field for a decade.

Back in 2015, I was having coffee with my late PhD advisor Karl Freed (postdoc with Sam Edwards, who invented spin glasses!) while he was visiting SF. Karl was advising John Jumper at the time, who, less than 10 years later, won the Nobel Prize for AlphaFold in 2024.

We were discussing John's thesis work, and some of the early, overly simplistic generalized spin glass models of protein folding.

Karl remarked to me how Edwards was actually disappointed that no one followed his other work, and that so many people used spin-glasses in totally inappropriate ways. And that’s putting it kindly.

So what’s so bad about this 2015 spin-glass paper by LeCun ?

The paper naively modeled a toy feedforward net as a Gaussian spin glass. Specifically, a Gaussian p-spin spherical spin glass Hamiltonian (via the CLT on randomized , etc.). They just assumed independence + uniformity + redundancy, then forced the loss to look like what felt like a good story.

But it never checked the core assumptions. And anyone who actually knows start mech also knows that there are a wide range of spin glass models. Small changes in the disorder distribution (Gaussian vs heavy-tailed Lévy couplings) completely alter the landscape, critical points, and minima structure.

Importantly, strongly correlated systems can live in a completely different universality class from random Gaussian objects! This is elementary disordered systems physics (Bouchaud, Galluccio et al., late 90s).

The paper skipped that homework entirely. It told a good story. But it was more politics than science.

It’s one thing to be a misinformed idiot (his words, not mine)....It’s far worse to slap your name on a paper outside your depth, promote it as serious theory, and make the whole field dumber.

I guess I should thank @ylecun. Back then, I was a scientific advisor to Larry Page’s family and had some free cycles.

I realized I could do better work than this in my spare time, and with no funding. Science self-corrects slowly.

Stay tuned while I explain the difference between @ylecun politicking and the actual theory behind why AI works.