MathProgThink

Mathematician, Programmer, Thinker

[Ren @FakeMaidenMaker]

🪄 又发现一个让 AI 辅助写论文的开源神器——AutoResearchClaw，chat 一个想法，给你一篇完整 NeurIPS / ICML / ICLR 格式的 paper

GitHub 1.2 万+ stars，有 arXiv 论文（2605.20025）背书，UNC 北卡罗来纳大学 AIMING Lab 出品。

核心是一条 23 个步骤的全自动工作流：
从你的一句话 idea 出发，自动去 OpenAlex / Semantic Scholar / arXiv 检索真实文献（4 层 citation verification，arXiv / CrossRef / DataCite / LLM 四道核查拒绝幻觉引用），
再跑实验设计、沙箱执行（自动检测 GPU / MPS / CPU），
最后吐出 paper_draft.md + paper.tex（NeurIPS / ICML / ICLR 模板）+ references.bib + verification_report.json + charts + reviews.md 一整套。

自学习这块也做进去了：PIVOT / REFINE 循环让 pipeline 在 Stage 15 自主决定继续推进还是换方向，跨 run 的 MetaClaw 机制从每次失败里抽取 lessons 存起来复用，实测 +18.3% robustness。

学术圈 AI agent 的成熟形态：不只是写文献综述，是从 idea 跑到 LaTeX 终稿，23 步全给你跑完。

GitHub：https://t.co/RQiVYrlNLz

[DeepTechTR 🇹🇷 @DeepTechTR]

Müthiş Repo 🚨 Bilimsel araştırmanın eşiği tamamen yeniden tanımlanıyor!

Daha önce araştırma yapmak şunları içeriyordu: gece boyu makaleleri ezberlemek, sonsuz kod çalıştırmaları ve bir haftalık inceleme makaleleri okumak.

Şimdi: tek bir komut yeterli.

Açık kaynaklı yapay zeka ajanı Feynman, doktora düzeyindeki araştırma sürecini otomatikleştiriyor:

Tek bir komutla derinlemesine arXiv araştırması, literatür taraması ve kod doğrulaması tamamlanabilir.

Dört akıllı ajan (Araştırmacı + İnceleyici + Yazar + Doğrulayıcı) neredeyse hiçbir yanılsama olmadan birlikte çalışır.

Eksiksiz alıntılar ve akran değerlendirme kalitesiyle araştırma özetleri oluşturur.

Makale denetimi, kod yeniden üretimi ve sürekli konu takibini destekler.

Yerel öncelikli, tamamen açık kaynaklı, Ollama gibi yerel modelleri destekleyerek verilerin bilgisayarınızda kalmasını sağlar.

İster araştırmacı, ister geliştirici, ister öğrenci olun,

bu araç tekrarlayan görevleri yapay zekaya devrederek gerçekten yaratıcı yönlere odaklanmanızı sağlar.

Araştırma verimliliğinin hızla arttığı dönem geldi!

[Xudong Han @Xudong07452910]

AutoResearch AI 这论文挺值得看的。

它讲的不是“AI 帮你总结论文”这种单点能力，而是一个更大的趋势：科研正在从 task-level AI，走向 workflow-level AI。

也就是说，AI 以后不只是帮你查文献、写代码、润色论文，而是可能参与完整科研流程：读文献、找问题、提假设、设计实验、调用工具跑实验、验证结果、写报告、再根据反馈修改。

论文里有个概念叫 Vibe Research，我觉得很形象：现在很多科研人其实已经在做了。人类给方向，AI 帮忙查、写、跑、改，最后人类负责判断和验证。

但作者也很清醒：真正的 AI 科学家还没到来。当前系统最大的问题不是会不会生成想法，而是证据能不能保存、实验能不能复现、弱方向能不能被及时拒绝、结论能不能追溯来源。

我觉得这篇文章最大的启发是：未来科研能力的竞争，可能不只是“谁会用 AI 写论文”，而是谁能搭出一套可靠的 AI research workflow。

AI for Science 的下一步，不是更会聊天的科研助手，而是更可验证、更可复现、更能闭环的科研工作流。

https://t.co/prnPUiBckS
#AIforScience #AutoResearch #Codex #claudecode

[Math Cafe @Riazi_Cafe_en]

Advanced Linear and Matrix Algebra
by Nathaniel Johnston

link: https://t.co/84TkhWFTjr

[𝗿𝗮𝗺𝗮𝗸𝗿𝘂𝘀𝗵𝗻𝗮— 𝗲/𝗮𝗰𝗰 @techwith_ram]

What if an AI could update its belief... every time it sees new evidence?

That concept behind it is called Bayes’ Theorem.

At first, it may look like just another probability formula. But in reality, it is one of the most important ideas behind intelligent decision-making. Don't get scared. It's easy to understand...

Bayes’ Theorem helps us answer a simple question:

“How should we change our prediction when new information arrives?”

Imagine a medical test.

A person tests positive for a disease.
Does that definitely mean the person is sick?

Not necessarily.

Bayes’ Theorem Works With:

- prior belief
- new evidence
- probability of correctness
to calculate a more realistic answer.

That is what makes it powerful.

It does not blindly trust new data. It updates belief step-by-step. You can think of it as learning from evidence.

And that idea appears everywhere in AI & machine learning.

For example:
- Spam filters use Bayesian probability
- Recommendation systems
- Self-driving systems continuously update - environmental understanding
- Medical AI models revise diagnosis probabilities
- LLMs also work through probabilistic prediction mechanisms underneath

The interesting part is this:

Intelligence is often not about being 100% certain. It is about updating beliefs correctly when new information appears.

Step-by-step intuition:
- Start with an initial belief
- Observe new evidence
- Measure how likely that evidence is
- Update the belief mathematically
- Repeat continuously as more data arrives

Thomas Bayes introduced this idea centuries ago. But today, modern AI systems silently depend on this way of thinking every second.

Sometimes the smartest systems are not the ones that “know” everything.

They are the ones that continuously learn from uncertainty.

[Juan @7uanF]

Encontré un repo que básicamente automatiza todo el ciclo de investigación académica con Claude, desde buscar papers hasta entregar el documento final revisado. Para los que escriben mucho, esto ahorra un montón de tiempo

[yusuf kaplan @yenisafakwriter]

Yapay Zekâ’nın babası Geoffrey Hinton’dan 47 dakika süren muhteşem bir ders.

Uyarı, insanı uyutmayacak bir uyarı:

“Eğer bu dersi gerçekten anladıysanız, bu gece rahat uyuyamayabilirsiniz.”

Türkçe altyazılı. Ücretsiz.

@mtokurumsal

[DeepTechTR 🇹🇷 @DeepTechTR]

🚨 Bu hafta GitHub’da AI kategorisinde patlama yapan 10 inanılmaz repo: 🫪👇

1. **codegraph**
Kod tabanınızın tamamını önceden haritalandırarak AI coding ajanlarına çok daha akıllı talimat vermenizi sağlayan güçlü bir araç. Tamamen yerel çalışıyor.
🔗 https://t.co/YG6gczGLfj

2. **openhuman**
Kendi kişisel hafızanızı ve notlarınızı yerel olarak saklayan, Gmail, Notion, Slack gibi 118+ servisle entegre çalışan özel AI asistan altyapısı.
🔗 https://t.co/wl47qcbOQ6

3. **academic-research-skills**
Claude Code için geliştirilmiş akademik araştırma, yazım, inceleme ve revizyon sürecini baştan sona yöneten kapsamlı skill seti. Uzun form içerik üretenler için çok değerli.
🔗 https://t.co/k6PGzSQV85

4. **RuView**
WiFi sinyalleriyle bile insanın varlığını, nefes alıp verişini ve kalp atışını algılayabilen gizemli bir araç. Kamera gerekmeden, karanlıkta bile çalışıyor.
🔗 https://t.co/xZczJLpnL3

5. **agentmemory**
AI coding ajanlarına uzun süreli hafıza kazandıran araç. Birden fazla seansta önceki konuşmaları hatırlıyor ve bağlamı koruyor.
🔗 https://t.co/gliL8O5cxp

6. **supertonic**
Telefon veya bilgisayarda çalışan, 31 dil destekleyen son derece hızlı ve kaliteli yerel ses sentezi (TTS) aracı. Buluta hiçbir veri göndermiyor.
🔗 https://t.co/EF9IGEVKrc

7. **CloakBrowser**
AI ajanlarını bot tespit sistemlerinden gizleyen stealth Chromium tabanlı tarayıcı. Playwright ile sorunsuz entegre oluyor.
🔗 https://t.co/6AOMk7WTy8

8. **ViMax**
Tek bir ajanla yönetmen, senarist, prodüktör ve video üreticisi rollerini birleştiren tam donanımlı AI video üretim sistemi.
🔗 https://t.co/zNRgqw4Lns

9. **12-factor-agents**
LLM tabanlı ajanları üretim seviyesine taşımak için 12 kritik tasarım prensibi. Agent geliştiricilerinin başucu kaynağı.
🔗 https://t.co/H1V8gOmeIs

10. **bun**
JavaScript ve TypeScript için Node.js’in çok daha hızlı alternatifi. Paket yönetimi, çalıştırma ve testleri tek araçta topluyor.
🔗 https://t.co/DOsRk2a8Zu

Bu repoların her biri kendi alanında devrim yaratma potansiyeline sahip.

[DeepTechTR 🇹🇷 @DeepTechTR]

🚨 DEEPMIND’TEN MATEMATİK TARİHİNE GEÇECEK BÜYÜK ATILIM! 🫪

Yapay zekâ artık gerçek matematik araştırmalarında tarih yazıyor.

Google DeepMind ekibi, LLM tabanlı ajanlar ve Lean formal proof sistemiyle **9 yeni açık Erdős problemini** tamamen otonom olarak çözdü.

Nasıl başardılar?
- Ajanlar binlerce varyasyon ve yaklaşım üretiyor
- Lean ile her adım formal olarak doğrulanıyor
- Sadece geçerli ispatlar insan incelemesine gidiyor

Bu gelişme çok kritik:
✅ AI artık sadece olimpiyat soruları çözmüyor, gerçek araştırma seviyesinde açık problemleri hallediyor
✅ Maliyet çok düşük, sistem son derece güvenilir
✅ Kombinatoryal matematik, graf teorisi, optimizasyon gibi alanlarda aktif kullanılıyor

İnsan matematikçiler “yaratıcı” ve “büyük resmi gören” rolde kalırken, rutin ispat ve doğrulama işini AI ajanlar devralıyor.

Bu, AI’nin bilimsel keşif sürecine entegre olduğunun en somut örneği.

Sizce bu yaklaşım matematik araştırmalarını nasıl dönüştürecek?

[DeepTechTR 🇹🇷 @DeepTechTR]

🚨Akademi Çalışmaları için çok İyi bir Haber 💥

Claude Code ile akademik araştırma seviyesini ciddi şekilde yükseltmek isteyenler için çok güçlü bir repo! 💥

@Imbad0202’nin hazırladığı **academic-research-skills-codex**, literatür tarama, makale analizi, metodoloji oluşturma ve akademik yazım süreçlerini AI ile profesyonelce yönetmek için tasarlanmış.

Akademisyenler, yüksek lisans ve doktora öğrencileri için gerçekten faydalı bir kaynak.

🔗 GitHub: https://t.co/ilvTsNjW3P

Akademik çalışmalarda Claude Code kullanan var mı? Bu repo sizce ne kadar işe yarar? 👇

[DeepTechTR 🇹🇷 @DeepTechTR]

Muhteşem 10 Repo 🚨 Uyurken para basan 10 GitHub reposu 🫪👇

1. AutoHedge → https://t.co/HnLjx0eEfJ
(Otonom AI hedge fund)

2. Vibe-Trading → https://t.co/2GFHBVECSU
(Doğal dil ile trading stratejisi)

3. Claude Ads → https://t.co/L17La2929w
(Reklam optimizasyonu)

4. Toprank → https://t.co/wueaOlrkpk
(SEO + Google/Meta Ads)

5. Fincept Terminal → https://t.co/Gnm7Z4Go8y
(Profesyonel finans terminali)

6. Agentic Inbox → https://t.co/srCmixhdaX
(AI’li e-posta sistemi)

7. ClawRouter → https://t.co/wkRC4BVSjI
(Akıllı LLM router)

8. Camofox Browser → https://t.co/QMIJLCoDAF
(Anti-detect headless browser)

9. Open Higgsfield AI → https://t.co/GrKf4sVHGb
(AI video & görüntü stüdyosu)

10. Hyperframes → https://t.co/ArOctcFN1x
(HTML’den video render)

Bunlar gerçekten “set it and forget it” tarzı projeler.

Hangisini ilk deneyeceksin? 👇

[DeepTechTR 🇹🇷 @DeepTechTR]

🚨 Google’ın asla öne çıkarmak istemediği 50 gizli web sitesi!

Çoğu insan Google’ın ilk sayfasından öteye geçmez. Ama internetin asıl gücü burada:

1. https://t.co/qeJlNCT6yW → Herhangi bir haber sitesinin ödeme duvarını tek tıkla aş
2. https://t.co/DEUhLHJeiu → Milyonlarca ders kitabı ve akademik eser ücretsiz
3. https://t.co/s1J1sG0CK8 → Dünyanın en iyi araştırma makaleleri bedava
4. https://t.co/IYa0h5KHlY → Tam teşekküllü Photoshop, tarayıcıda ücretsiz
5. https://t.co/f1qfpoN0C8 → Fotoğraflardan arka planı 3 saniyede sil
6. https://t.co/zlUTuhhgfN → İnternetin Wayback Machine’i, her şeyin eski hali
7. https://t.co/Nfy1pL8asH → Matematik, fizik, kimya… anında çözüm
8. https://t.co/vjB7rb3uXd → E-postan hacklendi mi kontrol et
9. https://t.co/W0JzF0lYhX → Okunduktan sonra kendini imha eden mesaj
10. https://t.co/QlIsHT88qM → AI destekli akademik araştırma asistanı

11-50 arası da en az bunlar kadar güçlü:
• https://t.co/W5QDMt2gRJ → Bilimsel konularda uzlaşılan cevapları göster
• https://t.co/NTZIBx7gq8 → Araştırma makalelerini görsel harita olarak sun
• https://t.co/FmxdirbEoB → En gelişmiş yer imi ve koleksiyon yöneticisi
• https://t.co/oRDGHaYeSw → Kişiye özel odaklanma ve rahatlama sesleri
• https://t.co/E30I02cXZX → Dizilerde çalan şarkıları bul
• https://t.co/mLwKF95cmw & https://t.co/Lnh2cACUei → PDF’leri ücretsiz düzenle, birleştir, böl

Ve daha nice araç…

İnternet, Google’ın bize gösterdiğinden çok daha büyük ve özgür.

Bu listeden en çok hangisini kullanacaksın ya da şu ana kadar en çok işine yarayan hangisiydi? Yorumlara yaz, birlikte keşfedelim 👇

[Jia-Bin Huang @jbhuang0604]

Modern Transformer - Complete Guide

Interested in learning the recent advances in transformers?

After 13 videos, I've finally completed this series!
🥳🥳🥳

Check out the course here:
https://t.co/CsujxlWigC

[DeepTechTR 🇹🇷 @DeepTechTR]

Claude'a komutlarda NE YAPMAMASI gerektiğini söylemeyi bırakın.

İşte 4.7'de çalışan tek komut formatı:

"[Eylem fiili] [tam görev]. Uzunluk: [büyük harf]. Biçim: [yapı]. Ton: [3 kelime]. Temellerin ötesine geçin."

İşte bu kadar. Ama önce bunu ayarlamanız gerekiyor. İşte nasıl yapılır:

Adım 1. Claude'u açın. Opus 4.7 modelini seçin.

Adım 2. Uyarlanabilir düşünmeyi açın.

Adım 3. https://t.co/6x0iZxorBk adresine gidin.

Adım 4. Ücretsiz abone olun. Hoş geldiniz e-postamı açın.

Adım 5. İçerideki otomatik yanıt düğmesine basın.

Adım 6. ANTI AI WRITING STYLE .md dosyasını indirin.

Adım 7. Claude'a yükleyin. Yukarıdaki formatı kullanın. Komutun sonuna şunu ekleyin: "Yanıtlamadan önce düşünün (maksimum mantık yürütme)."

Claude'un cevabından sonra şu talimatı verin:

"Metninizi yapay zeka karşıtı yazım stili dosyasını kullanarak denetleyin. Kuralları ihlal eden her şeyi yeniden yazın."

✦ İşte talimatlarınızın neden işe yaramadığı (kırmızı bayraklar):

"Teknik terim kullanmayın."

"Yapay zeka gibi konuşmayın."

"Uzun tire kullanmayın."

"Moda terimlerinden kaçının."

"Robotik değil, konuşma dili kullanın."

Bunlar Claude 4.6'da işe yaradı. 4.7'de bozuluyorlar.

Talimatınızda "yapmayın" 14 kez geçiyor. Claude 4.7 her birini kelimesi kelimesine okuyor.

Çözüm sezgisel değil.

Claude 4.7'ye neyden kaçınması gerektiğini söylemeyi bırakın.

Tam olarak ne istediğinizi söyleyin.

"Uzunluk: 200 kelime" "kısa tutun"dan daha iyidir.

"Ton: kendinden emin, spesifik" ifadesi "robotik olma" ifadesinden daha iyidir.

"16 yaşındaki birinin okuduğu İngilizce" ifadesi, on beş "yapma" ifadesinden daha iyidir.

500 kelimelik olumsuz metin → robotik, kelimesi kelimesine çıktı.

40 kelimelik olumlu metin → bir insan tarafından yazılmış gibi.

Tam metin kılavuzuma buradan ulaşabilirsiniz: https://t.co/z67sWA6Nnp

♻️ Başkalarının 2025'miş gibi metin yazmayı bırakması için lütfen paylaşın.

[DeepTechTR 🇹🇷 @DeepTechTR]

ScienceClaw — 285 Araştırma Becerisini Entegre Eden Bir Yapay Zeka Asistanı Çerçevesi

ScienceClaw, tüm araştırma sürecini 285 beceriye entegre eden bir çerçevedir. PubMed, Semantic Scholar ve ArXiv entegre edilmiştir ve LLM tarafından çağrılabilir.

Temel Yetenekler:
Çok Kaynaklı Literatür Taraması: PubMed + Semantic Scholar + ArXiv + Google Scholar
Makale Derinlemesine Analizi: Bölümlere göre yöntemleri, sonuçları ve sınırlamaları çıkarma
Atıf Ağı Analizi: Temel referansları belirleme ve akademik soy ağacını izleme
Deneysel Tasarım Desteği: Araştırma sorularına dayalı istatistiksel yöntemler önerme
Yazma Desteği: Özet düzeltme ve otomatik giriş oluşturma

Uzun vadeli araştırma projeleri üstlenen ileri düzey kullanıcılar ve derinlemesine özelleştirilmiş bir yapay zeka asistanı isteyenler için uygundur. Hafif ihtiyaçlar için ArXiv MCP yeterlidir.

https://t.co/ghpO0eX8TK

[DeepTechTR 🇹🇷 @DeepTechTR]

🚨 Akademik araştırmalarda yapay zeka kullanımı yeni bir seviyeye taşındı!

Artık sadece basit prompt yazmak değil; Claude ve OpenAI modellerini gerçek akademik iş akışlarına entegre etmek mümkün.

Doç. Dr. Mehmet Songur’un paylaştığı bu rehber, literatür tarama, veri analizi, makale yazımı ve araştırma metodolojisi gibi kritik adımları AI ile profesyonelce yönetmek isteyenler için hazırlanmış.

🔗 GitHub: https://t.co/k6PGzSQV85

Akademisyenler ve araştırmacılar, bu codex’i mutlaka inceleyin. Sizce AI akademik üretkenliği ne kadar dönüştürecek? 👇

[Girişimci Hisler @girisimcihisler]

STANFORD'DA BİLGİSAYARLARI KAPATTIRAN O CÜMLE

Efsanevi yapay zeka profesörü Andrew Ng, Stanford'daki dersine şu sözle başladı ve sınıftaki öğrencilerin yarısı bilgisayarını kapattı:

“Önümüzdeki 10 yılda kazananları kaybedenlerden ayıracak yeteneğin, iyi kod yazmakla hiçbir ilgisi yok.”

Neden mi? Çünkü yapay zeka sayesinde artık herkesin sınırsız bir üretim gücü var. Günümüzde darboğaz "nasıl yapılacağı" değil, "neyin yapılmaya değer olduğu." Yanlış bir problemi kusursuzca kodlayanlar, doğru problemi yarım yamalak çözenlerin tozunu yutacak.

Peki neyin yapılmaya değer olduğunu nasıl bulacağız? Andrew Ng'nin bunun için "Acımasız 3 Adımlı Filtresi" var:

• 1. Filtre: Gerçekten kimin umurunda? Sadece size "havalı" gelen projelere aşık olmayın. İnsanların para ödeyeceği veya her gün kullanacağı gerçek bir dert çözüyor musunuz?

• 2. Filtre: Yapay zeka buna tek atabilir mi? Sıradan bir chat botuna yazılacak tek bir komutla (prompt) çözülebilen bir işe vakit kaybetmeyin. Asıl değer; yapay zeka ile sizin sektörel bilginizin ve özel verilerinizin kesiştiği yerdedir.

• 3. Filtre: 7 günde yayına alabilir misin? (En önemlisi) Altı ay gizlice "mükemmel" ürünü geliştirmeye çalışanlar her zaman kaybeder. Geleceğin kazananları; utanç verici, çirkin ama "çalışan" bir versiyonu hızla piyasaya sürüp eleştirilerle büyüyenlerdir.

Mükemmeliyetçiliği unutun. Şu anki oyunun kazananları en temiz kodu yazanlar değil; doğru problemi bulup, rakipleri daha düşünme aşamasındayken o "çirkin" ilk versiyonu çoktan piyasaya sürenlerdir.

[DeepTechTR 🇹🇷 @DeepTechTR]

Yeni araştırma 🚨 İnsan beyni 🧠 inanılmaz derecede verimlidir çünkü yalnızca bir düşünce için gerekli olan belirli nöronları aktive eder. Modern LLM'ler de doğal olarak bunu yapmaya çalışır (> herhangi bir kelime için ileri besleme katmanlarındaki nöronların %95'inden fazlası sessiz kalır), ancak donanımımız bunu cezalandırır.

Derin öğrenmedeki en sinir bozucu paradokslardan biri: bir modelin daha az matematik yapması genellikle daha yavaş çalışmasına neden olur. Neden? Çünkü yapılandırılmamış seyreklik düzensiz bellek erişimine yol açar ve GPU'lar tahmin edilebilir, yoğun matematik blokları için tasarlanmıştır.

Bu donanım uyumsuzluğunu düzeltmek için @NVIDIA ile iş birliği yaptık. GPU'yu seyrekliğe uyum sağlamaya zorlamak yerine, seyrekliği GPU'ya uyacak şekilde yeniden şekillendiren bir "Hibrit" format oluşturduk. Seyreklik formatımız (TwELL), yüksek oranda seyrek belirteçlerin %99'unu dinamik olarak hızlı bir yoldan yönlendirir ve nadir, ağır belirteçler için bir güvenlik valfi olarak yoğun bir yedek matris kullanır.

TwELL ve hem LLM çıkarımı hem de eğitimi için yeni bir özel CUDA çekirdek seti sayesinde, teorik seyrekliği gerçek duvar saati hızlanmalarına dönüştürdük: H100 GPU'larda %20'den fazla daha hızlı eğitim ve çıkarım sağlarken, enerji tüketimini ve bellek gereksinimlerini de azalttık.

Makale: https://t.co/b7L6OjASdl
Blog: https://t.co/CKlQ2Q8ZiS
Kod: https://t.co/IjafkiQdqT
⚡️

[DeepTechTR 🇹🇷 @DeepTechTR]

TÜM YAPAY ZEKÂ SEKTÖRÜ REZİL OLDU

Tek bir grafik kartında birkaç saat içinde eğitilen küçük bir model, milyar dolarlık süper bilgisayarlardan 48 kat daha hızlı planlama yapıyor.

Sadece kalıpları ezberlemek yerine fiziği gerçekten anlıyor.

Yann LeCun her zaman haklıydı.

Üç yıl boyunca her büyük laboratuvar size aynı hikayeyi anlattı: Ölçeklendirme yeterli. Daha fazla GPU ekleyin. Daha fazla token üzerinde eğitin. Sonunda model "uyanacak" ve dünyayı anlayacak.

Bu bir yalandı. Ya da en azından, kaybedilen çok pahalı bir bahisti.

LeCun, üretken yapay zekânın çıkmaz sokak olduğunu söylemeye devam etti. Bir sonraki pikseli veya bir sonraki tokeni tahmin etmek temelde israftır; model, gerçekliğin nasıl işlediğini öğrenmek yerine yüzeysel ayrıntıları ezberleyerek trilyonlarca parametre harcar.

Bunun yerine JEPA'yı önerdi: Sıkıştırılmış bir düşünce alanında soyut kavramları tahmin edin. Dünyayı piksel piksel boyamayın, anlayın.

Sorun, JEPA'nın sürekli çökmesiydi. Kendi haline bırakıldığında model hile yapıyordu; bir köpeği, bir arabayı ve bir insanı latent uzayda aynı noktaya eşliyordu. Teknik olarak kaybı en aza indiriyordu, ancak kesinlikle hiçbir şey öğrenmiyordu.

Her düzeltme çirkin bir şekilde yapıldı. Yedi kayıp terimi. Dondurulmuş kodlayıcılar. EMA hileleri. Durdurma gradyanları. Kırmızı bayrak olması gereken türden geçici çözümler.

Sonra LeCun'un ekibi LeWorldModel'i bıraktı.

Tüm hileleri, latent uzayı Gauss dağılımına zorlayan tek bir düzenleyiciyle değiştirdiler. Model artık hile yapamaz. Doğru tahminler yapmak için fiziği gerçekten kodlaması gerekiyor.

15 milyon parametre. Tek GPU. Saatler içinde eğitiliyor.
Foundation World Models'den 48 kat daha hızlı planlama yapıyor.
Fiziksel olarak imkansız olayları kendi başına tespit ediyor.

Bu arada OpenAI, Manhattan büyüklüğünde bir veri merkezinde GPT-6'yı eğitmek için 40 milyar dolar daha topluyor.

Ölçeklendirme tezinin tamamı, bir oyun bilgisayarına sığan bir model karşısında rezil oldu.