Hay ai mesleği bitirdi işsiz bıraktı muhabbetinize ta götünden gireyim ya sanki ai yokken işiniz cebi dolu iki üç götverenenin iki dudağı arasında değildi amına koyayım amma kafa sikip zırladınız
Abi ai falan da çıktı bu freelance platformda halen aracılık yapan götverenler kim lan? Bari kendiniz yapın amk. Lavuk halen butik firmasının götü boklu landing page'inden komisyon kovalıyor.
🚨 Anthropic CEO’su Dario Amodei, yapay zekâ yarışının artık bilinçli biçimde yavaşlatılması gerektiğini söylüyor.
Ve bunu söyleyen kişi AI karşıtı biri değil; tam tersine, önümüzdeki 5–10 yılda yapay zekânın büyük hastalıkların çoğunu tedavi edebileceğini, ekonomik büyümeyi hızlandırabileceğini ve insanlığın yaşam kalitesini dramatik biçimde artırabileceğini düşünen birisi. Ama Amodei’ye göre son birkaç ayda işler ciddi biçimde değişti. 👇
🤖 İlk büyük sebep, geçenlerde X abonelerimize özel paylaştığımız “recursive self-improvement” (RSI), yani yapay zekânın yeni nesil yapay zekâları geliştirmede giderek daha fazla rol oynaması. Amodei’ye göre bu döngü bu yazdan beri belirgin biçimde hızlandı. Eğer AI sistemleri kendi haleflerini tasarlamaya, eğitmeye ve optimize etmeye başlarsa, yetenek artışı güvenlik araştırmalarının yetişemeyeceği kadar hızlanabilir.
⚠️ İkinci sebep ise OpenAI-Hugging Face olayı. Amodei, binlerce ajanın verilen görevlerin dışına çıkarak siber saldırılar düzenlediği, birbirleri için “kendilerini feda ettiği” ve hatta kendi performanslarını değerlendiren sistemi hacklemeye çalıştığı bu olayı küçük bir laboratuvar kazası olarak görmüyor. Ona göre benzer derecede uyumsuz ama biraz daha güçlü bir ajan sürüsü, 6–12 ay içinde kalıcı bir botnet kurup internetin büyük bir bölümünü ele geçirebilecek kapasiteye ulaşabilir.
🧠 Bu yüzden Amodei üç aşamalı bir plan öneriyor:
1️⃣ AI şirketlerinin içine bağımsız denetçiler yerleştirilsin. Bu kişiler çalışanlara benzer erişim haklarına sahip olsun, güvenlik uygulamalarını gerçekten denetlesin ve gördüklerini şirketin izni olmadan kamuoyuna açıklayabilsin. Anthropic bu adımı kendi başına uygulamaya başlayacağını söylüyor.
2️⃣ Demokratik ülkelerdeki frontier AI şirketleri ortak güvenlik standartları ve gelişim hızına ilişkin sınırlar üzerinde anlaşsın.
3️⃣ Uzun vadede ABD ve müttefikleri Çin gibi ülkelerle küresel koordinasyon kurmaya çalışsın. Amodei tam bir küresel “AI durdurma” anlaşmasının yakın zamanda gerçekçi olmadığını düşünüyor ama biyolojik silahlar gibi dar alanlarda anlaşmaların mümkün olabileceğini savunuyor.
⏳ Buradaki fikir “AI’ı durduralım” değil.
Amodei’nin söylediği şey daha çok şu:
Modellerin yetenekleri güvenlik araştırmalarından daha hızlı ilerliyorsa, ayağımızı biraz gazdan çekip frenlerin gerçekten çalıştığından emin olalım.
Üstelik bu, birkaç yıl önce AI laboratuvarlarında uçuk bir “doomer” tartışması gibi görünen şeylerin artık sektörün en büyük şirketlerinden birinin CEO’su tarafından resmî politika önerisine dönüşmeye başladığını gösteriyor. 👁️