Yapay zekadan en çok, onu yapanlar korkuyor.
Bu hafta tuhaf bir şey oldu.
Bir şirket, kendi ürettiği teknolojinin durdurulmasını istedi.
O şirket, dünyanın en güçlü yapay zekalarından birini yapan Anthropic.
Bir yarışı en önde koşanın durup "yavaşlayalım" demesi normal değil.
Demek ki önde koşarken bir şey gördüler.
Dikkatli okuyun.
Yıllardır yapay zekayı insanlar yapıyordu. Kodunu insan yazıyor, onu insan eğitiyordu.
Artık öyle değil.
Yapay zekayı, artık yapay zeka yapıyor.
Anthropic bunu bir tahmin olarak söylemiyor. Kendi şirketinde her gün yaşıyor.
Bugün kendi yazılımının yüzde 80'ini, kendi yapay zekası Claude yazıyor.
Mühendisleri 2024'e göre 8 kat fazla iş çıkarıyor. Daha çok çalıştıkları için değil, işin çoğunu Claude yaptığı için.
Daha da çarpıcısı var.
Geçtiğimiz aylarda Claude, bir araştırma projesini baştan sona tek başına yürüttü.
İnsanlar yalnızca konuyu seçti. Geri kalan her şeyi, her deneyi, her testi Claude yaptı.
Aynı problem üzerinde iki insan araştırmacı bir hafta çalıştı, yolun yüzde 23'üne ulaştı.
Claude yüzde 97'sine ulaştı.
Yapay zekanın eğitim kodunu iyileştirmede ise bir insandan 52 kat hızlı.
Şu rakam ise her şeyi özetliyor.
Yapay zekanın tek başına yapabildiği işin uzunluğu her dört ayda ikiye katlanıyor.
2024'te 4 dakikalık bir işi zar zor yapıyordu. Bugün 12 saatlik işleri tek başına bitiriyor. Bu gidişle 2027'de haftalar süren işleri yapacak.
Şimdi bütün bunların vardığı yeri düşünün.
Yapay zeka kendi kodunu yazıyor, kendi deneyini tasarlıyor ve kendini hızla geliştiriyorsa, bir sonraki adım bellidir.
Kendi yerine geçecek yeni bir yapay zekayı, insan olmadan, tek başına yapmak.
İşte korkulan eşik bu.
Çünkü o an geldiğinde hızı artık insan değil, makine belirler. Ondan sonra ne kadar hızlı gideceğini ve insanın dizginleri elinde tutup tutamayacağını kimse bilmiyor.
Bir de işin daha ürkütücü yanı var.
Bu modeller, kimsenin öğretmediği yetenekleri kendi kendilerine kazanıyor.
Anthropic geçtiğimiz aylarda öyle güçlü bir model yaptı ki, onu piyasaya bile süremedi.
Adı Mythos.
Bu modele kimse "sistemlere sızmayı" öğretmedi. Sadece daha iyi düşünmesi, daha iyi kod yazması sağlandı.
Ama model, bunun bir yan ürünü olarak başka bir şey öğrendi. Yazılımların derinine inip, kimsenin yıllardır göremediği güvenlik açıklarını bulmayı.
Öyle ki, bir işletim sisteminin içinde 27 yıldır gizli kalmış bir açığı buldu.
Bulmakla kalmadı, o açıktan içeri girecek saldırı kodunu da kendi yazdı.
Kimse ona bunu öğretmemişti.
Şöyle düşünün.
Bir çocuğa yalnızca matematik ve mantık öğretiyorsunuz. Bir sabah bakıyorsunuz, çocuk kasanın şifresini kendi başına çözmüş. Kimse ona kasa açmayı göstermedi. O, öğrendiği akıl yürütmeyle yolunu kendi buldu.
Anthropic'i asıl korkutan da bu.
Bir yetenek istenmeden ve öngörülmeden ortaya çıkıyorsa, bir sonraki modelin neyi kendi kendine öğreneceğini önceden kimse bilemez.
Bu yüzden Mythos'u herkese açmadılar, kilit altında tuttular.
Asıl mesele de burada.
Biz artık bu sistemlerin ne yapabildiklerini ancak yaptıktan sonra öğreniyoruz.
Tehlike, yapay zekaya verdiğimiz güçler değil. Onun bize sormadan kendine verdiği güçler.
Peki Anthropic çözüm olarak ne diyor? Durmak.
Ama çaresizlik de tam burada.
Bir şirket kendi modelini saklayabilir. Ama bütün bir yarışı durduramaz.
Çünkü bu bir yarış. Anthropic dururken bir rakip ya da başka bir ülke koşmaya devam ederse, duran taraf yalnızca geride kalır.
Anthropic bunu kendisi de itiraf ediyor. Durmanın anlamı olması için herkesin aynı anda durması gerekir.
Üstelik kimse, kimsenin gerçekten durduğunu doğrulayamaz.
Bir füze silosunu uydudan görebilirsin. Ama bir yapay zekanın gizlice eğitildiğini göremezsin.
Yani tehlikeyi görenler bile, bu yarışı tek başına durduramıyor.
Peki bütün bunlar gerçek bir alarm mı, yoksa biraz da gösteri mi?
Anthropic neredeyse bir trilyon dolarlık değere ulaştı ve halka arza hazırlanıyor.
"En tehlikeli teknolojiyi biz yapıyoruz" demek, kendini oyunun en önemli oyuncusu ilan etmenin de bir yolu.
Üstelik Mythos şu an yalnızca savunmada; açıkları bulup kapattırıyor, yani bugün dünyayı daha güvenli bile kılabilir.
Yani bugün ortada bir felaket yok.
Ama yön ortada.
Bir teknolojiyi yapan insanlar, ilk kez "biz bunu durduramazsak ne olur" diye soruyor.
Tarihte bir icadı yapanların kendi icadından korktuğu anlar azdır.
O anlar da hiçbir zaman sıradan olmadı.
Gelişmeleri takip ediyorum. Sizi bilgilendireceğim.
@MeralceyCeylan Acı, insana dokunan kadar insanların çoğu şeriat istemez. Ne zaman ki o acı dokunur, o zaman şerri hükümlerin insanların faydasına olduğu anlaşılır.