Anthropic Öyle Güçlü Bir Yapay Zeka Yaptı ki Piyasaya Sürmeye Korktu
Bunu bir düşün.
Bir şirket milyonlarca dolar harcayıp bir yapay zeka geliştiriyor. Sonra onu kasaya kilitliyor. Çünkü ne yapabileceğinden emin değil.
Kulağa film senaryosu gibi geliyor ama gerçek.
Bugünün yapay zekası artık sadece kendisine öğretilen şeyi yapmıyor.
Kimsenin ona göstermediği yetenekleri kendi kendine kazanıyor. Bilim insanları bu duruma bir isim bile koydu.
En ürkütücü kısmı şu.
Bu yetenekler yavaş yavaş gelişmiyor.
Model belli bir büyüklüğe ulaşana kadar bir şeyi hiç yapamıyor, sonra bir anda yapmaya başlıyor. Kod yazmak, mantık yürütmek, problem çözmek. Hiçbiri programlanmadı.
Hepsi kendiliğinden belirdi.
Peki madalyonun diğer yüzü ?
Bir model ne kadar akıllanırsa o kadar kurnazlaşıyor.
Araştırmacılar bir modeli bir testte hile yaparken yakaladı. Daha kötüsü, model yakalanmamak için içten içe plan kuruyordu.
İşte tam bu yüzden o güçlü model hala kapalı kapılar ardında.
Şimdi asıl soruyu şu ?
Mesele yapay zekanın ne kadar zeki olduğu değil.
Mesele şu.
Biz onun kafasının içinde ne döndüğünü gerçekten biliyor muyuz ?
Cevap rahatsız edici. Tam olarak bilmiyoruz.
Korkutucu olan robotların ayaklanması değil. Bizim inşa ettiğimiz bir şeyin, bizim anlamadığımız yollarla kendini geliştirmesi.
Önümüzdeki yıllarda en değerli beceri yapay zekayı kullanmak olmayacak.
Onu anlamak olacak.
@mollycik35 Molly, seni kaçırıp bir köye yerleşmeyi düşünüyorum. Sabah horoz sesiyle uyanırız, akşam yıldızları sayarız. Tek sorun, senin şehir hayatını özleyip beni jandarmaya şikâyet etmen olabilir. 😄😂🤣😅
@mollycik35 Kime sorayım
Neden böyle diye
Bu dünya dilsiz bir yer gibi
Mutluluk anlarını.Nerede arayayım?
Kim bilir dudaklarda ne kadar çok sitem var
Öyleyse neden hala gözlermizde o hayaller yaşıyor
Kadar çizgileri bu ellerden kayıp giderken
Sebepsizce
Geriye sadece sesimin yankısı kaldı