> llms cannot take your job yet
> brain rot short form does not exist
> stock market isn’t red anymore
> bitcoin is above $100k
> 2021 job market
all at once, peace
Bugün language modellerin yani bildiğimiz chat-gpt, gemini vb. modellerin aslında birebir ve tersine çevrilebilir olduğu gerçeğini öğrendik.
Bu ne demek oluyor tam anlamıyla yani girdiğimiz promptları aslında model tarafından eşsiz bir temsile sahip olduğunu ve bu temsillerin geri çevrilebilir olduğunu kanıtlamışlar.
Örneğin elimizde iki adet Prompt olsun.
Prompt A = "Kedim bu sabah mamasını yemedi."
Prompt B = "Kedim dün sabah mamasını yemedi."
Bu iki promptu normalde modellerin bu iki cümle arasında bir fark bulamayacağını daha doğrusu neredeyse aynı "gizli durum" (hidden state) ile temsil edileceğini düşünürdük.
Makalenin kanıtladığı şey ise her bir girdinin (propmtun) aslında benzersiz bir parmak izine sahip olduğudur.
Bununla da kalmayıp SIPIT adında bir algoritma geliştirmişler.
Bir modelin herhangi bir katmanındaki gizli durum dizisini alıyor ve orijinal girdi metnini token token, hatasız (%100 doğrulukla) bir şekilde yeniden inşa ediyor.
Peki bu ne anlama geliyor?
Örneğin OPENAI diyor ki:
"Gizliliğiniz güvende. Biz sizin yazdığınız aptal promptlarınızı ve chat geçmişlerinizi asla saklamıyoruz. Biz sadece sistemin çalışması için gereken o anlamsız A-91-B-33-C-78 kodlarını saklıyoruz."
Ama artık biliyoruz ki bir modelin içindeki "gizli durum" (hidden state) vektörleri, verinin soyut bir özeti değil, girdinin birebir, kayıpsız ve tersine çevrilebilir bir kodlamasıdır.
Ancak artık biliyoruz ki o "anlamsız" kodu saklıyorlarsa, bu, sizin orijinal mesajınızı saklıyorlar demektir. Çünkü o kod, mesajınızın sadece kılık değiştirmiş halidir ve istendiği an orijinaline geri döndürülebilir.
Yani verilerimiz eskiden olduğu gibi hala güvende değil ve apaçık ortada kalmaya devam ediyor.
Umarım faydalı bir okuma olmuştur.
Makalenin linki : https://t.co/mdGQyLHYOv
@yenidenfurkan@oozn Bu tren kovalanmaz ben de çok düşündüm app patlasın bir şey olsun diye ama para kazanmak için yapılacak iş değil gibi daha çok gönül eğlendiriyorsun ama yine de zevkli