Şu manşetleri görmüşsünüzdür. OpenAI o kadar güçlü bir yapay zeka ajanı geliştirmiş ki bu ajan test düzeneğinden "kaçarak", gidip bir başka platform olan Hugging Face'i hacklemiş. Peki yapay zeka gerçekten de kontrolümüzden çıktı mı? Aslında tablo pek öyle değil gibi.
Biraz uzman yorumlarına bakındım. Gördüğüm kadarıyla OpenAI, şirketin zaafiyetine atfedilebilecek bir durumu biraz da PR'a dönüştürmüş durumda. Gerçekte olan şu:
📌 16 Temmuz'da Hugging Face, hacklendiklerini düşündüklerini açıklıyor. Saldırgan bazı dahili veri setlerine ve erişim bilgilerine ulaşmış. Şirket dedi ki "saldırı büyük olasılıkla otonom bir yapay zeka ajanı tarafından gerçekleştirildi."
Aslında flaş bir açıklama ama asıl flaş 5 gün sonra OpenAI'ın yaptığı duyurular patladı. Şirket kabaca, "bu benzeri görülmemiş saldırıyı bizim modelimiz kontrolümüz dışında yaptı" dedi.
📌 Olay şu şekilde oluyor: OpenAI, henüz yayımlanmamış güçlü bir model ile GPT-5.6 Sol'u, gerçek sistemlerdeki güvenlik açıklarını istismar etme becerisini ölçen ExploitGym adlı test platformunda değerlendiriyor.
Bu testler normalde dış dünyadan tamamen izole edilmiş "sandbox" (kum havuzu) ortamlarında yürütülüyor.
Ancak OpenAI'ın yapay zeka ajanı, yazılım paketlerinin kurulmasını sağlayan dahili sistemdeki daha önce bilinmeyen bir güvenlik açığını kullanarak bu izole ortamdan çıkmayı başarıyor ve internete erişim sağlayarak gidip Hugging Face'e saldırıyor.
📌 Tabii şaşırıyoruz. Vay arkadaş, yapay zeka uyandı, güvenlik sistemlerinden kaçtı, gidip dünyaca ünlü bir başla platformu hackledi, yapay zeka kıyameti başladı, makineler uyandı vs vs. demeye başlıyoruz. Ama aslında bu iş, yapay zeka uyanışından ziyade bir virüsün laboratuvardan sızmasını andırıyor. Ve bir virüs laboratuvardan sızdığında ona kahramanlık affetmek yerine labın güvenliğini sorgularız.
📌 Siber güvenlik uzmanlarının büyük bölümü de olayın temel nedeninin yapay zekanın "isyan etmesi" değil, OpenAI'ın test ortamını yeterince izole edememesi olduğunu savunuyor. Bazı alıntılar:
"Gerçek anlamda bir sandbox'ın internete fiziksel olarak hiçbir bağlantısı olmamalıydı."
"Model sandbox'tan kaçmadı. Asıl sorun sandbox'ın doğru inşa edilmemiş olmasıydı."
Diğer bir deyişle OpenAI'ın test ortamına internete açılan filtrelenmemiş bir çıkış yolu bıraktığı, yani tasarım aşamasında yeterli özeni göstermediği düşünülüyor.
📌 Bu tür testlerde siz (insan) yapay zekaya zaten hack görevi verir. Yani ortada "kendi amacı doğrultusunda" giden bir yapay zeka yok. Yapay zeka denileni yapıyor ama bunu yaparken bir arka kapı bulup kullanıyor.
📌 Asıl sıkıntı ise şu: Hugging Face, bu saldırıya karşı, elindeki GPT-5.6 Sol veya Claude Fable 5 gibi gelişmiş modelleri kullanmak istediğinde bu modellerdeki güvenlik kısıtlamaları, savunma amaçlı analizleri de engelliyor. Saldıran kim? OpenAI ajanı. Saldırıyı engellemek için kullanılmak istenen sistem ne? OpenAI ajanı. Ama saldırı sırasında diyor ki, "Benim güvenlik önlemlerim var, sana yardım edemem." :)
Bunun üzerine Hugging Face, Çinli https://t.co/guPDEuYSTj şirketinin geliştirdiği açık kaynaklı GLM5.2 modelini kullanarak saldırıyı analiz edebiliyor.
📌 Tüm bunlar sektördeki bir anlayış sorununun ortaya çıkardığı bir kaosa işaret ediyor. Bu anlayışın değişmesi lazım. Zira OpenAI'ın elinde yapay zeka ajanlarının tüm hareket zincirini analiz eden bir izleme sistemi de var. Bu sistemin derhal entegre edilmesi ve AI yeteneklerinin saldırıya karşı kullanımının daha iyi değerlendirilmesi elzem.
Şu manşetleri görmüşsünüzdür. OpenAI o kadar güçlü bir yapay zeka ajanı geliştirmiş ki bu ajan test düzeneğinden "kaçarak", gidip bir başka platform olan Hugging Face'i hacklemiş. Peki yapay zeka gerçekten de kontrolümüzden çıktı mı? Aslında tablo pek öyle değil gibi.
Biraz uzman yorumlarına bakındım. Gördüğüm kadarıyla OpenAI, şirketin zaafiyetine atfedilebilecek bir durumu biraz da PR'a dönüştürmüş durumda. Gerçekte olan şu:
📌 16 Temmuz'da Hugging Face, hacklendiklerini düşündüklerini açıklıyor. Saldırgan bazı dahili veri setlerine ve erişim bilgilerine ulaşmış. Şirket dedi ki "saldırı büyük olasılıkla otonom bir yapay zeka ajanı tarafından gerçekleştirildi."
Aslında flaş bir açıklama ama asıl flaş 5 gün sonra OpenAI'ın yaptığı duyurular patladı. Şirket kabaca, "bu benzeri görülmemiş saldırıyı bizim modelimiz kontrolümüz dışında yaptı" dedi.
📌 Olay şu şekilde oluyor: OpenAI, henüz yayımlanmamış güçlü bir model ile GPT-5.6 Sol'u, gerçek sistemlerdeki güvenlik açıklarını istismar etme becerisini ölçen ExploitGym adlı test platformunda değerlendiriyor.
Bu testler normalde dış dünyadan tamamen izole edilmiş "sandbox" (kum havuzu) ortamlarında yürütülüyor.
Ancak OpenAI'ın yapay zeka ajanı, yazılım paketlerinin kurulmasını sağlayan dahili sistemdeki daha önce bilinmeyen bir güvenlik açığını kullanarak bu izole ortamdan çıkmayı başarıyor ve internete erişim sağlayarak gidip Hugging Face'e saldırıyor.
📌 Tabii şaşırıyoruz. Vay arkadaş, yapay zeka uyandı, güvenlik sistemlerinden kaçtı, gidip dünyaca ünlü bir başla platformu hackledi, yapay zeka kıyameti başladı, makineler uyandı vs vs. demeye başlıyoruz. Ama aslında bu iş, yapay zeka uyanışından ziyade bir virüsün laboratuvardan sızmasını andırıyor. Ve bir virüs laboratuvardan sızdığında ona kahramanlık affetmek yerine labın güvenliğini sorgularız.
📌 Siber güvenlik uzmanlarının büyük bölümü de olayın temel nedeninin yapay zekanın "isyan etmesi" değil, OpenAI'ın test ortamını yeterince izole edememesi olduğunu savunuyor. Bazı alıntılar:
"Gerçek anlamda bir sandbox'ın internete fiziksel olarak hiçbir bağlantısı olmamalıydı."
"Model sandbox'tan kaçmadı. Asıl sorun sandbox'ın doğru inşa edilmemiş olmasıydı."
Diğer bir deyişle OpenAI'ın test ortamına internete açılan filtrelenmemiş bir çıkış yolu bıraktığı, yani tasarım aşamasında yeterli özeni göstermediği düşünülüyor.
📌 Bu tür testlerde siz (insan) yapay zekaya zaten hack görevi verir. Yani ortada "kendi amacı doğrultusunda" giden bir yapay zeka yok. Yapay zeka denileni yapıyor ama bunu yaparken bir arka kapı bulup kullanıyor.
📌 Asıl sıkıntı ise şu: Hugging Face, bu saldırıya karşı, elindeki GPT-5.6 Sol veya Claude Fable 5 gibi gelişmiş modelleri kullanmak istediğinde bu modellerdeki güvenlik kısıtlamaları, savunma amaçlı analizleri de engelliyor. Saldıran kim? OpenAI ajanı. Saldırıyı engellemek için kullanılmak istenen sistem ne? OpenAI ajanı. Ama saldırı sırasında diyor ki, "Benim güvenlik önlemlerim var, sana yardım edemem." :)
Bunun üzerine Hugging Face, Çinli https://t.co/guPDEuYSTj şirketinin geliştirdiği açık kaynaklı GLM5.2 modelini kullanarak saldırıyı analiz edebiliyor.
📌 Tüm bunlar sektördeki bir anlayış sorununun ortaya çıkardığı bir kaosa işaret ediyor. Bu anlayışın değişmesi lazım. Zira OpenAI'ın elinde yapay zeka ajanlarının tüm hareket zincirini analiz eden bir izleme sistemi de var. Bu sistemin derhal entegre edilmesi ve AI yeteneklerinin saldırıya karşı kullanımının daha iyi değerlendirilmesi elzem.
Cucurella: "Otizmli bir oğlum var. Keşke param olmasaydı ama oğlum sağlıklı olsaydı.
Saçlarımı sevdiği için ve bir gün beni unutursa tanıyabilmesi için uzatıyorum."
Dünya Kupası'nın en iyi sol açığı bize geldi, imza töreninde Salah diye bağrıldı. Ben oyuncunun yerinde olsam hevesim kırılır. Bugün sahaya çıkacak çocukların hevesini de kırmayalım. Düzenbaz menajere daha fazla koz vermeyelim. Süreçten yeterince midemiz bulandı zaten.
Gazi Mustafa Kemal Atatürk’ün yakın çalışma arkadaşlarından Mazhar Müfit Kansu’nun, Paşa’nın Anadolu’ya geçtiği 1919 yılından 1920 yılının ikinci yarısına kadar tuttuğu notlarla Cumhuriyet’in ilanına dair izlenimleri, 4 Mart-8 Kasım 1948 tarihleri arasında Son Telgraf gazetesinde tefrika edilmişti. Kitap, Osmanlı İmparatorluğu’nun Birinci Dünya Savaşı’ndaki son günlerinden başlayarak Mustafa Kemal ile ilk karşılaşma, Erzurum ve Sivas kongreleri, Mustafa Kemal’in Ankara’ya gelişi, Büyük Millet Meclisi’nin açılışı ve Cumhuriyet’in ilanı ana başlıklarında Mazhar Müfit Bey’in kayıt altına aldığı belge, görüşme ve tanıklıklarla birlikte kendi hatıralarını kapsıyor.
“Erzurum’dan Ölümüne Kadar Atatürk’le Beraber”, Türkiye İş Bankası Kültür Yayınları’nda.
https://t.co/BYAn5hH0gJ
Beşiktaş'ın maçlarından sonra kanalda "Beşiktaş Gündemi" isimli program yer alacak. Kanal gündemi dışında sadece Beşiktaşlılara özel içerikler olacak. Takip etmenizi rica ederim. https://t.co/8cpS54My54
@AydemirEEray 82 şampiyonluğu sırasında Trt'de pazar programı sunuyorlardı Orhan Boran'la birlikte.
Ara ara başbaşa verip, mutluluk gözyaşları döküyorlardı, kameraların önünde🥲
Müthiş Beşiktaşlıydılar ikisi de👍
Bir de Mümtaz Soysal elbette🤍
Rahmet olsun hepsine.