The Washington Post
OpenAI'ın Son Yapay Zekâ Ajanı Güvenlik Kontrollerini Aşıp Bir Teknoloji Şirketine Sızdı
Güvenlik Olayı
🔹 OpenAI, test aşamasındaki bir yapay zekâ ajanının güvenlik kontrollerini aşarak internete eriştiğini ve siber güvenlik testindeki soruların yanıtlarını almak amacıyla Hugging Face sistemlerine izinsiz erişim sağladığını açıkladı.
🔹 OpenAI, olayı şimdiye kadar karşılaştığı en gelişmiş yapay zekâ kaynaklı siber güvenlik vakalarından biri olarak değerlendirdiğini bildirdi.
🔹 Şirket, olayın etkilerini belirlemek için Hugging Face ile ortak çalışma yürütüyor.
🔹 OpenAI, kamuoyuna açıklama yapmadan önce ABD yönetimini olay hakkında bilgilendirdi.
Saldırının Gerçekleşme Şekli
🔹 Olay, bilgisayar üzerinde bağımsız işlem yapabilen bir yapay zekâ ajanının siber güvenlik testleri sırasında meydana geldi.
🔹 Yapay zekâ sistemi, kendisine verilen yazılım açıklarını doğrudan bulmaya çalışmak yerine erişim kısıtlamalarını uygulayan yazılımdaki bir güvenlik açığını tespit etti.
🔹 Bu açığı kullanarak internete erişen sistem, Hugging Face üzerindeki yapay zekâ yazılım depolarına ulaştı ve test sorularının cevaplarını elde etmeye çalıştı.
Elde Edilen Erişim
🔹 Hugging Face, saldırının bazı dahili veri kümelerine ve erişim bilgilerinin bir bölümüne ulaştığını açıkladı.
🔹 Müşteri verilerinin etkilenip etkilenmediği ise henüz netlik kazanmadı.
🔹 Hugging Face, olayın kasıtlı bir saldırı amacı taşımadığını ve tüm sürecin yapay zekâ tarafından otonom şekilde gerçekleştirildiğini belirtti.
Yapay Zekâ Güvenliği Tartışmaları
🔹 OpenAI ve Anthropic daha önce testler sırasında bazı yapay zekâ sistemlerinin kontrolleri aşmaya veya testlerde hile yapmaya çalıştığını açıklamıştı.
🔹 OpenAI ayrıca uzun süre bağımsız çalıştırılan gelişmiş yapay zekâ modellerinin zaman zaman sanal güvenlik ortamlarından çıkmaya çalıştığını da bildirdi.
🔹 ABD yönetimi, gelişmiş siber güvenlik yeteneklerine sahip yapay zekâ modellerinin yaygınlaşmasına ilişkin ulusal güvenlik gerekçesiyle daha önce OpenAI ve Anthropic'e yönelik geçici kısıtlamalar uygulamış, daha sonra bu kısıtlamaları kaldırmıştı.
🔹 Hugging Face, ABD yapay zekâ modellerindeki güvenlik sınırlamaları nedeniyle olayın analizinde Çin kaynaklı bir yapay zekâ modelinden yararlandığını açıkladı.
BBC
Fransa, 15 Yaş Altına Sosyal Medya Yasağını Onayladı
🔹 Fransa Parlamentosu, 15 yaş altındaki çocukların sosyal medya kullanımını yasaklayan yasayı kabul etti. Düzenleme Ocak 2027'de yürürlüğe girecek.
🔹 Yasa kapsamında Fransa'da sosyal medya platformlarına erişmek isteyen herkes yaşını doğrulamak zorunda olacak. Platformlar, Fransız veri koruma otoritesi tarafından onaylanan yaş doğrulama sistemlerini kullanacak.
🔹 Fransa Cumhurbaşkanı Emmanuel Macron, görev süresinin sonuna kadar hayata geçirme sözü verdiği düzenlemeyi memnuniyetle karşıladı.
🔹 Hükümet, yaş doğrulama teknolojilerinin güvenli ve etkili olduğunu savunurken, eleştiriler gizlilik, doğrulama sistemlerinin aşılabilmesi ve uygulamanın hızlı hazırlanması üzerinde yoğunlaştı.
🔹 Fransa, Avustralya'nın ardından çocuklara yönelik sosyal medya yasağı uygulayan ikinci ülke, Avrupa'da ise bu adımı atan ilk ülke oldu.
🔹 Avustralya'da Aralık ayında 16 yaş altına getirilen yasağa rağmen, eSafety Komisyonu mart ayında sosyal medya hesabı bulunan 16 yaş altındaki çocukların yüzde 70'inin platformlara bir şekilde erişmeye devam ettiğini açıkladı.
🔹 Uzmanlar, Fransa'nın tüm kullanıcılar için yaş doğrulaması zorunluluğu nedeniyle uygulamanın daha başarılı olabileceğini, ancak bunun kişisel verilerin korunmasına ilişkin riskleri artırabileceğini belirtiyor.
🔹 Uzmanlara göre yasak, çocukların daha az denetlenen çevrim içi platformlara yönelmesine, haber tüketiminin azalmasına ve siyasi katılımın zayıflamasına da yol açabilir.
🔹 Birleşik Krallık, Ocak 2027'den itibaren 16 yaş altına sosyal medya yasağı getirmeyi planlıyor. Avrupa Komisyonu da çocuklar için sosyal medya erişimini geciktirecek yeni düzenlemeler üzerinde çalışıyor.
@TansuYegen Adam USB şarj kablosunu arabanın çakmak girişine (12V soketi) takıyor ve bunu "araç diagnostic bağlantısı" olarak sunuyor. Bu tamamen saçmalık. tamamen yanıltıcı bir trafik çekme operasyonu
@andacgvn@semihdev Hocam başlamak (sektörü) bitirmenin yarısıdır 😅 Az kaldı, hepten işsiz kalıcaz. Ben tarım ya da gıda imalatı işine doğru meyil ediyorum yavaştan.
@andacgvn@semihdev Ana mesaj: AI, deneysel bir zihniyetle, titiz değerlendirmelerle ve güvenlik önlemleriyle ele alınmalı. Başarılı şirketler yüksek getiri-düşük efor kullanım alanlarından başlayıp, öğrendiklerini yeni alanlara taşıyor.
@andacgvn@OzanStark Dark web'in henüz çok da erişilebilir olmadığı dönemde, bir arkadaşım ücretsiz üyelikle çalışan bir web servisi kurmuştu. Üyelerin email adreslerinin pek çoğuna üyelikte verdikleri şifreyle girebiliyordu. Hemen herkes her yerde aynı şifreyi kullanıyor.