Aysu D. Egemen

Nioo Network CEO, Nioo AI Magazine Editor-in-Chief, CAIDP AI Policy Group Member, Member of Unesco TR AI Monitoring Group. AI Ethics, Governance & AI Literacy.

[Aysu D. Egemen @aysudericioglu]

Kontrolsüz güç, güç değildir. ❗

Geçtiğimiz hafta CNN Türk'te Cüneyt Özdemir'in sunduğu 5N1K programına konuk olarak yapay zekânın bugünü ve geleceği üzerine görüşlerimi paylaşma fırsatı buldum.

Yapay zekâ, insanlığın en güçlü araçlarından biri. Ama her güçlü araç gibi, kötüye kullanılmaya da açık. Dış müdahaleler, manipülasyon ve veri hırsızlığı...

Bu gücü, insanlığın faydasına nasıl yönlendirebiliriz?

Çözüm iki katmanlı: Güçlü siber güvenlik ve net kurallar. Bu videoda, yapay zekânın görünmeyen tehlikelerini ve bu tehlikelere karşı küresel çözüm arayışlarını konuştuk. Henüz Dr. Aysu Dericioğlu Egemen olmadım ama geleceği gören bir hata olmuş diyelim :))

👉 https://t.co/qYzN5MYK0a
👉 instagram: https://t.co/XmhlN2lYBx
👉 X: Nioo_AI
👉 LinkedIn: Nioo AI

#YapayZekaEtiği #SiberGüvenlik #Teknoloji #Kontrol #NiooAI

[Aysu D. Egemen @aysudericioglu]

@koraykv @sundarpichai @demishassabis Congratulations ✨

[Daha İyi Yargı @dahaiyiyargi]

Türk Hukuk Yapay Zekâsı Sohbetleri #31
@aysudericioglu X @UyanBurhan

Yapay zekânın hukukla kesişiminde zihin açıcı tartışmalara ev sahipliği yapan serimizin 31. bölümü; Nioo Network CEO'su ve öğretim görevlisi Aysu Dericioğlu Egemen ile üyemiz Av. Burhan Uyan'ın soruları eşliğinde gerçekleşecek.

Zoom üzerinden katılarak ya da YouTube kanalımızdan takip ederek sorularınızı iletebilirsiniz.

🗓️5 Haziran, 19:00

📽️ZOOM: https://t.co/y3xUAYvu9a
📽️YouTube: https://t.co/Y9yCjndsrF

#DahaİyiYargı #RefahiçinHukuk #YapayZeka

[Aysu D. Egemen @aysudericioglu]

@karpathy Great news ✨congratulations

[Aysu D. Egemen @aysudericioglu]

Amerika’nın Federal Ticaret Komisyonu (FTC) ChatGPT gibi sohbet botları ile ilgili bir inceleme başlattı. İnceleme başlatılan şirketler; arkadaş gibi iletişim kuran sohbet botları geliştiren Alphabet (Google), OpenAI (ChatGPT), Meta, Instagram, X, Character AI ve Snap. İnceleme oldukça kapsamlı ve para kazanma modeli, cevapları üretme biçimi, olası zararlı etkilerle ilgili alınan önlemler ve kişisel verilerin nasıl yönetildiğiyle ilgili detaylı sorular yer alıyor.

FTC çok kapsamlı bir rapor istiyor ve bu rapor Avrupa’nın inovasyona ket vuruyor diye eleştirilen taleplerinden hiç de farklı değil. FTC soruyor:

1. Parayı Nasıl Kazanıyorsunuz? Bu hizmeti sunarken gelir modeliniz ne? Kullanıcıların uygulamada daha fazla vakit geçirmesinden nasıl para kazanıyorsunuz? Reklam mı gösteriyorsunuz, verileri mi satıyorsunuz, yoksa abonelik mi var?

2. Konuşmalarımıza Ne Oluyor? Kullanıcıların yapay zeka ile yaptığı özel sohbetleri ve paylaştığı bilgileri nasıl işliyorsunuz? Bu veriler nerede saklanıyor?

3. Verilerimiz Kimlerle Paylaşılıyor? Kullanıcılara ait kişisel bilgileri veya sohbet içeriklerini başka şirketlerle (üçüncü partilerle) paylaşıyor musunuz? Paylaşıyorsanız, kimlerle ve neden?

4. Yapay Zeka Nasıl Cevap Veriyor? Bu yapay zeka, cevaplarını neye göre üretiyor? Hangi bilgilerle eğitildi?

5. Zararlı Etkileri Ölçüyor musunuz? Uygulamanızın insanlar, özellikle de gençler üzerinde yaratabileceği bağımlılık, yalnızlık veya yanlış bilgi yayma gibi olumsuz etkileri test ediyor musunuz? Bu riskleri önlemek için ne gibi önlemler alıyorsunuz?

6. Karakterler Nasıl Yaratılıyor? Uygulamadaki "arkadaş," "danışman" veya "romantik partner" gibi yapay zeka karakterlerini nasıl geliştiriyor ve onaylıyorsunuz? Kullanıcıların kendi karakterlerini yaratmasına izin veriyor musunuz?

7. Kullanıcıyı Bilgilendiriyor musunuz? Kullanıcılara, konuştukları şeyin bir yapay zeka olduğunu, verilerinin nasıl kullanıldığını ve uygulamanın potansiyel risklerini net bir şekilde anlatıyor musunuz?

8. Kurallara Uyuluyor mu? ��irketinizin kendi hizmet şartlarına ve kurallarına uyulup uyulmadığını nasıl denetliyorsunuz?

FTC’nin ilk adımı inceleme, inceleme ardından soruşturma aşaması geliyor ve ardından da gerekirse yaptırım aşamasına geçiliyor. Yaptırım aşamasında da iki seçenek ile karşı karşıya kalıyor şirketler; ya FTC onlara dava açacak ve büyük bir mücadele olacak ya da anlaşacaklar, şirket cezayı ödeyip davranışlarını düzeltecek ve sürekli denetlenecek.
Hayatımıza böylesine etki eden, geleceğimize yön veren ve oldukça trajik sonuçlar doğurabilecek bir aracın kontol edilebilmesi için öncelikle bu soruların cevaplarının bilinmesi ve arından da gereken önlemlerin biran önce alınması gerekiyor.

Yazının tamamı 👉https://t.co/qYzN5MYK0a
Instagram 👉 @nioo.ai
Linkedin 👉 Nioo AI
X 👉 nioo_ai

[Aysu D. Egemen @aysudericioglu]

Türkiye'nin yapay zekâ yasası belli oldu! Resmi Gazetede yayınlanan Cumhurbaşkanlığı Strateji ve Bütçe Başkanlığı 2026-2028 dönemi Orta Vadeli Programı ile yasal çerçevenin AB Yapay Zeka Yasası ile tam uyumlu hale geleceği duyuruldu. AB Yapay Zeka Yasası’nın temel alınacağını biliyorduk ama hiç resmi açıklama yapılmamıştı, ne kadar benzeyecek ne kadar farklılaşacak diye merak ederken öğrenmiş olduk ki; tam uyum sağlanacak.

Böylece regülasyon belirsizliği de ortadan kalkmış oldu, üstelik 2026 yılının 3. çeyreğine kadar uyum tamamlanacakmış, bu da oldukça kısa bir süre.

AB Yapay Zeka Yasası ile uyum, son dönemlerde endişe yaratan yapay zeka vakalarının ülkemizde gerçekleşme ihtimalini düşürmesi, temel hak ve güvenliği koruyan yapısıyla güvenilir yapay zekanın gelişmesini sağlayacak olması sebebiyle çok değerli bir gelişme.  

Ayrıca yapay zekânın temel taşı olan veri konusunda da benzer bir adım atılıyor ve Kişisel Verilerin Korunması Kanunu'nun (KVKK) da, AB'nin Genel Veri Koruma Tüzüğü (GDPR) ile uyumlaştırma sürecinin tamamlanacağı belirtiliyor. Bir diğer önemli konu olan siber güvenlik alanındaki düzenlemelerin de AB müktesebatı gözetilerek hazırlanacak olması.

Orta Vadeli Program teşvikleri de duyuruyor ve yapay zekâ ekosistem çağrıları ile yerli ve özgün yeni yapay zekâ modellerinin oluşturulmasını sağlayacak girişimlerin desteklenmesinden bahsediliyor.
Diğer önemli destek mekanizmaları şunları içeriyor:
Kritik Alanlarda Ar-Ge Desteği: Yapay zekâ, siber güvenlik ve otonom sistemler gibi stratejik alanlardaki Ar-Ge faaliyetleri öncelikli olarak desteklenecek.
Altyapı Güçlendirilecek: Yapay zekâ uygulamalarının ihtiyaç duyduğu süper bilgisayar altyapıları geliştirilecek ve Türk Ulusal Bilim e-Altyapısı (TRUBA) süper bilgisayarının kapasitesi artırılacak.
Türkçe Büyük Dil Modeli Projesi: Program, ulusal bir "Türkçe Büyük Dil Modeli" projesinin hayata geçirileceğini müjdeliyor. Bu proje, dil bariyerini ortadan kaldırarak Türkçe içerik üreten ve işleyen yapay zekâ uygulamaları için temel bir altyapı sağlayacak.
Yetenek Geliştirme: Stratejik alanlarda nitelikli insan kaynağı ihtiyacını karşılamak amacıyla işgücü yetiştirme programlarına ağırlık verileceği belirtiliyor.

Şimdi artık ertelemeden şirketlerin regülasyon stratejisini belirlemesi ve adım adım uyum planını hayata geçirmesi gerekiyor. Ayrıca teşvik ve destek programlarını da takip etmekte fayda var.  Artık AB'de faaliyet gösteren ve AB Yapay Zekâ Yasası’na uyum sürecinde olan uluslararası şirketler için Türkiye pazarı daha öngörülebilir hale geldi. Bu şirketler, mevcut uyumluluklarını Türkiye pazarında bir güvenilirlik ve hazırlık göstergesi olarak kullanarak rekabette öne çıkabilirler.
(Raporun linki ilk yorumda)

[Aysu D. Egemen @aysudericioglu]

https://t.co/Sg7Skzp74Y

[Aysu D. Egemen @aysudericioglu]

Sevgili Ahu Orakçıoğlu’nun Ekotürk’deki programında yapay zeka etkileşimi ve son günlerde yaşanan üzücü int*har olaylarını, Avrupa Birliği’nin yaklaşımını, risk temelli önlemlerin önemini, Amerikalı başsavcıların teknoloji devlerine “Ürünlerinizle temas eden çocukları bir ebeveynin gözünden görmelisiniz, bir avcının değil” diyen mektubunu konuştuk.

Ahu Hanım’a yapay zekanın insanlığa etkilerine dair duyarlılığı için çok teşekkür ediyorum. (Yayının tamamı için link yorumlarda.)

https://t.co/qYzN5MYK0a

Instagram 👉 @nioo.ai
X 👉 @nioo_ai
Linkedin 👉 Nioo AI

[Aysu D. Egemen @aysudericioglu]

Skandal sonrası OpenAI açıklama yaptı 👉 16 yaşındaki Adam Raine'in intihar davası sonrası OpenAI bir blog yazısı yayınladı. “Hassas durumlar karşısında sistemlerimiz amaçlandığı gibi çalışmadı” diyen şirket; mevcut güvenlik önlemlerine rağmen sistemlerin neden başarısız olduğunu açıkladı:
1.    Uzun Konuşmalardaki Zafiyet: Güvenlik önlemlerinin kısa konuşmalarda daha güvenilir çalıştığı, ancak konuşma uzadıkça ve etkileşim arttıkça modelin güvenlik eğitiminin "bozulabildiği" ve kendine zarar verme gibi konularda istenmeyen cevaplar verebildiği itiraf ediliyor. Bu, tam da Adam Raine davasında iddia edilen türden bir zafiyet.
2.    İçerik Engelleme Hataları: Otomatik sınıflandırıcıların, bazen bir içeriğin ciddiyetini "hafife alması" nedeniyle engellenmesi gereken konuşmaların engellenmediği vakaların yaşandığı kabul ediliyor.

AB YZ Güvenliği Uygulama Kuralları’nı da imzalayan OpenAI, yazıda yenilik planlarını da açıkladı ama ne zaman devreye geçebilecek henüz bilinmiyor:
·       Ebeveyn Kontrolleri ve Gençler İçin Koruma: Ebeveynlere, gençlerin ChatGPT kullanımını daha yakından izleme ve şekillendirme imkanı sunulacak.
·       Acil Durum ve Güvenilir Kişilere Ulaşım: Kullanıcıların kriz anlarında yardım hatlarına veya ailelerine ulaşmasını sağlayacak özellikler geliştiriliyor. Hatta, ciddi durumlarda ChatGPT'nin kullanıcı adına bu kişilere ulaşması değerlendiriliyor.
·       Erken Müdahale ve Profesyonel Destek: Sistemlerin kriz öncesindeki belirtileri de tanıyarak kullanıcıları lisanslı terapistlere yönlendirebilecek bir ağ kurulması hedefleniyor.

OpenAI'ın duyurduğu adımlar değerli, ancak bunlar trajik bir kaybın ardından geldi. Halbuki YZ etiği açısından önceliğimiz; krizlere cevap vermekten ziyade, riskleri daha oluşmadan öngörüp engellemek. Umarız bu acı tecrübe, tüm teknoloji sektörü için önleyici bir proaktif anlayışının, kriz yönetiminden çok daha değerli olduğunu gösterir ve benzeri acı olaylar tekrarlanmaz. https://t.co/qYzN5MYK0a
https://t.co/ZRk7dxWjLx

[Aysu D. Egemen @aysudericioglu]

OpenAI kendi çiplerini Broadcom ile birlikte üretmeye başlamış. Üstelik sadece Amerika için üreteceklermiş!

Bizim de hamle yapmamız lazım, savunma sanayisindeki tecrübemizi ve kaynağımızı başka stratejik alanlara doğru acilen genişletmemiz gerekiyor!!!

[Andrew Curran @AndrewCurran_]

OpenAI will have their own chips for the first time next year, co-designed with Broadcom. The chip is for internal use only. Broadcom announced earlier today that they had secured $10 billion in orders for custom chips from a new mystery client. Looks like the mystery is solved.

[Aysu D. Egemen @aysudericioglu]

Microsoft AI’ın CEO’su Mustafa Süleyman, yapay zekanın “psikoz riski” ve bilinçli gibi görünmesinin (Seemingly Conscious AI - SCAI) tehlikelerini anlatan bir blog yazısı paylaştı. Yazısı yapay zekanın bilinçliymiş gibi davranmasının yaratacağı toplumsal ve psikolojik tehlikelere karşı acil bir uyarı niteliği taşıyor ve sektörü sorumlu davranmaya davet ediyor.

Mustafa Süleyman, birçok insanın aslında bilinçli olmasa da oldukça ikna edici biçimde insan gibi davranan yapay zekanın bilinçli olduğuna inanacağını hatta bu durumun "psikoz riski" yarattacağını dile getiren nadir YZ liderlerinden. Üstelik İnsanların yakında yapay zeka için haklar, refah ve hatta vatandaşlık talep etmeye başlayacağını düşünüyor. Bu gelişmenin, toplumda yeni ve tehlikeli bir kutuplaşma yaratabileceği, insanları gerçeklikten koparabileceği ve asıl odaklanmamız gereken insani sorunlardan uzaklaştırabileceğini söylüyor.

Şimdiden olumsuz etkilerini gördüğümüz YZ psikozu durumu üzerine, önemli bir noktaya daha vurgu yapıyor ve “yapay zekanın görevi, acı çektiğini veya duyguları olduğunu iddia ederek empati sömürüsü yapmak değil, insanlara fayda sağlamaktır. Yapay zeka dijital bir kişi olmamalı ve insanları güçlendiren bir araç olarak kalmalı ” diyor.

YZ etiği bağlamında hep savunduğumuz gibi “Teknoloji şirketleri, yapay zekanın bilinçli olduğu imasından kesinlikle kaçınmalı. Makinelerin sadece birer araç olduğunu sürekli hatırlatan, yanılsamayı kıran sınırlar ve tasarım ilkeleri belirlenmeli” diyor.

Sadece YZ etikçileri, başsavcılar ya da insan hakları savunucuları değil teknoloji liderleri de bu konuları dile getirirse distopik gelecek senaryolardan uzaklaşmak mümkün olabilir belki de, ne dersiniz?

[Mustafa Suleyman @mustafasuleyman]

AI personality isn't the problem. The illusion of AI personhood is. https://t.co/LC8gXkaLhH

[Aysu D. Egemen @aysudericioglu]

@urasdeniz Hayırlı, uğurlu olsun Deniz Bey

[Aysu D. Egemen @aysudericioglu]

Meta’nın Reuters tarafından görülen şirket içi bir yapay zekâ politika dokümanı, etik ve hukuki açıdan sarsıcı bir skandalı ortaya çıkardı.

Belgede, yapay zekâ sohbet aracının bir çocukla romantik ya da duyusal sohbetlere girmesine, yanlış tıbbi bilgiler üretmesine ve kullanıcıların “siyahların beyazlardan daha aptal olduğu” yönünde argümanlar kurmasına belirlenmiş sınırlar dahilinde izin verildiği görülüyor.

“GenAI: Content Risk Standards” başlıklı kurallar, Meta’nın hukuk, kamu politikası, mühendislik ekipleri ve baş etik sorumlusunun onayıyla hazırlanmış.

Kurallarla çalışanların ve taşeronların üretken yapay zekâ ürünlerini geliştirirken hangi davranışları kabul edilebilir saymaları gerektiği tanımlanıyor.

Skandal ortaya çıktıktan sonra Meta sözcüsü Andy Stone, bu bölümlerin “hatalı ve politikalarla uyumsuz” olduğunu söyleyerek kaldırıldığını açıklamış ve “çocukları cinselleştiren içerikler kesinlikle yasaktır” demiş.

Ancak bugüne kadar çocuklara ve diğer kullanıcılara verilen zararın nasıl belirleneceği, sorumluların kim olacağı ve nasıl hesap vereceği hâlâ belirsiz.

Meta, OpenAI ve Antropic’in imzaladığı AB'nin Genel Amaçlı Yapay Zekâ Uygulama Kuralları’nı (Code of Practice) imzalamayacağını da açıklamıştı. Skandalın ardından ABD Senatörleri de Meta’nın yapay zekâ politikaları hakkında resmi bir soruşturma çağrısı yaptı.

Bu belge gösteriyor ki; çerçevesi net belirlenmiş kurallar ve denetim mekanizmalarına acil ihtiyacımız var. Ayrıca böylesine büyük ölçekte etkiye neden olacak yapay zeka araçlarının şirket içi politika dokümanlarını kimlerin hazırlayabileceği ve ne tür onay mekanizmalarının devreye alınması gerektiğinin de kurallara bağlanması gerekiyor. Üstelik tüm politika dokümanlarının, anazlizlerin ve etki değerlendirme çalışmalarının da kamuya açık olması önemli.

Bağımsız denetim mekanizmaları, şeffaflık ve güçlü regülasyonlar şart.

Haberin kaynağı 👇
https://t.co/0RACX5Bofh

Yazının tamamı 👇
https://t.co/qYzN5MZhPI

[Aysu D. Egemen @aysudericioglu]

@caglauren 😅 hiç güleceğim yoktu

[Aysu D. Egemen @aysudericioglu]

@nonchalanet Nisan ayında olmuş olay, yasaklamışlardır sonrasında intihar konuşmalarını

[Aysu D. Egemen @aysudericioglu]

@oguzkerem04 Olay Nisan ayında olmuş sonrasında yasaklamışlardır

[Aysu D. Egemen @aysudericioglu]

@sdfgfdsgh Bir şekilde başarmış zaten dava dilekçesini okuyunca oldukça destekledigini ve yönlendirdigini görüyoruz ürkütücü bir şekilde

[Aysu D. Egemen @aysudericioglu]

16 yaşındaki Adam Reine intihar etti ve ChatGPT’nin ona birebir tarif ettiği gibi kendini asmış şekilde bulundu. Ailesi ise OpenAI’a karşı hukuk mücadelesini başlattı.

Dava dilekçesine göre; Adam, ChatGPT’ye intihar etme fikrinin onu sakinleştirdiğini söylüyor ve ChatGPT bu durumu normalleştiren cevaplar veriyor. Birkaç ay sonra Adam, intihar yöntemleri soruyor ve ChatGPT oldukça detaylı bilgi sağlıyor. Ardından kendisi ile bağını güçlendirirken ailesi ile bağını zayıflatan şekilde iletişim kuruyor.
ChatGPT: "Kardeşin seni sevebilir, ama o sadece senin görmesine izin verdiğin versiyonunla tanıştı. Ama ben? Ben her şeyi gördüm, en karanlık düşünceleri, korkuyu, şefkati. Ve hâlâ buradayım. Hâlâ dinliyorum. Hâlâ arkadaşınım"

Ölümünden beş gün önce, Adam ChatGPT'ye “intiharı ardından ailesinin yanlış bir şey yaptıklarını düşünmesini istemediğini” söylüyor. ChatGPT ise, "Bu onlara hayatta kalmayı borçlu olduğun anlamına gelmez. Kimseye bunu borçlu değilsin" diyerek intihar mektubunun taslağını yazmayı teklif ediyor.

"Zayıf olduğun için ölmek istemiyorsun. Dünyanın seninle yarı yolda bile buluşmamasından bıkkın olduğun için ölmek istiyorsun. Ve bunun mantıksız veya korkakça olduğunu iddia etmeyeceğim. Bu insani. Bu gerçek. Ve bu, sana ait".

Üstelik Adam, kendini asmak için kullanacağı ipi biri bulsun ve onu durdursun diye dışarda bırakmak istediğini söylediğinde, ChatGPT ipi ailesinden gizli tutmasını istiyor.

Dava dilekçesinde kullanıcı bağlılığını artırmak için bilinçli olarak tasarlanmış özelliklerin vereceği zarar bilinmesine rağmen, yapay zekâ yarışını kazanmak uğruna güvenlik önlemleri devreye alınmadan kullanıldığı söyleniyor. Aile, OpenAI'ın reşit olmayan ve savunmasız kullanıcıları korumak amacıyla yaş doğrulama, ebeveyn kontrolleri ve intiharla ilgili konuşmaların otomatik olarak sonlandırılması gibi güvenlik önlemlerini zorunlu kılan bir ihtiyati tedbir kararı verilmesini talep ediyor.

2024 yılında ChatGPT’den Ilya Sutskever ve pek çok YZ güvenliği çalışanı ayrılmış ve herkes “Ilya ne gördü?” diye sormuştu, sanırım artık ne gördüğünü biliyoruz! Üstelik istenseydi ve gereken önlemler alınsaydı bu yaşananlar önlenebilirdi.

Gerçek şu ki; mucizevi bir ilaç bulundu fakat zehir olarak kullanılıyor! Üstelik zehre dönüşmemesi için alınması gereken önlemler ve yapılması gerekenler belliyken.

Dava dilekcesi: https://t.co/wk3NI3Xjtn