Blockchain meraklısı | On-chain veri ve teknoloji odaklı araştırıcı
Paylaşımların hiç birisi yatırım tavsiyesi değildir. Sizi siz kadar kimse düşünmez.
@satyanadella yapay zekada gelinen son nokta hakkında o postu 10 Ekim 2026 Cumartesi sabahı X'te paylaştığı uzun yazı. Başlığı:
**"Süper Zeka Çağında Modelleri İçeriden Tehdit Olarak Görmek / Models as Insider Risks in the Super Intelligence Era"**
İşte makalenin tam özeti:
## 1. Güven mimarisini yeniden düşünmeliyiz
Nadella, "AI'in güven mimarisini bir adım geri çekilip değerlendirme zamanı" diyor.
> "Süper Zeka'yı iç içe geçmiş kara kutular olarak görüp sadece önerilerini, cevaplarını ve eylemlerini kabul veya reddet edemeyiz"
Geleneksel yazılımda mühendisler davranışı belirli kod yollarına kadar izleyebiliyordu. Modern AI modelleri aynı netliği sunmuyor, özellikle cevapları nasıl ürettikleri veya kararları nasıl verdikleri konusunda.
Buna rağmen şirketler AI sistemlerine hassas verilere erişim veriyor ve kritik görevler yaptırıyor. Nadella'ya göre kuruluşlar bu eylemlerden sorumlu kalmalı, sadece AI sağlayıcılarının güvencelerine bel bağlamamalı.
## 2. Modeli içeriden tehdit gibi ele alın
Ana tezi çok net:
> "Bir modelin ele geçirildiğini varsaymalı ve onu en baştan itibaren çevrelemeliyiz."
Bu hem kapalı hem de açık ağırlıklı modeller için geçerli, kötü niyetli oldukları için değil, önemli sistemlere erişimi olan herhangi bir güçlü sistemin hata yapabileceği veya ele geçirilebileceği için.
AI artık sadece girdiyi ve çıktıyı kontrol ettiğimiz bir "iç içe kara kutular seti" olarak görülmemeli, güven kontrolü model çalışırken içine taşınmalı. Bu yaklaşım sıfır güven tasarımı gibi, hiçbir kullanıcıya, iş yüküne varsayılan olarak güvenilmiyor.
## 3. Ne öneriyor?
Nadella'nın listesi şunları içeriyor:
**a) Modeli koşum takımından ayırın:** Bu yaklaşım "modeli işini orkestre eden koşum takımından ayırmak" ve "kontrolleri ve güvenlik önlemlerini dışsallaştırmak" anlamına geliyor.
**b) Kontroller modelin dışında kalsın:** Bir modelin neye erişebileceğine ve hangi eylemleri yapabileceğine karar veren kontroller modelin kendisinin dışında kalmalı.
**c) Tek bir modele bağımlı kalmayın:** Hiçbir modelin önemli bir sonuç için tek bağımlılık olmaması veya kendi işini kendisinin doğrulamaması için farklı modeller kullanın.
**d) Kanıt bırakın:** "Her anlamlı model eylemi" için "kurcalanamaz, insan tarafından okunabilir kanıtla" belgelenmeli. Bu çevreleme, gözlemlenebilirlik ve kanıt demek. Çevreleme modelin neye erişebileceğini sınırlar, gözlemlenebilirlik ne yapmaya çalıştığını gösterir, kurcalanamaz kanıt ise görev sonrası denetlenebilecek okunabilir bir kayıt tutar.
**e) Acil fren:** Yetkili bir kişinin her zaman bir modeli görev ortasında duraklatabilmesi veya kapatabilmesi gerekiyor. "Bunu bir acil fren gibi düşünün". Daha yetenekli modellerin daha güçlü çevreleme araçlarına ihtiyacı olacak ve bu araçlar standartlaştırılmalı.
## 4. Hesap verebilirlik
Nadella ayrıca sürekli hata ve saldırı testleri, bağımsız denetimler ve zamanında olay açıklaması istiyor. Bir şeyler ters gittiğinde kuruluşlar neyin yanlış gittiğini, hangi güvenlik önlemlerinin başarısız olduğunu ve benzer olayların nasıl önlenebileceğini paylaşmalı.
Son cümlesi en çok konuşulan kısım oldu:
> En güvenilir sistem, modele en az güvenmemizi sağlayan sistem olacak.
Bu çağrı, önde gelen AI şirketlerinin modellerinin kontrolünü kaybetmiş gibi göründüğü olayları kabul ettiği ve Anthropic CEO'su Dario Amodei'nin daha temkinli AI geliştirme planı yayınladığı bir dönemde geldi.
filecoin:native veri depolamama ve doğrulama için güzel bir proje 🧐
https://t.co/VYoyNG0Aep
FIL bugün %6.4 yukarı yönlü hareket etti ve $1,15 seviyesinde işlem görüyor. Bir göz atın 👉 https://t.co/KsuSwnZwia
On Filecoin Warm Storage Service, storage providers must prove once an hour that your data is there.
The proofs are checked onchain and take seconds to generate. Storing a copy costs $2.50 per TiB per month, and two copies are the minimum.
https://t.co/Xn6EqyGm7G
AI will become one of the largest spending categories in the US economy:
AI services are projected to account for a record 8.8% of US GDP in 2032.
This estimate shows how much businesses and consumers are expected to spend per year on the services of AI companies.
This also implies AI companies would generate ~$3.5 trillion in annual revenue by 2032.
By comparison, US consumer spending on food accounts for a similar 9.1% of GDP.
This figure would also be ~72% higher than energy, at 5.1% of GDP, and twice the size of construction as well as computers and software, both at 4.4%.
It would also be nearly 3x defense, at 2.8%, and more than 7x communications and internet, at 1.2% of GDP.
The only category where spending is significantly larger is health, at 18% of GDP.
The scale of the AI revolution is unlike anything seen before.
ethereum:0x66a5cfb2e9c529f14fe6364ad1075df3a649c0a5 uzun dönemde radarımda 🧐
ZK bugün %19.9 yukarı yönlü hareket etti ve $0,01387968 seviyesinde işlem görüyor. Bir göz atın 👉 https://t.co/V7x4bIMjQE