Sosyal medyada dönen "Yetişkin Erkek Meyve Sineğinin" sinir sisteminin bilgisayar ortamına aktarılması konusunu hepimiz gördük büyük ihtimalle. Bu olay teknik olarak nedir biraz inceledim ve çıkarımımı paylaşmak istedim.
Google Research @GoogleResearch ve HHMI Janelia Araştırma Kampüsü @HHMIJanelia bir sineğin tüm merkezi sinir sistemini bilgisayar ortamında tamamen haritalandırmış. Yaklaşık 166 bin nöron ve 125 milyon bağlantıdan bahsediyoruz. Bu aslında ciddi bir değer.
Derinlemesine bir AI modeli geliştirdiğimiz için farklı bir noktadan yaklaşmak istiyorum bu değerlere. Yani 166k nöron ve 125m bağlantı bir AI modelinde ne anlama geliyor?
Direk söyleyeyim "Yetişkin Erkek Meyve Sineğinin" 166k nöron + 125m bağlantısı neredeyse 1 Milyar parametreli bir SLM'e denk geliyor.
Mesela Llama 3.2 1B vs Sinek karılaştırılması yapalım;
Katman Sayısı: 16
Model Genişliği: 2048
MLP Genişliği: 8192
Ana Katman nöronları 16x2048=32.768
Genişletilmiş ara katman nöronları 16x8192=131.072
Giriş/Çıkış ve Attn başlıklarıyla 40k-50k arası nöron ekleniyor ve toplamda:
32.768 + 131.072 + 45.000 = 205.000 yapay nöron eder.
Buradaki tek farkı 125 milyon bağlantı vs 1 milyar parametre olarak görebiliriz.
Fakat biyolojik beynin bu kadar az bağlantıyla bu kadar kompleks işleri nasıl yaptığını ve yapay zeka mimarisi arasındaki fark çok ayrı bir konu aslında.
Farklı bir noktadan bakarsan 166k nöron sadece 125m bağlantıyla biyolojik olarak bağlanırken 205k nöron 1B parametre ile bağlanıyor. Bu kadar az bağlantı ile sineğimiz gerçek hayatta; yön bulma, eş bulma, hayatta kalma, refleks gösterme ve dış dünyadan öğrenme adımlarını mükemmele yakın şekilde gerçekleştirebiliyor.
Ayrıca en önemli konu olan enerji tüketimi! Sinek bu işleri yaparken mikro-watt seviyesinde enerji hacıyor neredeyse sıfıra yakın.
Bir AI modeli ise sineğimiz kadar hızlı tepsi verebilmesi belki de 1000-1250 W güç harcamalı (bunu hesaplamadım min/max hesaplanabilir)
İşin özü AI "dil ve mantıkta" çok iyiyken biyoloji hala "verimlilik ve hayatta kalma" konusunda çok önce. Bu konu AGI ve ASI gibi süreçlere de bağlanabilir aslında.
Konunun özü evet bu sinek bu söylenenlerin çoğunu bir şekilde yapabilir...