Osman S Borutecene

Filozof Kral |
Sociology B.A., Boğaziçi Uni., C.A.L.’93 | Philosophy, strategy, AI, education, communication, art, creativity, innovation, design, language. 🌿

[Osman S Borutecene @osman]

Bir insan olarak, günlük yaşamın sıkıntıları dışında (finans, sağlık, güvenlik vs) beni esastan rahatsız eden nedir diye düşündüğüm zaman aklıma gelen şey zihnimin süreksizliği. Felsefeyle uğraşan biri olarak bunu anlamak başka uğraşlara oranla daha kolay. Hafızanın yanılgıları,

[Osman S Borutecene @osman]

Bunu bir de yapay zekada teknik terimlere aşina olanlar için yazayım:

Bir yapay zeka modeliyle çalışırken fp8 ile q4 arasında çok fazla fark görüyorum. fp8 ile çalıştırdığım 30B civarındaki bir model; gpt 6 luna, glm 5.3 flash, ds v4.1 flash'a göre çok daha zeki sonuçlar veriyor. Bunun sebebi bu modellerin gerizekalı olması değil (gpt hariç, gpt tam bir amerikan zekası), modeli sıkıştırmasız çalıştırıyor olmak. Diğerleri büyük ihtimalle fp4'e denk geliyor ve yapılan iş uzadıkça fp4 context olarak zorlanıyor çünkü büyük ihtimalle KV cache de fp4 olarak ayarlanmış.

Demem o ki, bir modeli Q2-Q4 ile 12-24GB arası bir karta sıkıştırma hayalleri çok boş işler. İnsanlar bunu dener ve sonunda "bu yapay zeka da bir işe yaramıyor" deyip bırakırlar.

[Osman S Borutecene @osman]

Son zamanlarda yazmak istediklerimi yazmaya vakit bulamıyorum. Bir iki hızlı not geçeceğim:

Kullandığınız yapay zeka modelleri çoğu kez durumunu bilmediğiniz bir sunucudan servis ediliyor. İster gemini olsun ister chatgpt, ister claude farketmez. Hatta openrouter gibi sağlayıcılar üzerinden yaptığınız çalışmalarda da modelin nerden servis edildiğini bilmek zor (bunu belirleyebiliyorsunuz onu sonra konuşuruz).

Bunun sebep olduğu teknik bir incelik var.

Yapay zeka her açıdan masraflı bir iş olduğundan, bize sunulan modeller belli bir sıkıştırmayla sunuluyor. Örnek vermeye çalışayım. Chatgpt'yi açıp çalışırken kullandığınız model muhtemelen 500gb-2TB arası yer kaplayan bir dosya. Bir modelin full kapasite çalışması demek, sahip olduğu parametre sayısının iki katı dosya boyutu ve GPU ram'i kullanıyor demek.

Yani sizin 1 TB parametreli bir modeli eksiksiz zeka kalitesinde çalıştırabilmeniz için 2TB gpu ram'ine ihtiyacınız var. Ayrıca aynı kalitede 'cache', yani yazışmalarınızın yapay zeka tarafından tutulup işlendiği çalışma alanında da 1 milyon token için yaklaşık 10GB ram'e ihtiyaç var.

Sıkıştırma, bunların bazen yarıya, bazen dörtte birine indirilmesi demek.

Yarıya indirilmesinde çok büyük bir zeka kaybı olmuyor, genelde %1'in altında bir kayıpla model çalışıyor. Gündelik yazışmalarda filan farkedebileceğiniz bir şey değil bu.

Ancak dörtte birine indirmeye kalktığınızda fark %5'i görebiliyor ve bu ne iş yaptığınıza göre değişen ama farkına varabileceğiniz bir etki.

Yapay zekadan en üst düzeyde zeka kalitesi ile verim alabilmeniz için mümkün olduğunca sıkıştırmasız çalışmanız lazım, özellikle uzun süren işlerde. Bunu yapabilmek için de, sadece kiralama ile yapmaya kalksanız ayda ortalama 5-6 bin dolara ihtiyacınız var.

Büyükler elbette bunu yapıyor ve karşılığ��ndaki yapay zeka kalitesi bir hayli yüksek.

Bu söylediklerim sadece LLM için değil, görsel üretimi, video üretimi, ses ve müzik üretimi için de geçerli.

Sosyal medyadaki prodüksiyonları görüp gaza gelmeyin. O prodüksiyonların ardında devasa sunucular var.

[Osman S Borutecene @osman]

@45tariqA Ouais, c'est moi.

[Osman S Borutecene @osman]

Bahaneler hazır mı?

[Osman S Borutecene @osman]

Son zamanlarda yazmak istediklerimi yazmaya vakit bulamıyorum. Bir iki hızlı not geçeceğim:

Kullandığınız yapay zeka modelleri çoğu kez durumunu bilmediğiniz bir sunucudan servis ediliyor. İster gemini olsun ister chatgpt, ister claude farketmez. Hatta openrouter gibi sağlayıcılar üzerinden yaptığınız çalışmalarda da modelin nerden servis edildiğini bilmek zor (bunu belirleyebiliyorsunuz onu sonra konuşuruz).

Bunun sebep olduğu teknik bir incelik var.

Yapay zeka her açıdan masraflı bir iş olduğundan, bize sunulan modeller belli bir sıkıştırmayla sunuluyor. Örnek vermeye çalışayım. Chatgpt'yi açıp çalışırken kullandığınız model muhtemelen 500gb-2TB arası yer kaplayan bir dosya. Bir modelin full kapasite çalışması demek, sahip olduğu parametre sayısının iki katı dosya boyutu ve GPU ram'i kullanıyor demek.

Yani sizin 1 TB parametreli bir modeli eksiksiz zeka kalitesinde çalıştırabilmeniz için 2TB gpu ram'ine ihtiyacınız var. Ayrıca aynı kalitede 'cache', yani yazışmalarınızın yapay zeka tarafından tutulup işlendiği çalışma alanında da 1 milyon token için yaklaşık 10GB ram'e ihtiyaç var.

Sıkıştırma, bunların bazen yarıya, bazen dörtte birine indirilmesi demek.

Yarıya indirilmesinde çok büyük bir zeka kaybı olmuyor, genelde %1'in altında bir kayıpla model çalışıyor. Gündelik yazışmalarda filan farkedebileceğiniz bir şey değil bu.

Ancak dörtte birine indirmeye kalktığınızda fark %5'i görebiliyor ve bu ne iş yaptığınıza göre değişen ama farkına varabileceğiniz bir etki.

Yapay zekadan en üst düzeyde zeka kalitesi ile verim alabilmeniz için mümkün olduğunca sıkıştırmasız çalışmanız lazım, özellikle uzun süren işlerde. Bunu yapabilmek için de, sadece kiralama ile yapmaya kalksanız ayda ortalama 5-6 bin dolara ihtiyacınız var.

Büyükler elbette bunu yapıyor ve karşılığındaki yapay zeka kalitesi bir hayli yüksek.

Bu söylediklerim sadece LLM için değil, görsel üretimi, video üretimi, ses ve müzik üretimi için de geçerli.

Sosyal medyadaki prodüksiyonları görüp gaza gelmeyin. O prodüksiyonların ardında devasa sunucular var.

[Osman S Borutecene @osman]

@antisiyonist271 Doğru

[Osman S Borutecene @osman]

@xredxfox @iamShnonr @celiker @enesresmitr @grok Benim kafa biraz farklı çalışıyor, ben doktor, kapıcı, şöför vs olsaydım da o tarihte açardım yine bence :)

[Osman S Borutecene @osman]

@0Anonymous587 @pasteclia_ Hayır, derste Healthcare kampanyasını işlediğim için takip ediyor (2010-bilgi halkla ilişkiler - iletişim stratejisi vakaları dersini veriyordum).

[Osman S Borutecene @osman]

@pasteclia_ Doğru

[Ali Sebetci @alisebetci_]

Gelenekselciler (René Guénon, Frithjof Schuon, Seyyed Hossein Nasr, Martin Lings, Ananda Coomaraswamy gibi isimler) bu soruya genellikle önce cevap vermez, önce soruyu sorgular. Onlara göre soru, Tanrı’yı farkında olmadan “şeylerden biri” yapan bir varsayım taşır. Cevaplarını birkaç adımda özetleyebilirim.

1. “Tanrı bir şey değildir”

“Hiçlikten bir şey çıkmaz” ilkesi, var olmak için bir sebebe ihtiyaç duyan, sınırlı ve değişen varlıklar için geçerlidir. Bunlar İslam felsefesinin diliyle “mümkün” varlıklardır. Tanrı ise bu sınıfın en büyük üyesi değildir; Schuon’un deyişiyle Mutlak’tır. Eğer Tanrı’nın bir yerden “çıkması” gerekseydi, Mutlak olmaz, zincirdeki bir halka olurdu. O zaman da asıl Tanrı, onun çıktığı kaynak olurdu. Gelenekselciler bu yüzden soruyu kategori hatası sayar. “Tanrı’yı kim yarattı?” sorusu, “dairenin merkezinin merkezi nerede?” sorusuna benzer.

2. Tanrı varlığı “almaz”, Varlık’ın kendisidir

Nasr bu noktada İbn Sînâ’ya ve Molla Sadrâ’ya dayanır. Tanrı, varlığı bir yerden edinmiş bir varlık değildir; Vâcibü’l-vücûd’dur, saf Varlık’tır (Vücûd-u mutlak). Varlığın varlığını nereden aldığını sormak anlamsızdır. Islaklığın neden ıslak olduğunu sormak gibidir. Mümkün varlıkların varlığı ödünçtür, Tanrı’nınki ise özünden gelir.

3. “Çıkmak” fiili zamanı varsayar

Bir şeyin bir yerden “çıkması” bir önce ve bir sonra gerektirir. Guénon’a göre zaman, mekân, form ve sayı, tezahür etmiş (manifest) dünyanın şartlarıdır. İlke ise bu şartların üstündedir. Tanrı ezelîdir, yani zaman içinde sonsuza kadar uzanan bir süreye değil, zamanın dışına aittir. Dolayısıyla “Tanrı’dan önce ne vardı?” sorusunun bir “önce”si yoktur.

4. Guénon’un tersine çevirmesi: asıl “hiç” olan dünyadır

Bu Gelenekselcilerin en özgün katkısıdır. Guénon’a göre Mutlak, “Tümel İmkân” (Possibilité universelle) yani sonsuzdur, dışında hiçbir şey kalamaz. Mutlak bir hiçlik bu yüzden düşünülemez bile; o sadece bir sözcüktür. Guénon’un “Lâ-Varlık” (Non-Être) dediği şey boşluk değildir. Varlık’ın da üstündeki tezahür etmemiş İlke’dir; Schuon buna “Varlık-Ötesi” (Beyond-Being) der. Mutlak’a kıyasla “göreli olarak hiç” olan ise evrendir, yani Hint geleneğinin Mâyâ’sı. Böylece soru tersine döner: Tanrı hiçlikten çıkmış değildir. Hiçliğe yakın olan, varlığını ondan ödünç alan kâinattır.

5. Akıl ile entelekt ayrımı

Gelenekselciler son olarak şunu ekler: Bu mesele, adım adım ilerleyen akılla (ratio) tam çözülmez. Doğrudan kavrayan entelekt (intellectus, ʿakl) ile “görülür”. Zihnimiz her şeye bir sebep aramaya alışkındır. Ama sebepler zincirinin bir dayanağı olmak zorundadır, aksi halde zincirin tamamı havada kalır. Bu dayanak sebepsizdir, çünkü sebep olmanın kendisidir.

Kısa bir eleştiri notu

Karşı görüşü de belirtmek gerekir. Hume ve Kant’tan beri bazı filozoflar “zorunlu varlık” kavramının tutarlı olup olmadığını sorgular. “O halde neden evrenin kendisi zorunlu olmasın?” diye de sorarlar. Gelenekselciler buna, evrenin değişken, parçalı ve sınırlı olduğu, dolayısıyla zorunlu olamayacağı cevabını verir. Ancak bu tartışma felsefede hâlâ açıktır.

Fizikteki “hiçlikten evren” modellerinde bile kuantum vakumu ve onu yöneten yasalar zaten “bir şey”dir. Gelenekselciler bunu kendi tezlerinin bir teyidi olarak okur: Gerçek bir hiçlikten söz etmek, fizikte de mümkün görünmüyor.

Okumak isterseniz en doğrudan kaynaklar Schuon’un Form and Substance in the Religions ve Guénon’un Les États multiples de l’être (Varlığın Çoklu Halleri) adlı eserleridir.

[Osman S Borutecene @osman]

You give them ability to search the web and it gathers information on what you ask for. If it doesn't have access to search, then it cannot inform you about next week's events. That doesn't mean the model became online, that's the same method subscribtion models use. Your chats with the local ai still stay local. It is possible to keep your privacy by enabling search to the model and keeping your chats local. Only the search string the model uses goes out to the internet.

Of you want to dig deeper on privacy and offline model running, also have a look at what chat templates your model/software is using. Also mcp servers can leak data too.

[Osman S Borutecene @osman]

@SunayDemircan @Beserisanatlar Spotlarda uyusun

[Osman S Borutecene @osman]

Tinto Brass vefat etmiş. Dünyayı, dolayısıyla globalizmi, Amerikan kokulu bir yerden ibaret olmaktan çıkartan insanlardan biriydi. Toprağı bol olsun.

[Osman S Borutecene @osman]

@tnjaltunn @Marmaraytcdd Yol kapandı demiyor, enerji kesintisine neden oldu diyor. Bir an evvel hallederler inşallah

[Osman S Borutecene @osman]

@omerfaruk1627 Benim twitimden 5000 puan gibi bir anlam çıkartılabiliyorsa, bu kısım gerçekten benim elimde değil. Ben yazdıklarımın bir hayli açık olduğunu düşünüyorum, bir fiyata da işaret etmedim.

[Osman S Borutecene @osman]

Bu twit şu anda 47 yoruma ulaşmış durumda. Bunların aşağı yukarı yarısının özeti şöyle: Niye konuşuyorsun? Neden ağzını açtın?

İnsanların görüş belirtmeye dair ciddi sorunları var. Bütün dünyada böyle bu.

Aslında bir önceki Cuma yazacaktım ama yazıp yazıp silmiştim: Benim gözümde önemli gösterge, bist'in uzun vadeli bir trend çizgisinin altında ($234-$236) hafta kapatmış olmasıydı.

Bana göre bunun anlamı, $234 altında bir süre kalıcı olacağıdır.

Tekraren söylemek isterim ki, yatırım tavsiyesi değildir. Ben burda bir görüş, bir yorum belirtiyorum. Kimseye al-sat demiş değilim. Benim görüşüme göre bu ayı borsasıdır.

[Osman S Borutecene @osman]

Yatırım tavsiyesi değildir.

Borsa İstanbul yükseliyor. Çünkü düşmeden önce shortları patlatmak zorunda.

Finans piyasalarında yatırımcıların %95'i kaybedenlerden oluşur. Bunun sebebi ise sabırsızlık ve tecrübesizliktir.

Genel müdürü göz altına alınmış bir borsanın düşüş yaşamasını bekleyebilirsiniz. Market maker sizin bu beklentiniz bilir, düşüş yönlü pozisyon alacağınız ayan beyan ortada olduğundan pazartesi salı o borsa düşmez.

Esas düşüş, artık herkes düşüş olmayacağına inanınca gerçekleşir.

[Osman S Borutecene @osman]

@gocmen_tufan Mümkün değil :)

[Osman S Borutecene @osman]

@ali_simsek44900 Hiçbir finansal unsur dümdüz yukarı veya dümdüz aşağı gitmez, zigzag yaparak iner veya çıkar. Ben şahsen üç beş günlük verilere bakmam. Daha uzun vadeli göstergelere bakarım.

[Osman S Borutecene @osman]

Yatırım tavsiyesi değildir.

Borsa İstanbul yükseliyor. Çünkü düşmeden önce shortları patlatmak zorunda.

Finans piyasalarında yatırımcıların %95'i kaybedenlerden oluşur. Bunun sebebi ise sabırsızlık ve tecrübesizliktir.

Genel müdürü göz altına alınmış bir borsanın düşüş yaşamasını bekleyebilirsiniz. Market maker sizin bu beklentiniz bilir, düşüş yönlü pozisyon alacağınız ayan beyan ortada olduğundan pazartesi salı o borsa düşmez.

Esas düşüş, artık herkes düşüş olmayacağına inanınca gerçekleşir.

[Osman S Borutecene @osman]

@Ahmet_Usta_ İlgilenmiyorum :) haberim var

[Osman S Borutecene @osman]

Yıllardır nerdeyse hayatın anlamına karşılık gelecek twitler yazıyorum, yürüyen twitim bu oldu. Çok acayip geliyor bana. Ama öğrenmenin yaşı yok tabi.

[Osman S Borutecene @osman]

Yatırım tavsiyesi değildir.

Borsa İstanbul yükseliyor. Çünkü düşmeden önce shortları patlatmak zorunda.

Finans piyasalarında yatırımcıların %95'i kaybedenlerden oluşur. Bunun sebebi ise sabırsızlık ve tecrübesizliktir.

Genel müdürü göz altına alınmış bir borsanın düşüş yaşamasını bekleyebilirsiniz. Market maker sizin bu beklentiniz bilir, düşüş yönlü pozisyon alacağınız ayan beyan ortada olduğundan pazartesi salı o borsa düşmez.

Esas düşüş, artık herkes düşüş olmayacağına inanınca gerçekleşir.

[Osman S Borutecene @osman]

@ayayla1 Yatırım tavsiyesi olmadığını tekrar hatırlatarak; benim görüşüm bir sonraki destek noktasının 170$ civarında durduğu.