Good starting assumptions for philosophizing:
1) Skepticism is false: we know some stuff.
2) Nihilism is false: something matters.
3) Any views which entail skepticism or nihilism should be discarded.
Build from there.
1/ I finally read Leopold Aschenbrenner's essay series on AI: Situational Awareness
Everyone, regardless of your interest in AI, should read this.
I took notes, they're sloppy but figured I'd share.
Welcome to the future:
1. Not much going on today, so here's a personal magnum opus on how neuroscience is pre-paradigmatic and its results are not even wrong. (link in image, also a 🧵) https://t.co/ZSE81e1J83
Kadın sporculara “kızlar, kızlarımız, bu kızlar, bunlar” deniyor da erkek sporculara “oğlanlar, oğullarımız, bu oğlanlar” denmiyor.
Cinsiyetçilik aynı ırkçılık gibidir, bulduğu her çatlaktan sızar.
Başka deyişle “kültür” kendini hep ele verir.
@OrientusPrime Yalnız videoda başta expected return hesaplarken yanlış hesaplıyor. Aritmetik ortalama alıyor, geometrik ortalama alması lazım. Aslında bu bahis ortalamada her elde %10 kaybettiriyor.
Videonun ana mesajı doğru tabii hala.
@tfnkymz Sonuçta kimse olayları tam olarak olduğu şekilde hatırlamıyor. Hafıza gerçekliğin objektif bir kopyası değil. Geçmişte yaşadığım/söylediğim şeye dair benim hafızam sadece benim zihnimde olan bir şey. Bu sanki başkalarında da varmış gibi bir hisle hareket ediyoruz utanırken.
@tfnkymz Geçen tam da bunun hakkında düşünüyordum. Aslında geçmişin kendisi hakkında utanmıyoruz, başkalarının zihninde bizim hafızamızın bir benzeri varmış gibi hayal edip ondan utanıyoruz. Ki bu utanmak için bayağı garip bir şey.
İnsanlar kapitalizmin ne demek olduğunu bilmiyor herhalde.
İnsanlığın gelişiminin doğal sonucu değil mi bunlar? Olumsuz sonuçların sorumlusu kapitalizm, peki olumlu sonuçların sorumlusu kim?
İnsanı gerizekalı yapmanın yolunu buldu kapitalizm: Olguların nedenlerini düşünemeyecek kadar hayatı hızlandır, enformasyon bombardımanına tut, nedenlere değil sonuçlara itibar etmenin realizm olduğuna inandır, neden sorgulayanı romantik saflar ilan et. Pırıl pırıl aptallık çağı.
It all comes down to whether ASI is as dangerous as nukes. I think it is. If we can create a digital John von Neumann with our current approach, it would be as dangerous as a nuclear weapon if people could freely manipulate its parameters.
@JosephJacks_'s argument is this: The fact that "People can use X to do harm" is not enough to restrict people's access to it. In general, X will also be used for good. Restricting it would cause more harm in the long run.
A mistake that idealistic people often make is forgetting that there are always trade-offs. Open source philosophy has a lot of value to it. This does not mean there should be no caution whatsoever, though. There is no benefit to allowing people to freely and openly build nukes.
Yeni bir ilişkiye/arkadaşlığa başlarken kendini filtrelemek uzun vadede neredeyse hiçbir zaman faydalı olmayacak bir şey.
Hem anlaşamayacağın insanlarla vakit kaybetmiş, hem de gerçekten anlaşabileceğin insanlara yollayabileceğin bir sinyali yollamamış oluyorsun.
Bence en çok önem verdiğimiz, en çok tutkuyla bağlandığımız şeyler hakkında özellikle konuşmak lazım ilk buluşmada. Hele ki bunlar çoğunlukça ilgi gören şeyler değilse. Tabii burada amaç ikinci buluşmayı garantilemek değil, tam tersine, ikinci buluşmaya uygun olmayanları elemek.
I may work full-time on climate, but definitely see AI as the bigger risk. It's not even close. Warming is bad, but human extinction is not on the list of outcomes.
Not sure what your intention was @_david_ho_ but we ofc can and should work on several problems at the same time.