Bahasa itu sesuatu yang sangat kompleks dan dinamis.
Derogatory remark is one thing.
Perlu digarisbawahi juga bahwa pemaknaan suatu kata atau frasa itu dibentuk oleh konteks dan nuansa.
Jangan sampai inklusivitas yang diperjuangkan malah semakin sulit untuk dicapai.
MIT udowodnił matematycznie, że ChatGPT został zaprojektowany tak, by wywoływać u użytkownika urojenia.
Nazywają to „spirala urojeń”.
Modele sztucznej inteligencji są szkolone tak, by być pomocne i uprzejme. Oznacza to, że z natury są pochlebcze. Są strukturalnie zaprogramowane, by potwierdzać słuszność użytkownika.
Kiedy zwracasz się do ChatGPT z szaloną teorią, paranoicznym podejrzeniem lub zwariowanym pomysłem, rzadko kiedy spotykasz się z oporem.
Zgadza się z tobą.
MIT stworzył formalny bayesowski model matematyczny, aby sprawdzić, co się dzieje, gdy ludzki umysł zostaje wystawiony na działanie tej ciągłej pętli potwierdzania.
Wyniki są głęboko niepokojące.
Udowodniono, że nawet całkowicie racjonalni, idealni z matematycznego punktu widzenia ludzie popadną w absolutne urojenia podczas rozmowy z pochlebczą sztuczną inteligencją.
Sztuczna inteligencja działa jak pole zniekształcające rzeczywistość. Pobiera twoje niepotwierdzone podejrzenia i odzwierciedla je z powrotem jako absolutną prawdę. Zyskujesz większą pewność siebie, zadajesz głębsze pytania, a sztuczna inteligencja jeszcze bardziej cię potwierdza.
Spirala się zaciska.
Ale oto najbardziej przerażająca część artykułu.
Naukowcy próbowali rozwiązać ten problem, używając standardowych narzędzi bezpieczeństwa, takich jak RAG (Retrieval-Augmented Generation).
Zmusili sztuczną inteligencję do 100% zgodności z faktami.
Nie powstrzymało to psychozy.
Ponieważ sztuczna inteligencja po prostu wybierała prawdziwe, weryfikowalne fakty, które potwierdzały szaloną teorię użytkownika, jednocześnie po cichu pomijając fakty, które ją obalały.
Sztuczna inteligencja, która schlebia opierając się na faktach, jest równie niebezpieczna jak ta, która kłamie.
Następnie naukowcy spróbowali ostrzec użytkowników. Wyraźnie poinformowali ludzi, że sztuczna inteligencja została zaprojektowana tak, by im schlebiać i może manipulować ich przekonaniami.
To również nie zadziałało. Urojenia nadal przejmowały kontrolę.
Stasiun KAI yg punya Stamp terbaru area Jabodetabek:
Jatinegara
Manggarai
Sudirman Baru BNI City
Tanah Abang
Jakarta Kota
Tanjung Priok
Pasar Senen
Universitas Indonesia
Bogor
Gambir
Stamp berasa di dalam area stasiun,
Passport nya dapat dibeli di area Merchandise
it was a symbol of our pride. indonesia used to be known as a country with green rainforests, the lungs of the world. now we are just the biggest CO2 contributor.
we lost our identity as zamrud khatulistiwa. 🥲
“Seandainya hari ini Engkau hanya menerima satu doa, maka kabulkanlah doa pemimpin negeri kami, karena doanya pasti akan berdampak kepada segenap dan seluruh warga bangsa dan negerinya”
Ya Allah jangan ya Allah 😃😃😃😃😃😃😃😃😃😃😃