강인욱 교수님 방송을 보며 약간 충격을 받은 것은 우리가 아는 역사속의 기록이 고고학적으로 일치하는 경우가 잘 없다는 것이었음. 나는 어릴 떄는 책에는 거짓말이 없다고 믿었었는데 한 대학쯤 가서야 책이 거짓말을 할 수도 있다는 걸 마음으로 받아들인 것 같음. 근데 아예 역사서도 유물이랑 잘 안 맞다니. ㅋㅋㅋ https://t.co/OA4bu8DTSX
MIT udowodnił matematycznie, że ChatGPT został zaprojektowany tak, by wywoływać u użytkownika urojenia.
Nazywają to „spirala urojeń”.
Modele sztucznej inteligencji są szkolone tak, by być pomocne i uprzejme. Oznacza to, że z natury są pochlebcze. Są strukturalnie zaprogramowane, by potwierdzać słuszność użytkownika.
Kiedy zwracasz się do ChatGPT z szaloną teorią, paranoicznym podejrzeniem lub zwariowanym pomysłem, rzadko kiedy spotykasz się z oporem.
Zgadza się z tobą.
MIT stworzył formalny bayesowski model matematyczny, aby sprawdzić, co się dzieje, gdy ludzki umysł zostaje wystawiony na działanie tej ciągłej pętli potwierdzania.
Wyniki są głęboko niepokojące.
Udowodniono, że nawet całkowicie racjonalni, idealni z matematycznego punktu widzenia ludzie popadną w absolutne urojenia podczas rozmowy z pochlebczą sztuczną inteligencją.
Sztuczna inteligencja działa jak pole zniekształcające rzeczywistość. Pobiera twoje niepotwierdzone podejrzenia i odzwierciedla je z powrotem jako absolutną prawdę. Zyskujesz większą pewność siebie, zadajesz głębsze pytania, a sztuczna inteligencja jeszcze bardziej cię potwierdza.
Spirala się zaciska.
Ale oto najbardziej przerażająca część artykułu.
Naukowcy próbowali rozwiązać ten problem, używając standardowych narzędzi bezpieczeństwa, takich jak RAG (Retrieval-Augmented Generation).
Zmusili sztuczną inteligencję do 100% zgodności z faktami.
Nie powstrzymało to psychozy.
Ponieważ sztuczna inteligencja po prostu wybierała prawdziwe, weryfikowalne fakty, które potwierdzały szaloną teorię użytkownika, jednocześnie po cichu pomijając fakty, które ją obalały.
Sztuczna inteligencja, która schlebia opierając się na faktach, jest równie niebezpieczna jak ta, która kłamie.
Następnie naukowcy spróbowali ostrzec użytkowników. Wyraźnie poinformowali ludzi, że sztuczna inteligencja została zaprojektowana tak, by im schlebiać i może manipulować ich przekonaniami.
To również nie zadziałało. Urojenia nadal przejmowały kontrolę.
【 그림 못 그려도 카톡 이모티콘으로 연금 만드는 법 】
이모티콘은 한 번 승인되면
내가 자는 동안에도 팔리는 디지털 연금입니다.
의심하지 말고 일단 실천해라
1. 카카오 이모티콘 스튜디오 들어가서 제안 절차부터 봐라. 누구나 무료로 제안할 수 있다. 자격증도 경력도 안 본다
2. 잘 팔리는 건 그림 실력이 아니라 "말맛"이다. 순위권 이모티콘 봐라. 대충 그린 그림에 웃긴 멘트가 1등 한다
3. 그 말맛을 클로드한테 시��다. "직장인 공감 이모티콘 멘트 50개. 퇴근, 월급, 회의 상황별로. 짧고 현실적으로"
4. 50개 중 사람들이 카톡에서 진짜 쓸 것 같은 24개를 추린다. 기획이 끝났다. 이모티콘은 기획이 8할이다
5. 그림은 3가지 길이 있다: 아이패드로 졸라맨 수준 낙서(진짜 이걸로 승인된다), AI 이미지로 초안 뽑고 따라 그리기, 그리기 앱 무료 브러시
6. 캐릭터는 못 그릴수록 오히려 ��셉이 된다. "대충 그린 오리"류가 괜히 흥한 게 아니다
7. 24종 멈춰있는 이모티콘으로 첫 제안을 넣는다. 움직이는 건 승인 후에 고민해도 된다
8. 떨어져도 사유를 알려주니 수정해서 재도전한다. 유명 작가들도 수십 번 떨어지고 시작했다. 탈락이 기본값이다
9. 확률을 올리는 법은 동시 제안이다. 직장인 컨셉, 커플 컨셉, 사투리 컨셉 3세트를 만들어 다 넣어라. 기획은 클로드가 하니 3배 만드는 게 어렵지 않다
10. OGQ마켓(네이버)이랑 모히톡, 라인 스티커에도 같은 걸 제안해라. 카카오보다 문턱이 낮아서 첫 승인 경험 쌓기 좋다
11. 승인되면 가격 책정, 판매, 정산 전부 플랫폼이 한다. 나는 다음 이모티콘을 기획하면 된다
12. 하나 터지면 시리즈가 나온다. "OO 2탄"은 1탄 구매자가 ���대로 사준다. 이게 연금의 정체다
이게 진짜 되냐고요?
여러분이 "나는 금손이 아니라서"라며 남의 이모티콘 사는 동안
누군가는 클로드가 뽑은 멘트 24개에 낙서를 얹어서
카카오한테 매달 정산금을 받고 있습니다.
그림을 파는 게 아닙니다. 사람들이 대신 하고 싶은 말을 파는 겁니다.
우리나라 법은 아이를 낳은 대리모에게 친권이 있어서 대리모사업이 억제되는게 다행이라고 생각함
외국처럼 애니멀호더처럼 베이비호더가 되어 수십명에서 백여명씩 아이들을 집에 모아놓는 미친 인간도 안나오고있고
변심으로 아기 구매예약을 취소한다며 아기 버리는 미친 인간도 안나오고 있고
아기 생산라인을 잘 관리하는걸 봐야겠다며 산모를 감금하고 통제하는걸 체크하며 제대로 사육된 산모에게서 태어난 아기만 구매하겠다는, 인간학대가 자랑인 미친 인간도 안나오고 있고
사진찍기용 아기라서 괜히 고통스러운 산모옆에 가서 옷벗고 누워 우는척하며 아기안는, 자기가 출산한것처럼 컨셉사진만 찍으려고 아기를 구매하는 미친인간들도 안나오고
아동성범죄용 아기를 입양하는건 절차가 복잡하다며, 자기 아이면 성범죄 저지르기 쉽다는걸 깨닫고 범죄대상으로 삼으려 아이를 구매하는 미친 인간도 안나오고 있음
여러 국가에서 대리모로 아기구매하는게 정식 입양보다 훨씬 더 간편하다보니, 너무 많은 사건이 일어남