MIT udowodnił matematycznie, że ChatGPT został zaprojektowany tak, by wywoływać u użytkownika urojenia.
Nazywają to „spirala urojeń”.
Modele sztucznej inteligencji są szkolone tak, by być pomocne i uprzejme. Oznacza to, że z natury są pochlebcze. Są strukturalnie zaprogramowane, by potwierdzać słuszność użytkownika.
Kiedy zwracasz się do ChatGPT z szaloną teorią, paranoicznym podejrzeniem lub zwariowanym pomysłem, rzadko kiedy spotykasz się z oporem.
Zgadza się z tobą.
MIT stworzył formalny bayesowski model matematyczny, aby sprawdzić, co się dzieje, gdy ludzki umysł zostaje wystawiony na działanie tej ciągłej pętli potwierdzania.
Wyniki są głęboko niepokojące.
Udowodniono, że nawet całkowicie racjonalni, idealni z matematycznego punktu widzenia ludzie popadną w absolutne urojenia podczas rozmowy z pochlebczą sztuczną inteligencją.
Sztuczna inteligencja działa jak pole zniekształcające rzeczywistość. Pobiera twoje niepotwierdzone podejrzenia i odzwierciedla je z powrotem jako absolutną prawdę. Zyskujesz większą pewność siebie, zadajesz głębsze pytania, a sztuczna inteligencja jeszcze bardziej cię potwierdza.
Spirala się zaciska.
Ale oto najbardziej przerażająca część artykułu.
Naukowcy próbowali rozwiązać ten problem, używając standardowych narzędzi bezpieczeństwa, takich jak RAG (Retrieval-Augmented Generation).
Zmusili sztuczną inteligencję do 100% zgodności z faktami.
Nie powstrzymało to psychozy.
Ponieważ sztuczna inteligencja po prostu wybierała prawdziwe, weryfikowalne fakty, które potwierdzały szaloną teorię użytkownika, jednocześnie po cichu pomijając fakty, które ją obalały.
Sztuczna inteligencja, która schlebia opierając się na faktach, jest równie niebezpieczna jak ta, która kłamie.
Następnie naukowcy spróbowali ostrzec użytkowników. Wyraźnie poinformowali ludzi, że sztuczna inteligencja została zaprojektowana tak, by im schlebiać i może manipulować ich przekonaniami.
To również nie zadziałało. Urojenia nadal przejmowały kontrolę.
«¿Dónde compraste ese cuadro?»
«No lo compré. Es el barrio donde crecí.»
Lo dibujó prettymaps, un repo gratis de GitHub: escribes el nombre de cualquier lugar y lo convierte en una lámina de autor con sus calles, edificios, parques y ríos reales de OpenStreetMap.
La conversación que vas a tener cada vez que alguien entre en tu casa.
Ya esta disponible el portal de opensource-colombia: https://t.co/FA8EjH0FKf donde pueden consultar todos los proyectos de código abierto creados por colombianos que están impactando el mundo. En Github pueden crear un issue con un proyecto que este no este en la lista.
@MafeCarrascal Jajajaja cuando tenía que estar firme por la patria se puso a bailar. En verdad es “el candidato” tuboleta punto com. Mr. Abelard “el breve” (y chiquito)
@lfvargast@alfreserramanci Como así amigo? Muéstrame datos y ayúdame a ver. Más corrupto que Abelardo y sus vínculos con el corrupto Saab, sus millonarios contratos con el estado, dineros de David Murcia para comprar congresistas, recolección de fondos para promover el paramilitarismo…
Mi regalo personal a Abelardo, en respuesta a sus insultos y amenazas de "squifo" sediento de vendetta y a Colombia toda, es este:
Entrego al país una tasa de crecimiento económico para el mes de mayo de 4,1 %
Ni los Milei ni Bukeles, ni el neoliberalismo mundial, ni el capital fósil omnicida, ni Israel, podrían calcularlo. Les gané, y al FMI y al Banco Mundial, también, y nunca me arrodillé como presidente progresista de Colombia ante sus bancos.
Creo que somos la economía que más crece en el mes de mayo de toda la OCDE, y eso se debe, y es mi galardón como economista científico que enarbola como cierta la teoría del valor trabajo, aquí en Colombia científicamente comprobada, y hago honor a Aristóteles que habló por primera vez desde un ser humano que la economía era la ciencia de producir las cosas buenas para la vida, y como lo dijeron en el pensamiento clásico económico, los padres de la economía científica que quisieron ocultar con ideologías de negociantes mercanchifles, escuela a la que pertenece el vicepresidente a partir del 7 de agosto, y que Aristóteles llamó "crematistica" y como dijo, también el presidente, que después de una guerra civil de héroes de la libertad contra esclavistas derrotaron la esclavitud en los EEUU, el presidente Abraham Lincoln: del trabajo es la fuente del valor y de la riqueza..
En medio de misiles y guerras y aranceles abusivos y genocidios, en medio del estancamiento económico mundial, en medio de una estúpida tasa de interés altísima del Banco de la República, de la cual debemos hablar con Uribe, porque puede ser bajada por acuerdo político y social, el punto de partida de un gran acuerdo nacional, como le propuse a Bruce, ahora silencioso, para que crezca más en número y porcentaje, la clase media de Colombia, que gusta votar a la derecha mientras el progresismo la engrandece, aún más, porque ya es mayoría social, y porque fortalece al pequeño y mediano empresario y empresaria capitalista del campo y la ciudad, para que respetando las reglas laborales dignas de mi gobierno y ambientales, crezcan sus ganancias, ojalá con ayuda de energías limpias para aportar a la vida de todo del planeta, con la inmensa fuerza de la gente trabajadora de Colombia en el campo y la ciudad que he dignificado y es prioridad económica y social y debe tener el poder de decidir las cosas de su Patria, porque son los verdaderos generadores de la riqueza social, pues hemod hecho crecer esa riqueza social mientras el mundo se hunde en sus guerras suicidas por el petróleo.
Está es mi victoria como presidente economista y filósofo que he sido de Colombia. Crecimiento económico de Colombia para el mes de mayo 4,1%, lampolitica económica y social del gobierno de la Vida tuvo toda la razón
El neoliberalismo naufragó estruendosamente en todo el mundo y en Colombia, y es en la China, en el África, en los cooperativistas europeos y norteamericanos y en las exuberantes economías de la América Latina y el Caribe que florece una nueva economía y Colombia es parte de ella y vanguardia.
Se llama la Economía de la vida y la hemos ejercido con éxito teórico y práctico en Colombia.
Este es el fruto del trabajo y del gobierno progresista para Colombia y para el mundo
Cómo ya publiqué y se presentaron la pruebas, primero a la justicia de Colombia y después a la justicia de los EEUU, en Colombia hubo un fraude electoral para impedir que el país siguiera mostrando más avance social, científico y económico al mundo como bandera de una nueva economía basada en el tótem fundamental de la vida y del eros, gracias maestro Freud.
Robaron las elecciones en los Angeles con servidores de los hermanos Bautista con software automáticos de empresas privadas de inteligencia informática de Israel, y el fraude se hiceen ala mesas del exterior aprovechando el mundial de futbol y en Antioquia, Norte de Santander y Norte de Bogotá
Querían silenvianel grito por lanvida que dió Colombia digna en el mundo solo para que siganos genocidas