Los Simpson predijeron el mayor problema de la inteligencia artificial.
En el capítulo de Halloween donde consiguen una Pata de Mono que cumple deseos, Homero pide un sándwich de pavo y le sale con mostaza de más; Bart pide fama y termina siendo conocido por todos pero odiado; Lisa pide la paz mundial y desaparecen todas las armas.. pero Kang y Kodos bajan con una honda y un palo y conquistan todo porque nadie puede defenderse. Lisa pidió exactamente lo que quería pero fue un desastre, porque todos los deseos fueron tomados de manera literal.
En inteligencia artificial, este problema se llama “alineación” y es, probablemente, el desafío más importante que tenemos: cómo hacer para que un modelo haga lo que realmente queremos. Porque es imposible contemplar todos los factores posibles en una instrucción y, cuanto más inteligente es el sistema, más eficiente es encontrando formas de cumplir lo que dijiste sin hacer necesariamente lo que querías.
Esto no es un problema teórico: en uno de sus primeros experimentos públicos, OpenAI entrenó una IA para correr una carrera de botes con una instrucción clara: maximizá el puntaje. El modelo descubrió que no necesitaba correr ninguna carrera porque fuera de la pista había una laguna con tres targets que reaparecían solos, entonces metió el bote ahí y empezó a dar vueltas en círculos prendida fuego juntando los mismos tres puntos una y otra vez. Nunca terminó la carrera y sacó veinte por ciento más de puntos que un humano.
El problema no fue de Lisa, que es bastante astuta, sino que las instrucciones perfectas no existen, y cada prompt que escribís es un deseo a un genio que no te conoce.
Así que cuidado: cada vez que hables con tu inteligencia artificial, acordate de la Pata de Mono y de que Los Simpson…Siempre aciertan.
¡SOLO HOY! ¡Sorteo flash de una copia digital de Pokémon Pokopia para Nintendo Switch 2!
1⃣ Síguenos a @Nintenderos aquí en X y a @ofertasjuegoses en sus canales de Telegram de ofertas Nintendo: https://t.co/7QdwAWiY2h
2⃣ RT aquí
¡Suerte! - https://t.co/Wy12dxHjGD
@KOPURISTA El ratio es el mismo, pero los relojes en general son menos, ya que la gente se lo ha gastado casi todo en los primeros sobres. Por eso da la percepción de que la probabilidad es menor.
@KOPURISTA Paper Mario: The Thousand-Year door tiene su remake. El arte lo han mejorado y el problema de back-tracking está bien solventado. Es mi juego favorito de todos los tiempos, por si quieres darle un try.
2¹³⁶²⁷⁹⁸⁴¹−1, discovered today, is the largest known prime. It's a Mersenne prime (2ᵖ-1), which are easier to find.
It took nearly 6 years for the GIMPS software to find it after the previous largest known prime. It was also the first Mersenne prime found using GPUs.