ChatGPT several times where's best to go for spring break? It recommends Barcelona almost every time.
This isn't a fluke. RL training rewards one best answer, so the model learns to commit to one mode and repeat it.
Meet Multi-Answer RL: a simple RL method that trains LMs to reason through and output a distribution of answers in a single generation. [1/N]
Mis dos céntimos sobre por qué el slop no es sólo un problema estético sino una enmienda total al internet pre ChatGPT.
Si nos acordamos de cuando Bill Gates prometió en 2004 que el spam se resolvería en dos años (y erró), también lo haremos que no se le hizo caso en lo de cobrar por enviar mails.
La IA generativa ha trasladado la lógica del spammer del correo electrónico a podcasts, canciones, vídeos y posts.
Un episodio de podcast cuesta menos de 1 dólar, es rentable con 20 oyentes. Deezer detecta 60.000 canciones de IA al día, el 80% de sus reproducciones de música IA son fraude. El 21% de lo que YouTube recomienda a usuarios nuevos es generado con IA.
Las redes sociales crecieron ofreciendo que cualquiera podía crear una cuenta en segundos, publicar sin intermediarios y competir en igualdad de condiciones contra los actores establecidos. Ese anonimato fácil y esa barrera de entrada nula eran gran parte de su gran atractivo, enmienda completa al modelo de los medios tradicionales.
Pero la lógica del spammer que les acecha con inteligencia artificial les está obligando a reaccionar. Primero poco a poco, pero yo creo que van a tener que cambiar de modelo.
A fondo en https://t.co/NUEjsZMn0y
Worth repeating:
Do not confuse retrieval with reasoning.
Do not confuse rote learning with understanding.
Do not confuse accumulated knowledge with intelligence.
New feature, new swag. Introducing the new Tinyshirt: Versions Edit.
Because now iterating your Data Projects is fun. Just like tangrams.
Want one?
First 25 retweets on our announcement post get it FOR FREE.
Crecemos en Shoppermotion! Buscamos una persona con ganas de trabajar en producto y que nos ayude a ser mejores! Nuestro stack es JS, Rails, Scala y Python. Si os interesa o conocéis a alguien escribirme por privado por favor. Se agradece difusión! 🙏
https://t.co/Gn2nNtQk23
Abro hilo sobre #Omicron para políticos, periodistas alarmistas, tertualianos “todólogos”, amigos que me habéis preguntado estas semanas, y todo el que lo quiera leer.
Lo que hace la inmensa mayoría de virus de la historia, igual q el resto de seres vivos es ADAPTARSE al medio,