ChatGPT has now a big problem.
Researchers at Oxford and Cambridge exposed a massive threat to large language models.”
They call it “model collapse."
Internet ecosystem is rapidly changing, and generative AI will soon contribute much of the text found online. This forces us to consider what happens to future iterations like gpt-n when they are trained on data scraped from the web that was already generated by an llm.
According to the research, indiscriminately using model-generated content in training causes "irreversible defects" in the resulting ai. the model loses the "tails of the original content distribution." in other words, it begins to forget the creative, fringe, and unique nuances of actual human writing, collapsing into a repetitive echo chamber.
This isn't just a chatgpt issue.. the researchers built theoretical intuition showing this collapse is ubiquitous across learned generative models, occurring in large language models as well as in variational autoencoders and gaussian mixture models.
Tech companies rely on scraping the internet for large-scale data to build smarter models. However, the paper warns that if we want to sustain the benefits of training on web data, model collapse must be taken seriously.
Ultimate takeaway? data collected from genuine human interactions is going to become increasingly valuable in a web filled with ai content.
your timeline convinced you AI is in a bubble. talk to a boomer above the age 35 for 5 minutes.
most people don’t even know what claude is.
kind of wild when you zoom out.
Estaba en el gym y escuché a una chica de unos 24 años contar que casi entra a trabajar a YPF y no sé bien por qué no quedó. La parte que me sorprendió fue cuando otro flaco de su edad le dijo: “ya te veías comprándote el último iphone con el primer sueldo”, y me hizo pensar.
No sé si será que me estoy poniendo grande 😅, pero me entristece un poco que para muchos el mayor objetivo sea comprarse un celular. Creo que sería muy importante que en los colegios enseñen educación financiera. Es algo que lo pienso cada vez más.
Si tienes un equipo —o una familia— que liderar, y no has leído “El hombre mediocre”, de José Ingenieros, corre a comprarlo. Es un extraordinario tratado sobre el contraste entre la excelencia y la mediocridad, entre el genio creador y el conformismo barato, entre la grandeza y la hipocresía cobarde.
Cada página desborda verdades y principios morales que resuenan y construyen en las almas grandes, dignas, sin dejarle hueso sano a quienes aceptan el yugo del rebaño, se resignan a ser domesticados, agachan la cabeza y se dejan cortar las alas.
Es un libro que ofenderá mortalmente a los defensores de la mediocracia, del buenismo —y de la BURROcracia—, pero que hará vibrar a quienes tienen sueños, ambiciones y talento.
Está lleno de principios para salirse de la trampa de lo tibio y del conformismo, y atreverse a ir en pos de algo más grande, más alto, de un Ideal: a imaginar una “perfeccion”, y luchar con todo lo que tienes para construirla.
Muy recomendado.
Si sos CEO, Director o Gerente tenes que ver este video que sobre el error que cometen empresarios eligiendo una agencia de performance marketing que no se responsabiliza por tu empresa:
https://t.co/kYogBFdAgZ
Dado que no existe video alguno que explique a detalle las plantillas de WhatsApp API en YouTube hice un video completo donde te enseño todas las existentes.
Las de MARKETING y las de UTILITY. Cómo crear plantillas personalizadas, flows, carruseles y difusion.
Elon Musk acaba de robarle a Mark Zuckerberg 18 de los mejores ingenieros de inteligencia artificial.
Zuckerberg ofreció a sus ingenieros 250 millones de dólares a cada uno para que se quedaran en Meta.
Pero Elon les dio algo que el dinero no podía comprar y abandonaron Meta inmediatamente.
Esta es la oferta que el propio equipo de Zuck no pudo resistir:
Acabo de ver Wall-E
Si la película esa de hace unos 11 años que iba sobre un robot super mono🤤
Estoy sin palabras, es preciosa solo hay que entenderla, pero muy triste, no hemos mejorado en nada, pasa justo lo que predice😥
Cantar al amor ya no bastara
es poco para mi
si quiero decirte que nunca habrá
Cosa mas bella que tu
cosa mas linda que tu
única como eres
inmensa cuando quieres
gracias por existir.
@RamazzottiEros