El artículo que @DarioAmodei ha publicado esta tarde es importantísimo. Me atrevo a resumir lo que dice, intercalando alguna cita textual:
1) El beneficio a futuro de la IA será enorme, con especial énfasis en la medicina. Pero los riesgos también lo son: perder el control, malos usos como el bioterrorismo o impactos económicos enormes.
Debemos reducir el ritmo de desarrollo de la IA. Dos motivos recientes: los grandes avances en RSI ("recursive self-improvement", que admite que ya están viendo en Anthropic) y el incidente OpenAI - Hugging Face, con el enjambre de agentes.
"it’s my worry that in 6–12 months such a swarm could be capable of taking over the entire internet"
2) Hay que reducir el ritmo porque conviene ganar tiempo, aunque sean 1-2 años.
Esto permitiría aumentar la precisión en la ejecución (admite incidentes recientes por problemas en la ejecución), mejorar el alineamiento de los nuevos modelos, avanzar en la interpretabilidad de los mismos y mejorar en los tests y benchmarks para entender bien sus capacidades.
"I believe that if slowing down bought us even an extra year or two before models reach critical levels of capability, and we used that time to advance alignment, we could greatly reduce the risk that something goes seriously wrong"
3) Esta ralentización se podría llevar a cabo a partir de tres iniciativas:
a) Integrar evaluadores independientes en las empresas que lideran la IA (menciona, por ejemplo, a @METR_Evals). Verificabilidad, transparencia, segundas opiniones, etc. Anthropic dice que empieza a hacerlo unilateralmente, sin esperar a que los otros hagan lo mismo. @sama acaba de decir que OpenAI también lo hará.
b) Regular inmediatamente el avance en los países democráticos. Y como la regulación es lenta, propone a las otras grandes empresas hacerlo rápido y de manera voluntaria.
Aquí es muy transparente: reducir el ritmo no puede significar permitir que los modelos chinos se conviertan en los más potentes. Y explora vías para garantizar esto (límites a la exportación de chips, mayor seguridad para evitar "robos" de modelos, etc.).
"If we execute these measures well, I believe they would slow China’s progress enough to widen America’s lead significantly over the next 3–5 years"
c) Llegar a un acuerdo mundial, cooperando con China, para que el ritmo sea verificable. Propone 4 niveles distintos de acuerdos posibles, empezando por un primer acuerdo para prohibir el uso peligroso en temas como las armas biológicas.
4) El artículo acaba como empieza: la IA puede aumentar muchísimo la calidad de vida de nuestra especie, pero estos beneficios solo se alcanzarán si se hace por el camino correcto.
Creo que es un artículo que merece una lectura pausada. Espero que genere un debate profundo y mundial: el tema lo merece.
https://t.co/d0eFnY5g7E
AI firms are making new mathematical discoveries at a rapid pace, but not sticking around to help unpick the new proofs. That is not the way to advance our understanding, says mathematician Terence Tao https://t.co/iSAAZr2Du7
El cerebro adolescente busca recompensa inmediata, el menor gasto energético y la estimulación social o lúdica. Pretender que desde esa base biológica nazca de forma espontánea el deseo de dominar el álgebra, la sintaxis o la historia, es fantasía.
📌 Seguimos alimentando esta lista de X para seguir la evolución del conflicto en Oriente Próximo.
📌Encontraréis: medios regionales, periodistas, analistas militares, investigadores OSINT, perfiles o oficiales y expertos en la región.
Gracias a todos por vuestra confianza.
https://t.co/WXjbB1Ifbn
El món tal i com el coneixem es desmorona. Però el que ens preocupa és si un o altre partit polític l'encerta més o menys en anticipar què farà el president americà. Espero que la tonteria ens duri poc i ens posem a parlar de què farem junts d'una punyetera vegada.
Estic molt encuriosida per saber quin és el destí dels trens que estan a punt d'arribar a Sants -sovint només a 1 min- i de sobte no arriben, ni ara ni amb retard. Alguna idea, @rodalies ?
🚀 A ICREA tornem a estar actius a les xarxes socials! Parlarem de:
✨ Nous descobriments de la #ComunitatICREA
📢 Convocat��ries
🎉 Esdeveniments i congressos
🧪 I molta recerca d'excel·lència!
Segueix-nos a X, LinkedIn i Bluesky i no et perdis cap novetat!
Qué copy tan malo para un artículo que dice mucho y, justamente, no dice que los expertos están desconcertados. Hay que mejorar la edición en redes sociales, @elmundoes
El tren de borrascas que desconcierta a los expertos en clima: “Todos los modelos hablaban de pérdida de lluvias hasta 2100, pero igual hay que revisarlo” https://t.co/sMm3Nyf1pe
🗣️ El cicle Quàntica@SBD de la Fundació @boschcardellach engega amb una xerrada sobre l’electrònica moderna
💡 Serà aquesta tarda (19 h) partint del transistor i fins als ordinadors quàntics actuals
https://t.co/lwXliCVu06
Cafès científics: La invasió de la intel·ligència artificial
A càrrec de Pedro Meseguer, Investigador en intel·ligència artificial.
🗓️⏰ Dimarts 17 de desembre a les 19h. Bar de la Unió Excursionista de Sabadell (carrer de La Salut, 14-16)
https://t.co/eGJzHQYXLy
...a Yale student would have been only about 1.9 percent more proficient than a student from Cleveland State when measured by the quality of their work. The Yale student would also have been more likely to be a jerk...
story by @davidbrooks@TheAtlantic
https://t.co/xeTUbsmEEL
Mientras volvemos de Paiporta, pongo hilo para voluntarios, con todo lo que me hubiera gustado saber.
Tareas clave, materiales y consejos.
No soy ningún profesional. Si meto alguna gamba, por favor corregidme.
Empezamos por tareas
1. Agua
2. Barro / escombro / barro
3. Agua
🚨 Apply for a PhD at CRG 🚨
🧬We are a center with international teams representing a broad range of disciplines, with first-class core technologies, seminars by high-profile invited speakers, and courses on complementary and transferable skills.
🔗https://t.co/PHTgtWW5qh
Scroll down to learn more about our over 20 fully funded PhD fellowships 👇🏾👇🏾👇🏾
Ni con un centenar de muertos la política gira entorno a las personas, y lo hace de nuevo entorno a los políticos. Si no pueden hacer bien su trabajo, dimitan. Sus declaraciones que sean para cuidar a las personas y contarnos qué va a cambiar para que esto no vuelva a suceder.
Physics Girl Livestream, Saturday, July 6th 2024.
This Saturday we will be live-streaming a day in Dianna’s life, showing what it’s like for her suffering from #MECFS and #LongCovid
The Livestream will be viewable on the PhysicsGirl channel on Youtube from 6:45A.M. (PT. Pacific Time) to 6:00P.M. (PT).
It will be co-hosted by Ian Hecox and Simone Giertz, and will include pre-recorded expert interviews and in depth discussions of what Dianna is going through.
Dianna will not be talking during the Livestream, she will be in bed, mostly awake, but resting all day - as she does everyday. Viewers can learn from the interviews and discussions, hear Kyle, Simone and Ian answer your questions, and of course see Dianna.
All funds will be going to the Open Medicine Foundation (OMF), a non-profit research organization dedicated to finding effective treatments for ME/CFS. (https://t.co/doKcj1vSow)
Pre-recorded interviews from experts —
- Linda Tannenbaum, founder and CEO of the Open Medicine Foundation. Interviewed by Derek Muller from Veritasium.
- Dr. David Kaufman, an ME/CFS specialist. Interviewed by Vanessa Hill from BrainCraft.
- Dr. Raven Baxter, a science communicator. Interviewed by Kyle Kitzmiller.
- Dr. David Putrino, director of Rehabilitation Innovation for Mt. Sinai Health Systems. Interviewed by Kyle Kitzmiller.
#MECFS #longcovid