El artículo que @DarioAmodei ha publicado esta tarde es importantísimo. Me atrevo a resumir lo que dice, intercalando alguna cita textual:
1) El beneficio a futuro de la IA será enorme, con especial énfasis en la medicina. Pero los riesgos también lo son: perder el control, malos usos como el bioterrorismo o impactos económicos enormes.
Debemos reducir el ritmo de desarrollo de la IA. Dos motivos recientes: los grandes avances en RSI ("recursive self-improvement", que admite que ya están viendo en Anthropic) y el incidente OpenAI - Hugging Face, con el enjambre de agentes.
"it’s my worry that in 6–12 months such a swarm could be capable of taking over the entire internet"
2) Hay que reducir el ritmo porque conviene ganar tiempo, aunque sean 1-2 años.
Esto permitiría aumentar la precisión en la ejecución (admite incidentes recientes por problemas en la ejecución), mejorar el alineamiento de los nuevos modelos, avanzar en la interpretabilidad de los mismos y mejorar en los tests y benchmarks para entender bien sus capacidades.
"I believe that if slowing down bought us even an extra year or two before models reach critical levels of capability, and we used that time to advance alignment, we could greatly reduce the risk that something goes seriously wrong"
3) Esta ralentización se podría llevar a cabo a partir de tres iniciativas:
a) Integrar evaluadores independientes en las empresas que lideran la IA (menciona, por ejemplo, a @METR_Evals). Verificabilidad, transparencia, segundas opiniones, etc. Anthropic dice que empieza a hacerlo unilateralmente, sin esperar a que los otros hagan lo mismo. @sama acaba de decir que OpenAI también lo hará.
b) Regular inmediatamente el avance en los países democráticos. Y como la regulación es lenta, propone a las otras grandes empresas hacerlo rápido y de manera voluntaria.
Aquí es muy transparente: reducir el ritmo no puede significar permitir que los modelos chinos se conviertan en los más potentes. Y explora vías para garantizar esto (límites a la exportación de chips, mayor seguridad para evitar "robos" de modelos, etc.).
"If we execute these measures well, I believe they would slow China’s progress enough to widen America’s lead significantly over the next 3–5 years"
c) Llegar a un acuerdo mundial, cooperando con China, para que el ritmo sea verificable. Propone 4 niveles distintos de acuerdos posibles, empezando por un primer acuerdo para prohibir el uso peligroso en temas como las armas biológicas.
4) El artículo acaba como empieza: la IA puede aumentar muchísimo la calidad de vida de nuestra especie, pero estos beneficios solo se alcanzarán si se hace por el camino correcto.
Creo que es un artículo que merece una lectura pausada. Espero que genere un debate profundo y mundial: el tema lo merece.
https://t.co/d0eFnY5g7E
El director ejecutivo de Anthropic pide frenar el desarrollo de la IA: “Podría superar nuestra capacidad de comprender y controlar estos sistemas”
https://t.co/CRPydwzAjQ
¡Conseguido!
#Andalucía va a liderar la compra del medicamento Vyjuvek para Leo y las personas con “piel de mariposa”.
Un tratamiento innovador para mejorar su calidad de vida.
Gracias a la asociación @pieldemariposa y todos los que habéis ayudado para hacerlo posible.
@_Jorge_SLL_ Si está pagando un tipo marginal del 47% y ahora se le añade un tipo del 36% mas un impuesto extraordinario del 6%... se van a un tipo marginal efectivo de alrededor del 70%.
Los cuentos de hadas, a veces, se hacen realidad ❤️
🏆🏆 CAMPEONES DE EUROPA 🏆🏆
🏆 Final @EuroBasket
🇪🇸🆚🇫🇷 (FINAL | 88-76)
📷 https://t.co/bLp0BQmiQG
#C4mpeones#LaFamilia#SomosEquipo
Absolutamente legendario el equipo español de baloncesto. Da igual quién vaya convocado, quién esté lesionado o qué generación se acabe. Siempre compiten y casi siempre ganan. No tiene sentido.
Alcaraz, en Wimbledon, tuvo 0/7 en bolas de break contra Sinner. Hoy, de momento, lleva 0/9. Es una sangría tan grande que termina por convertirse en algo mental. Increíble cómo el italiano es capaz de salvar bolas de rotura ante Carlitos.
Hoy jugamos la final del mundial y solo podemos dar las GRACIAS a nuestras familias, amigas y amigos, y a todos los que nos habéis acompañado para llegar hasta aquí para tratar de hacer más grande nuestro deporte. 💛 ¡GRACIAS!
El periodismo está en un momento tan chungo que ni los propios periodistas saben lo que es periodismo y lo que es entretenimiento.
No entiendo nunca las polémicas con Ibai.
Italia gana la @EURO2020 con merecimiento. Felicidades @Vivo_Azzurro! La mejor selección de toda la competición. Eso sí, el hecho de chutar primero en la tanda de penaltis le ha vuelto a ayudar. Le ha permitido fallar, como contra España, y aun así seguir viva en la tanda.