Hassabis. Altman. Amodei. Wang. Graham. Suleyman. Todos los jefes de la IA y la biotecnología firman una carta abierta pidiendo controles obligatorios de pedidos de ácidos nucleicos sintéticos (ADN y ARN sintético) y de las máquinas/equipos necesarios para sintetizarlos.
La razón declarada:
◦La síntesis de ADN en línea ha democratizado la investigación y acelerado el desarrollo de vacunas y ciencia básica.
◦Sin embargo, desde hace más de 20 años se sabe que un “mal actor” podría usar secuencias de ADN para reconstruir virus peligrosos o crear armas biológicas.
◦Ahora, con el avance de la IA, esta amenaza se ha agravado: los sistemas de IA ya superan a virólogos con doctorado en procedimientos de laboratorio técnicos. Esto está destruyendo las barreras de conocimiento que antes protegían contra la creación de armas biológicas.
La razón no declarada: cualquier barrera genera problemas al desarrollo científico y permite una captura regulatoria a los firmantes que ahoga a los más pequeños. Lo busquen o no, es lo que consiguen.
La propuesta:
◦Las empresas que sintetizan ADN/ARN deben
▪Examinar las secuencias solicitadas buscando “secuencias de preocupación” (patógenos, toxinas, etc.);
▪Verificar la legitimidad del cliente;
▪Guardar registros de los pedidos y las secuencias (recordkeeping) para poder rastrear posibles amenazas.
◦La trazabilidad disuade el mal uso.
◦Y aunque muchos de los mayores proveedores ya lo hacen voluntariamente, quieren que sea obligatorio por ley a nivel federal para crear un estándar nacional uniforme (en lugar de un mosaico de leyes estatales).
◦La carta subraya que es un raro momento de consenso entre personas que normalmente tienen opiniones muy diferentes sobre política de IA.
Mas allá del acuerdo, la carta pone de manifiesto de la intersección entre IA y biotecnología como riesgo de “uso dual”. Como siempre ocurre en tecnología, en industria, en toda creación humana, la IA no solo ayuda a crear cosas buenas, sino que también reduce drásticamente la barrera para crear cosas peligrosas.
A shockingly common (implicit) view: "It would be better if the world's problems were not solved so that people can find purpose in solving these problems." Or for knowledge work, "It would be better if knowledge were unknown so there is more for humans to discover."
These views seems absurd to me. Many people (including myself) find value in working to improve the world. But what's important to me is *actually fixing the things that are wrong because those things are bad.*
If AI can fix these problems, the right attitude is not, "This sucks because what are humans supposed to do now?" The right attitude is: "Now we can focus on finding other sources of meaning and value beyond alleviating suffering, what tremendous news this is for the world and what a great relief!"
For knowledge work, once again, discovery is fun and valuable and rewarding to the ego. But the reason we care about discovery is that we want to understand! And with AI, we will understand vastly more.
The idea that we don't want AI so there is more for humans to do or discover ignores that most of the value of these is instrumental. Sure, discovery is pleasurable for the person who does it, but for everyone else, it's good because now we can understand more.
es extremadamente común el perfil de alguien que hace una carrera técnica, ve que su campo no le termina de molar muxo o el salario es una mierda y se mete a master de data science/data analytics/business inteligence whatever y se va a consultora/empresa del IBEX a hacer data analytics
un poco talent waste en la mayoría de los casos, en mi opinión
🔝 ¡¡¡Histórico!!! 🔥
España asciende de categoría a la élite europea del #rugby en silla de ruedas tras ganar a Italia 🇮🇹 (50-44) en semifinales
Y mañana jugamos la final
del Europeo B de #Zaragoza
Vamos a por la 🏆
¡¡¡Espectacular!!!
🏉🏉🏉
If computing power brings about technological advances without human input, and enough of the pay-off is reinvested in building still more powerful machines, wealth could accumulate at unprecedented speed https://t.co/0J2WHUJHXi
Aforismo 12 del Crepúsculo de los ídolos, Nietzsche: “Cuando se tiene el propio porqué de la vida, uno se aviene casi con cualquier cómo. El ser humano no aspira a la felicidad; sólo el inglés hace eso.”
Esta tarde, en +Platón y -WhatsApp, hablaremos de
Filosofía y Fortaleza
Esto es muy interesante: la tecnología está pidiendo ayuda a las Humanidades para comprender qué está pasando y cómo controlar lo que puede pasar con la IA mediante la Ética. Desde una mirada inmanentista y mecanicista, hay una respuesta: Claude tiene conciencia y la conciencia es un algoritmo bien entrenado. Desde una perspectiva no reduccionista, la pregunta es tan antigua como el ser humano mismo: el mito de Prometeo en versión contemporánea.
Profundas Verdades que cambiarán tu forma de pensar sobre la tecnología.
El ser humano es capaz de mover barcos de 100 toneladas usando solo la energía de un secador de pelo.
¿Ingeniería o arte? Lo que ves en el vídeo es la Falkirk Wheel en Escocia. En vez de construir 11 esclusas y tardar un día entero en salvar un desnivel de 24 metros, diseñaron este elevador rotatorio único en el mundo.
Lo verdaderamente revolucionario: aplica el principio de Arquímedes a la perfección. Como los barcos desplazan su propio peso exacto en agua, los dos brazos de la estructura pesan siempre exactamente lo mismo, estén vacíos o llenos.
Al estar equilibrada al milímetro, el motor solo necesita 1,5 kWh para girar 180° en 4 minutos. Una eficiencia física brutal que roza la poesía.
¿Por qué se ha perdido esta obsesión por crear infraestructuras que sean eficientes y bellas a la vez?
Los activistas de la flotilla a Gaza salen de Turquía sin problemas, caminando y riendo. Pero se bajan del avión en su destino y salen en camillas, a rastras y quejándose. Así de falsos son estos zurdos.
Larry Ellison acaba de hacer la única pregunta que ningún periodista en la Tierra puede responder.
Un periodista del Wall Street Journal le dijo a la cara a Larry Ellison que Elon Musk no sabe lo que hace.
Ellison no discutió. No se alteró. Solo hizo una pregunta.
Ellison:
“Este tipo aterriza cohetes sobre plataformas robóticas en medio del océano… ¿y tú dices que no sabe lo que hace? ¿Alguna vez has aterrizado un cohete?”
Una sola pregunta. Sin posibilidad de recuperación.
Ellison:
“¿Quién eres tú? ¿Por qué debería creerte a ti antes que a mi amigo Elon?”
Esta es la pregunta que toda la clase mediática lleva una década esquivando:
¿Quién eres tú para juzgar?
¿Qué has construido?
¿Qué has lanzado?
¿Qué problema has resuelto que no implique un teclado y una fecha límite?
Ellison:
“Ahí estás tú, delante de tu Apple Macintosh, escribiendo un artículo diciendo que Elon es un idiota.”
Se sientan detrás de un portátil que no diseñaron.
Usan una red que no construyeron.
Funcionando sobre chips de silicio que ni siquiera pueden explicar.
Para decirle al mundo que el hombre que envía humanos al espacio no sabe lo que hace.
Nunca han construido nada más pesado que un documento de Word.
Y aun así lo publican con absoluta certeza.
Eso es lo que debería inquietarte.
No la crítica.
Sino la confianza con la que la hacen.
La ausencia total de autoconciencia necesaria para juzgar disciplinas en las que no durarían ni un semestre.
Musk no opera en opiniones.
Opera en la capa física del universo, donde las matemáticas funcionan… o el cohete no regresa.
Sus críticos operan en un editor de texto.
Construyó el vehículo que transporta astronautas de la NASA a la Estación Espacial Internacional.
La constelación de satélites que lleva internet a zonas de guerra activas.
El coche eléctrico que obligó a todos los fabricantes del planeta a abandonar sus planes basados en motores de combustión.
Sus críticos más ruidosos construyeron una firma al final de un artículo.
Entonces… ¿por qué tanto odio coordinado?
Porque perdieron la correa.
Los ataques no aumentaron porque Musk empeorara como ingeniero.
Aumentaron porque compró X.
Abrió el algoritmo.
Le devolvió la plaza pública a la gente.
Y destruyó su capacidad de controlar lo que puedes pensar.
No odian al ingeniero.
Odian que el ingeniero les quitó el monopolio.
No puedes cancelar un cohete.
No puedes publicar un artículo contra la gravedad.
No puedes editar las leyes de la física.
Ellos controlan la narrativa.
Él controla la física.
Y uno de los dos va camino a Marte.
Este vídeo de como un invidente utiliza el metro cada día para ir a trabajar de forma autónoma, con apps como Metrociego es espectacular.
Me lleva a mucho optimismo a cómo con inteligencia artificial "verá y entenderá" mucho mejor el mundo alrededor dentro de poco.
1/
Le he robado de un hilo y rehecho el meme a @Recuenco para «tropicalizarlo» al caso.
Viene como respuesta al catedrático D. Juan Paniagua: «Depende del área, conozco astrofísicos que nunca han estado en el espacio» de este tuit enlazado.
Y en parte tiene razón.