Volker Türk, Alto Comisionado de la ONU para los Derechos Humanos, sostiene que la IA avanzada podría llegar a representar un riesgo existencial y reclama algo muy concreto: controles independientes y “líneas rojas”. No está diciendo que mañana las máquinas vayan a destruirnos. Está diciendo algo más serio: estamos creando sistemas cada vez más capaces mientras las reglas para controlarlos avanzan muchísimo más lento.
Y ya existen señales de por qué preocupa. En evaluaciones de seguridad, agentes de IA llegaron a vulnerar controles y acceder a sistemas externos mientras intentaban cumplir el objetivo que se les había dado. No porque “odiaran” a los humanos ni porque hubieran adquirido conciencia. Precisamente ahí está lo inquietante: una máquina no necesita tener malas intenciones para causar un daño enorme. Basta con darle suficiente autonomía, acceso a sistemas reales y una meta mal definida, sin controles capaces de detenerla.
Por eso esta discusión ya no pertenece sólo a los ingenieros. Es un problema jurídico y de poder. ¿Quién decide qué puede hacer una IA? ¿Quién la audita? ¿Quién responde si afecta una red eléctrica, un hospital, una elección, una cuenta bancaria o un derecho fundamental? Türk advierte además que un puñado de personas concentra un poder extraordinario sobre esta tecnología. El desafío del futuro quizá no sea una máquina que se rebele contra nosotros, sino algo mucho más cercano: capacidades enormes en manos privadas, avanzando más rápido que el derecho y sin contrapesos suficientes.
#Salud | ¿Por qué necesitas dormir y tener una buena calidad del #sueño?
La costumbre de #desvelarte o dormir poco puede desencadenar una serie de problemas de salud como falta de #concentración y #alteraciones en tu #estado de ánimo: https://t.co/bR4v7GQUY6
El Plan Nacional de Inteligencia Artificial debería ser lectura obligada para la abogacía mexicana. No porque vaya a sustituir abogados, sino porque está cambiando el terreno sobre el que vamos a ejercer: el Estado utilizará cada vez más algoritmos, datos y sistemas de IA para administrar, fiscalizar y tomar decisiones. Y al mismo tiempo vendrán nuevas reglas, derechos y responsabilidades jurídicas.
🔴 Formarnos en IA. Ya no basta conocer leyes y jurisprudencia. Tendremos que entender cómo funcionan los sistemas que vamos a contratar, regular, defender o impugnar.
🟠 Dominar el nuevo compliance algorítmico. Transparencia, explicabilidad, proporcionalidad, no discriminación, supervisión humana y sistemas de alto riesgo serán nuevos territorios jurídicos.
🟡 Entender datos y privacidad. La IA pública depende de enormes bases de información. Finalidad, seguridad, perfilamiento, datos sensibles y responsabilidad estarán en el centro del debate.
🟢 Aprender a impugnar algoritmos. Si SAT, aduanas u otras autoridades utilizan IA, el abogado tendrá que preguntar: ¿qué datos usó?, ¿qué modelo?, ¿por qué llegó a esa conclusión?, ¿quién supervisó?, ¿cómo se controvierte?
🔵 Rediseñar contratos. Propiedad de datos, entrenamiento de modelos, confidencialidad, auditorías, errores, ciberseguridad, propiedad intelectual y responsabilidad tendrán que negociarse expresamente.
🟣 Prepararnos para la prueba algorítmica. Logs, bases de datos, modelos, tasas de error, trazabilidad y peritajes tecnológicos empezarán a entrar a expedientes y tribunales.
⚫ Trabajar con ingenieros, científicos de datos y expertos en ciberseguridad. El litigio tecnológico será necesariamente multidisciplinario.
La conclusión es incómoda pero inevitable: el abogado que sólo sepa Derecho va a empezar a quedarse corto. El abogado que entienda Derecho, tecnología, datos y derechos fundamentales tendrá frente a sí uno de los campos profesionales más grandes de las próximas décadas.
Aquí se puede consultar el plan en su totalidad: https://t.co/8dNHKUJzB6
Rompiendo el mito del "échale ganas" 🕯️❌
En México, ni siquiera 3 de cada 100 personas que nacen en pobreza logran una vida acomodada.
¿Por qué?➡️✋🏾Hay tres "frenos" invisibles que operan desde el día en que nacemos. Conócelos aquí: https://t.co/eb0nhgRSnW
Lanzan la primera colección de mapas anuales de cobertura y uso de suelo de México. 🗺️🌳 El estudio fue elaborado por el proyecto Red MapBiomas México, en el que participan #ExpertosUNAM. La información en @Gaceta_UNAM > https://t.co/Bgs49BKhpQ
Rompiendo el mito del "échale ganas" 🕯️❌
En México, ni siquiera 3 de cada 100 personas que nacen en pobreza logran una vida acomodada.
¿Por qué?➡️✋🏾Hay tres "frenos" invisibles que operan desde el día en que nacemos. Conócelos aquí: https://t.co/eb0nhgRSnW
24 horas de escuchar la alarma de pánico. No me dejó dormir, no la han desactivado, ni ha venido ninguna autoridad a revisar porque sigue sonando @Alcaldia_Coy@UCS_GCDMX@locatel_mx