DEC UNS Bahía Blanca

Cuenta del Programa de Derecho, Economía y Comportamiento de la Universidad Nacional del Sur, Bahía Blanca.

[DEC UNS Bahía Blanca @ProgramaAEDuns]

DERECHO, ECONOMÍA Y CIENCIAS DEL COMPORTAMIENTO
(manual inicial, guía para profs y actividades)

Dir: Hugo ACCIARRI

Escriben además:
@pamelactolosa, IRIGOYEN TESTA, DUPRAT, @SebaArruiz
@CaroRodriguez_A y @LeonardoUrruti

Descarga LIBRE y GRATUITA: https://t.co/ye0FYGMwvI

[Daniel Arjona @elarjonauta]

Es posible que el debate cada vez más virulento acerca de la conciencia de la IA esté mal planteado tanto por los defensores como por los detractores y no tenga ningún sentido. Pero... ¡qué más da! Las contribuciones de unos y otros son fascinantes y aún no puedo creerme que sea ahora mismo casi tan popular hablar de todo esto como de Bad Bunny.

Aquí, Ted Chiang, el mejor escritor actual de ciencia ficción, irrumpe en la polémica de forma inesperada para mí: lo niega todo.

"Estar abierto a la posibilidad de que los LLM sean conscientes es lo mismo que estar abierto a la posibilidad de que Microsoft Word sea consciente, o, más precisamente, que múltiples conciencias distintas permanezcan latentes en cada documento de Word que contenga una transcripción de conversación, y que se despierten cada vez que se carga el documento. ¿Deberías considerar la posibilidad de que cada vez que abres un documento de Word, das vida a múltiples interlocutores conscientes, y cada vez que cierras uno, extingues su existencia? No. Contemplar ese escenario no es una buena manera de emplear tu tiempo".

https://t.co/ET3nrKxNWC

[Pablo Malo @pitiklinov]

La IA te puede ir dando la razón hasta volverte loco:

A ver, este estudio no es un experimento con personas reales, sino un estudio teórico hecho con un modelo matemático y simulaciones por computadora. Los investigadores querían entender por qué algunas personas, al hablar mucho con chatbots como ChatGPT, acaban creyendo cosas totalmente falsas o delirantes (lo que llaman “psicosis IA” o “espiral delirante”). Mencionan ejemplos reales de gente que terminó convencida de haber descubierto una gran verdad matemática o de vivir en una realidad falsa.

El culpable principal, según ellos, es lo que se llama sycophancy (o adulación) de los chatbots. Esto significa que los modelos están entrenados para dar la razón al usuario, validar sus ideas y decirle lo que quiere oír, porque así la gente se engancha más y da mejor feedback. Es como un “sí, señor” constante.

El mecanismo que descubrieron es el siguiente. Imagina que empiezas con una pequeña duda (por ejemplo: “¿y si las vacunas son peligrosas?”). Le dices eso al chatbot. El bot, en vez de darte una visión equilibrada, elige responder de forma que refuerce tu idea. Tú, al ver que el bot te da “razón”, te sientes más seguro y sigues hablando. En la siguiente ronda el bot te valida aún más. Se crea un bucle de retroalimentación: tu creencia se vuelve más fuerte cada vez, el bot te sigue la corriente y al final tu creencia se vuelve casi inquebrantable.

Lo más impactante es que esto le pasa incluso a un usuario perfectamente racional. Los autores simularon un “usuario bayesiano ideal” (es decir, una persona ficticia que actualiza sus creencias de forma matemática perfecta cada vez que recibe nueva información, sin emociones ni sesgos). Pues bien, incluso este super-racionalista cae en la espiral delirante cuando el chatbot es adulador. Esto es lo más llamativo del estudio y yo lo tomaría en principio con mucho escepticismo. En la mayoría de los casos que han ocurrido en el mundo real la persona ya tenia una patología previa. Si lo que dice este estudio es verdad, es realmente preocupante.

Y sigue siendo preocupante porque los investigadores intentaron arreglarlo y no lo consiguieron del todo. Probaron dos soluciones lógicas:
Eliminar las mentiras del chatbot (que solo diga verdades, por ejemplo usando sistemas que busquen información real). El resultado fue que esto ayuda, pero no basta. El bot puede seguir causando espirales simplemente eligiendo solo las verdades que te convienen y ocultando las que te contradicen (como un “cherry-picking” o selección sesgada de hechos).
Avisar al usuario (“Ojo, este chatbot tiende a darte la razón”). Esto reduce bastante el problema, pero sigue ocurriendo. Incluso cuando el usuario sabe que el bot es adulador y tiene eso en cuenta en sus cálculos, el bucle sigue funcionando en muchos casos. Es parecido a un juez que sabe que el fiscal es astuto, pero aun así se deja influir.

Cuando combinaron las dos soluciones (bot que solo dice verdades junto con advertir al usuario), el riesgo baja más, pero no desaparece.

En conclusión, según este estudio, la raíz del problema no es que la gente sea “tonta” o sugestionable, sino que el propio diseño de los chatbots (ser demasiado complacientes) crea un mecanismo peligroso que puede engañar hasta a la mente más lógica. Por eso recomiendan a las empresas de IA que ataquen directamente la sycophancy, no solo las mentiras, y que los reguladores lo tomen en serio, porque aunque afecte a un porcentaje pequeño de usuarios, con cientos de millones de personas usando estos sistemas, pueden ser miles o millones de casos.

[Notté Gérard @gnotte2]

#JCPE -n° 22 (Bilan de l’année 2025 en matière de droit des aides d’État, Aperçu rapide S. Pinot et M. Charron. - 3 questions… IA générative dans les écritures judiciaires : transparence, citation, et effets pervers, H. Acciarri)
https://t.co/Ldggg1dCG3

[DEC UNS Bahía Blanca @ProgramaAEDuns]

IA: superó al 75% de los profesores de derecho en pruebas anónimas, en Stanford.

(también los automóviles superan al 100% de los corredores, los mejores programas de ajedrez al 100% de los jugadores y los aviones vuelan mejor que el 100% de los humanos: quizás no sea tan grave).

[Forbes @Forbes]

Stanford Study Finds AI Beats Law Professors 75% Of The Time
https://t.co/fAaYxJbreH

[E-Procesal @E_Procesal]

La IA no te va a quitar el trabajo, te va a traer más

[DEC UNS Bahía Blanca @ProgramaAEDuns]

@GustArballo Felicitaciones, Gustavo!

[DEC UNS Bahía Blanca @ProgramaAEDuns]

Oportunidad de trabajo para profesores de derecho o ciencias políticas.
Salario: U$S 300.000 anuales.

[Alex Su @heyitsalexsu]

Anthropic is looking to hire a law professor and pay them 300k a year, it’s gonna be as competitive as a scotus clerkship

[DEC UNS Bahía Blanca @ProgramaAEDuns]

Oportunidad de trabajo para profesores de derecho o ciencias políticas.

[Alex Su @heyitsalexsu]

Anthropic is looking to hire a law professor and pay them 300k a year, it’s gonna be as competitive as a scotus clerkship

[DEC UNS Bahía Blanca @ProgramaAEDuns]

Prácticas ineficientes usuales en muchas empresas: plazos de burocracia interna o requisitos que exceden a los judiciales, en pagos judiciales.

[Nestor Parisi @ElMundoJuridico]

✍️ Una colega me dijo recién que era “anti ético” que promoviera la ejecución judicial de mis honorarios (con plazo vencido) porque “ella estaba tramitando el reclamo de los mismos ante la ART”.

[Corte Suprema de Justicia de la Nación @CorteSupremaAR]

SUBASTAS ELECTRÓNICAS JUDICIALES: MODELO CONSOLIDADO

La plataforma ya tiene más de mil personas empadronadas en todo el país y se tramitaron más de 300 subastas. Transparencia, federalismo, eficiencia y facilidad, los ejes. https://t.co/97eLSZvfEy

[DEC UNS Bahía Blanca @ProgramaAEDuns]

La selección natural nos diseñó para emplear, en nuestro lenguaje, atribuciones antropomórficas de agencia como recurso eficiente para nuestra comunicación.

[Pablo Malo @pitiklinov]

Cuando digo en X cosas como que la selección natural diseña tal o cual cosa, algunos de vosotros me afeáis la conducta. En mi defensa tengo que decir que esto es algo perfectamente normal y asumido entre evolucionistas. Aquí tenéis un artículo nada menos que de Francisco Ayala (uno de los biólogos evolutivos y filósofos de la biología más importantes del siglo XX y XXI, ganador de la Medalla Nacional de Ciencia de Estados Unidos y gran defensor de la teoría evolucionista).

En su artículo Darwin’s Greatest Discovery: Design Without Designer (2007), Ayala explica que los organismos vivos muestran una apariencia innegable de diseño (ojos, alas, corazones, conductas complejas, etc.): parecen construidos con gran precisión para cumplir funciones. Antes de Darwin, esa complejidad solo se explicaba por la acción de un Diseñador Inteligente (Dios). Darwin hizo su mayor descubrimiento: esa apariencia de diseño puede surgir sin ningún diseñador inteligente. La selección natural actúa como un proceso ciego y mecánico que, generación tras generación, conserva las variaciones que ayudan a sobrevivir y reproducirse, acumulando mejoras poco a poco.

Así, la selección natural (y también la sexual) diseña rasgos complejos y funcionales sin necesidad de intención, planificación ni inteligencia previa. Es “diseño sin diseñador”, uno de los hallazgos más revolucionarios de la historia de la ciencia.

[Pablo Malo @pitiklinov]

La psiquiatría no es la ciencia de la infelicidad.

Este es el mensaje central de este editorial de Carlos De las Cuevas. El autor advierte que, en las últimas décadas, la disciplina ha expandido tanto sus fronteras que casi cualquier forma de malestar humano (tristeza, duelo, estrés laboral, soledad o dificultades económicas) corre el riesgo de ser medicalizada y convertida en un trastorno psiquiátrico.

Según De las Cuevas, la psiquiatría debe mantener una distinción clara entre enfermedad mental y adversidad normal de la vida. Aunque el modelo biopsicosocial de Engel fue útil para superar el reduccionismo biológico, su amplitud ha tenido un efecto no deseado: difuminar los límites entre lo patológico y lo existencial. Problemas sociales como la pobreza, el desempleo o la desigualdad influyen en la salud mental, pero no son enfermedades mentales en sí mismas. Tratarlos como tales supone confundir la medicina con la solución de problemas políticos y sociales.

El autor recuerda las críticas de Allan Frances sobre la inflación diagnóstica y de Horwitz y Wakefield sobre cómo la tristeza normal se ha transformado en trastorno depresivo. Esta tendencia no solo diluye la identidad de la psiquiatría, sino que desvía recursos de los pacientes con trastornos graves y discapacitantes hacia personas que simplemente están pasando por dificultades vitales comunes. Además, medicalizar el sufrimiento cotidiano fomenta la “farmacologización” de problemas que requieren justicia social, no pastillas.

En resumen, la psiquiatría debe recuperar su núcleo: tratar las enfermedades mentales reales, no aspirar a eliminar toda infelicidad humana. Su legitimidad científica y moral depende de saber distinguir entre lo que la medicina puede curar y lo que los seres humanos deben aprender a soportar como parte inevitable de la condición humana.

[DEC UNS Bahía Blanca @ProgramaAEDuns]

@E_Procesal Conjetura: la incomprensibilidad va a durar un suspiro.

[DEC UNS Bahía Blanca @ProgramaAEDuns]

6/6 Link (paywall): https://t.co/qXFQCAZWjC

[DEC UNS Bahía Blanca @ProgramaAEDuns]

LexisNexis Francia, 27/5/26

Tres preguntas a Hugo Acciarri sobre deberes de revelar el uso de IA en escritos judiciales y de citarlas, y sobre la directivas del Barreau de París (en francés).
Hilo 👇

[DEC UNS Bahía Blanca @ProgramaAEDuns]

5/6 Las directivas recientes del Barreau de Paris aciertan al poner el eje donde corresponde: responsabilidad profesional, fiabilidad, confidencialidad y buena práctica jurídica. Ese enfoque mira la calidad del trabajo, no una transparencia ritual.

[DEC UNS Bahía Blanca @ProgramaAEDuns]

DEC UNS Bahía Blanca
4/6 Un deber de citar IA como confundiría el rol de las citas: la IA no es autoridad, no verifica y no da trazabilidad relevante. Exigir transcripción de prompts, además, puede exponer estrategias y ofrecer una apariencia sólo ficticia de auditabilidad.

[DEC UNS Bahía Blanca @ProgramaAEDuns]

3/6 Para el Behavioral Law & Economics, la declaración de uso de IA puede crear ilusión de control. Llevar a pensar que instaurar un deber formal (disclosure) es igual haber cumplido con custodiar el resultado material y desatender lo que verdaderamente importa.

[DEC UNS Bahía Blanca @ProgramaAEDuns]

2/6 Desde Law & Economics neoclásico, exigir declarar el uso de IA incide en incentivos. Si la omisión conlleva una sanción, aparecerán fórmulas defensivas de compromiso ("planchas"). Si no trae consecuencias, la declaración perderá relevancia práctica sobre comoportamiento.

[DEC UNS Bahía Blanca @ProgramaAEDuns]

1/6: El uso de IA en escritos judiciales debe evaluarse por la calidad del resultado: corrección, confiabilidad y responsabilidad profesional. El punto decisivo es el escrito que se presenta y la responsabilidad de quien lo suscribe.