Tra il serio e il faceto, ho ricordato a uno dei miei dottorandi che non ha molto senso portarmi pagine e pagine scritte da un LLM, se almeno non le ha verificate e non è in grado di difenderle.
So bene che a questo punto scatta il solito trito caveat per cui devo precisare che non ho nulla contro l’AI, anzi. E chi sono io per sottrarmi all'inutile?
Quindi eccomi a dire che non più di due settimane fa ho ricevuto un finanziamento per un progetto volto proprio a studiare le distorsioni di probabilità negli LLM. Così posso anche pavoneggiarmi un po'. Tiè.
Dunque, fatta questa doverosa premessa futile, chiedo: se in un lavoro intellettuale sei il primo a presentarti come sostituibile, delegando tutto e rinunciando a ragionare, puoi poi stupirti se qualcuno ti prende in parola?
È una domanda brutale? Forse sì, forse no.
Tuttavia, se devo lavorare con un LLM, posso farlo direttamente, quando e come voglio.
Il contributo di un ricercatore, anche di uno in fieri, comprende la capacità di capire, verificare, argomentare e assumersi la responsabilità di ciò che scrive, o che un LLM scrive per lui. Altrimenti mi ritrovo a correggere pagine generate a partire da domande che contengono già errori ingenui, com’è successo negli ultimi giorni.*
A questo si aggiunge il piccolo fastidio per la supposizione che io non me ne accorga. Ma quello svanisce rapidamente.
Ora, lo smarrimento di tanti giovani nella ricerca è comprensibile, perché si sentono sostituibili proprio mentre stanno costruendo le competenze che permetteranno loro di dare un contributo originale. Certo non aiuta la retorica crescente, che vuole ChatGPT e soci in grado di risolvere i problemi del mondo nel giro di qualche anno, lasciando giovani (e vecchi) ricercatori a bocca asciutta.
Quindi, dopo la bonaria brontolata (tutti del resto abbiamo cercato di fare i furbi col prof di turno), ho mostrato al mio dottorando come uso una combinazione dei modelli in voga. Siamo partiti dal suo prompt, che ho modificato.
La risposta che ho ottenuto io non aveva gli errori della sua. Perché?
Il mio vantaggio attuale rispetto a lui viene semplicemente dall’esperienza e dalla conoscenza della materia, grazie alle quali so un po’ meglio cosa chiedere, quali premesse mettere in discussione e dove una risposta apparentemente convincente comincia a fare acqua. Sono competenze che ho acquisito nel tempo e che lui sta ancora costruendo, ma che non può costruire se delega e si fida.
Questo si collega direttamente a quella riflessione più formale sulle distorsioni negli LLM cui accennavo.
Nel prompt mettiamo già molto di ciò che sappiamo e crediamo, e la risposta del modello dipende inevitabilmente anche da quelle premesse. Ne deriva che il trattarla come una conferma indipendente significa rischiare di contare due volte la stessa informazione distorta (da noi e dal modello, in senso matematico), ritrovando le nostre convinzioni e i nostri errori confezionati come nuove conoscenze.
Per questo le competenze personali contano tanto anche quando usiamo e sempre più useremo l’AI, perché servono a formulare domande migliori, valutare le risposte e capire quando cercare riscontri esterni. L’automation bias ci perseguita dagli anni 70, come i pantaloni a zampa di elefante, ma ora il rischio è “on steroids”, amplificato. Chi vi dice il contrario o mente, o non sa di che parla o... completate voi. Solitamente due delle tre coesistono.
Solo acquisendo conoscenze in prima persona puoi usare questi strumenti per quello che al momento sono, senza diventare a tua volta uno strumento sostituibile.
E per costruire quella competenza, almeno per ora, le scorciatoie non esistono.
"You better work, bitch", ci ricorda Madame Spears.
* Sono due anni che in classe mostro agli studenti perché non fidarsi delle prime stime che ottengono e come forzare Claude e amici ad autoverificarsi, anche per una semplice, trita e banale regressione lineare.
sono ossessionato da questo video di ben affleck che lentamente muore nel vedere la sua anima gemella giocare una delle peggiori mani di poker di sempre cioè si vede proprio il suo cervello che implode
🚨 TUTORIAL COMPLETO PARA CREAR TU PRIMER AGENTE DE IA CON CLAUDE EN 20 MINUTOS (subtítulos en español e inglés)
ella no sabe programar.
y monta un agente que le hace los posts de instagram solo. animados. con su estilo.
sin terminal. todo desde la app de escritorio de Claude.
lo divide en 4 niveles:
→ nivel 1: crea el agente (cerebro, contexto, trabajo, reglas y herramientas)
→ nivel 2: le da una skill para que lo haga igual de bien siempre
→ nivel 3: le pone memoria para que aprenda de cada corrección
→ nivel 4: lo sube a la nube y lo programa para que trabaje mientras duerme
un chatbot te responde. un agente te quita el trabajo de encima.
hay cursos de $300 que no llegan ni al nivel 2.
📌 guárdalo y míralo este finde
@arual_28 Prova a capire se hanno intenzione di investire su di te perché la tua figura può tornare utile, magari per coprirne un’altra in uscita o un buco. Allora investi sulla formazione e accetta
CURSO COMPLETO DE CLAUDE EN 1 HORA
esto no es teoría, lo monta todo en directo y sin saber programar:
→ min 19: tu primera herramienta, con un link para compartirla
→ un panel visual a partir de una hoja de ventas
→ tareas programadas para que Claude trabaje solo
→ min 45: tu primera web con Claude Code
→ CLAUDE.md, modo plan, skills y conectores
→ y cómo no quemar tus límites
hay cursos de pago que no llegan ni a la mitad de esto
guárdalo, te será muy útil y me lo agradecerás
@_talebanikov Uscito Tomori siamo crollati perché giustamente la rosa é da sideB. Amorim già é particolare, se poi deve gestire questi giocatori dove vogliamo andare? Suma&co ce la racconteranno ancora….