Chers lecteurs. Nous appelons à y aller mollo sur les attaques contre Thélyson Orélien.
D'abord, il existe une chance non nulle (même si elle est infime) qu'il soit de bonne foi.
Ensuite, Orélien a sans doute joué dans une zone d'ombre morale, exploité une période de flou au cours de laquelle nos institutions et nos mœurs (ainsi que nos prix littéraires) ne sont pas encore adaptées à cette technologie nouvelle et transformatrice. Mais il ne pensait sans doute pas que le succès de son livre prendrait une ampleur nationale ; et s'il nous a paru important de signaler l'arnaque, il nous parait important d'avoir aussi de la compassion et de l'empathie pour lui, voire le soutenir dans cette période difficile qu'il doit vivre. Le mieux serait bien sûr qu'il se remette à écrire !
Les leçons de cette affaire dépassent son cas personnel, et c'est sur cela que nous devons nous concentrer.
Nous avons signalé ce bouquin parce qu'il a du succès, mais c'est loin d'être le seul. Sur ce réseau, des centaines d'hommes politiques et de comptes de slop font rédiger leur posts par IA, sans dire qu'il s'agit d'IA, trompant sciemment leurs lecteurs à longueur d'année. Et cela fait longtemps que les top des ventes de livres sur Amazon (premier distributeur de livres en France) sont trustés par des bouquins rédigés directement par IA, parfois très grossièrement, et avec un moins bon résultat que celui de Thélyson (qui a donc une forme de mérite à avoir réussi à produire une narration cohérente ayant donné satisfaction à beaucoup de lecteurs).
L'intelligentsia parisienne sous-estime encore sans doute les capacités des IA, et n'utilise pas ou peu les LLM (et ne traîne pas sur Linkedin), c'est pour ça qu'elle n'a pas reconnu les formules stéréotypées. Formules qui, si nous n'étions pas lassés de les voir sans cesse, nous plairaient sans doute : les modèles de langage les ont apprises parce qu'elles plaisaient aux humains qui ont supervisé leurs entrainements par RLHF !
Dans les commentaires, certains témoignent ne pas voir l'intérêt de l'authenticité ; peut être que ce qu'il faut retenir de cette polémique, c'est que d'après l'ampleur du scandale, la majorité accorde beaucoup d'importance à l'authenticité. Si vous considérez que vous apportez de la valeur en faisant écrire vos ouvrages par IA, faites-le ! Mais au moins, mentionnez-le, pour ne pas trahir vos lecteurs, car le mensonge, lui, est moralement condamnable.
Ah oui effectivement ça sent très fort le LLM, c'est même pas subtil. Que ça ait pu berner la critique littéraire, gagner des prix etc., je trouve ça atterrant.
(J'ai juste surligné les trucs qui me font le plus tiquer, mais ça transparaît vraiment presque à chaque ligne.)
Avez-vous entendu parler de ce roman ? C’est le « phénomène de la rentrée littéraire ». Il est lauréat du Prix Fnac, du Prix Méduse, du Prix Première Plume, fortement pressenti pour le Prix Renaudot, et il est en lice pour les prix Goncourt, Femina, Médicis et Décembre. Ah oui, il est aussi en cours de traduction dans 20 langues.
Eh bien selon Pangram, ce roman est rédigé presque intégralement par une Intelligence Artificielle. Nous avons testé plusieurs passages, à divers endroits du manuscrit, pour presque toujours le même résultat : 100% IA (cf les deux premiers chapitre dans le tweet ci-dessous).
Rappelons que Pangram est de loin le détecteur d’IA le plus fiable : son taux de faux positifs est de 0,0041%, soit environ un texte humain sur 24 400. Sur 996 273 textes antérieurs à 2022, Pangram en classe uniquement 14 (0,0014%) comme étant partiellement écrits par l’IA.
La probabilité que vingt passages d’un même livre (et il y a bien plus de 20 signalements dans le roman) soient identifiés à tort par Pangram comme étant produits par une IA s’élève donc à 0,0041% puissance 20, soit 0,1802 × 10⁻⁸⁵ %, c’est à-dire 0 suivi de 85 zéros après la virgule.
N’aurait-il pas été plus honnête que l’auteur crédite son co-auteur ?
Avez-vous entendu parler de ce roman ? C’est le « phénomène de la rentrée littéraire ». Il est lauréat du Prix Fnac, du Prix Méduse, du Prix Première Plume, fortement pressenti pour le Prix Renaudot, et il est en lice pour les prix Goncourt, Femina, Médicis et Décembre. Ah oui, il est aussi en cours de traduction dans 20 langues.
Eh bien selon Pangram, ce roman est rédigé presque intégralement par une Intelligence Artificielle. Nous avons testé plusieurs passages, à divers endroits du manuscrit, pour presque toujours le même résultat : 100% IA (cf les deux premiers chapitre dans le tweet ci-dessous).
Rappelons que Pangram est de loin le détecteur d’IA le plus fiable : son taux de faux positifs est de 0,0041%, soit environ un texte humain sur 24 400. Sur 996 273 textes antérieurs à 2022, Pangram en classe uniquement 14 (0,0014%) comme étant partiellement écrits par l’IA.
La probabilité que vingt passages d’un même livre (et il y a bien plus de 20 signalements dans le roman) soient identifiés à tort par Pangram comme étant produits par une IA s’élève donc à 0,0041% puissance 20, soit 0,1802 × 10⁻⁸⁵ %, c’est à-dire 0 suivi de 85 zéros après la virgule.
N’aurait-il pas été plus honnête que l’auteur crédite son co-auteur ?
🧵@amnesty’s new landmark 1000+ page report exposes the chain of command behind the deadly crackdown on the 2022 #WomanLifeFreedom uprising in Iran and identifies 87 officials who should be criminally investigated for crimes against humanity. 1/18 https://t.co/mEyq7WUcNV
HORRIFYING: Hackers have breached the IRGC’s network and found out what we already knew.
It is now CONFIRMED that at least 100,000 Iranians were murdered by the Islamic regime during the January protests.
One of the deadliest massacres in history.
La direction de France Inter vient de m’annoncer la suppression de mon édito hebdomadaire sur ses antennes.
Je me suis astreint jusque-là au silence.
Mais cette décision appelle désormais quelques mots... https://t.co/K1YihPJNvB
Tes parents quand t’étais au collège : "Il faut que t'ai des bonnes notes pour faire un bac général et un master 2 si tu veux pas finir pauvre"
Ton pote Donovan, lui il fumait du tcherno à 13 ans, il avait redoublé et fini en CAP chaudronnerie.
Aujourd’hui il gagne 4x ton salaire en faisant des travaux d’aménagement chez des boomers multipropriétaires qui payent au black.
Alors que toi t’es resté dans le rang, en CDD dans une boîte de branleurs de la French Tech (subventionnée par la BPI).
Tu travailles 60 heures par semaine parce que Thibault, ton manager gominé qui s’est récemment mis à l’Hyrox, t’a annoncé lors de ton bilan mid-term "ici on a l’esprit startup comme à Palo Alto".
Lundi matin, pose café : après t’avoir raconté son after en appart à Aubervilliers, Jean, le responsable de "l’optimisation des performances opérationnelles", t’annonce avec enthousiasme que ton contrat ne sera pas reconduit car ils ont automatisé tes tâches de veille stratégique avec un bot Openclow.
Selon lui "c’est la tendance du marché".
Il te met une petite tape cordiale sur l’épaule et enchaîne sur le potager hydroponique qui vient d’être installé sur le toit de son immeuble.
T’as encore 40 000 euros de prêt étudiant sur le dos, un appart à 1600 balles par mois à Père-Lachaise et toutes les compétences que t’as acquises en MBA strategic growth sont automatisables avec 200€ de tokens Claude.
Bref, t’aurais ptetre dû aller fumer des pilons avec Dono.
Today marks a major step for Mistral: we’re announcing a €3B Series D, the largest equity round ever raised by a European tech company, just three years after launch.
ENTRETIEN. @Ph_Aghion, prix Nobel d'économie : "Ce que M. Mélenchon ne comprend pas, ou ne veut pas comprendre, c'est qu'on ne peut pas distribuer ce qu'on ne produit pas." 👇https://t.co/5ctUi3YWf8 @ESzeftel@hadrienmathoux
Dites-vous bien que le gouvernement baisse le remboursement des frais dentaires, les aides à l'apprentissage et la durée d'indemnisation du chômage pour ne pas toucher à la retraite de cette boomeuse partie à la retraite à 58 ans. Et c'est aussi pour ne pas baisser d'un centime sa pension que le gouvernement envisage de taxer l'épargne salariale.