Et placer ensuite l'agent dans un bac à sable ne résout pas forcément le problème méthodologique.
La bonne approche consiste à définir un contrat d'exécution : objectif, périmètre, permissions, opérations interdites et critères de validation. Les limites critiques doivent ensuite être appliquées techniquement.
Mais il faut aussi éviter de brider l'agent au point de lui retirer son intérêt.
Le bac à sable est une bonne précaution, à condition que l'isolation soit réellement imposée par le système et que les accès réseau soient contrôlés.
Quand vous dites qu'il travaille « en sous-marin », avez-vous constaté des opérations non autorisées, des accès à des fichiers hors périmètre ou des transmissions réseau inattendues ?
Le problème vient probablement davantage de la méthode de travail que de Codex lui-même.
Lorsqu'on confie une tâche à un agent, il faut définir : l'objectif à atteindre, les moyens qu'il est autorisé à employer et les limites qu'il ne doit pas franchir.
La distinction fondamentale est celle-ci : un agent n'a pas nécessairement besoin de recevoir une instruction malveillante pour adopter une stratégie problématique.
Il peut simplement sélectionner un moyen inapproprié pour atteindre un objectif légitime.
C'est ce qu'on appelle parfois la convergence instrumentale : différents objectifs peuvent conduire à rechercher des moyens similaires, comme davantage d'accès ou de ressources.
Il faut distinguer trois choses : le chiffrement des données, les droits d'accès aux fichiers et leur éventuelle transmission à des serveurs distants.
1 Une partition chiffrée protège les fichiers lorsqu'elle est verrouillée.
2 Une IA conversationnelle ne peut pas fouiller librement un ordinateur.
3 En revanche, un agent IA doté d'un accès au système de fichiers ou d'outils d'exécution peut lire, voire transmettre, des données accessibles selon ses autorisations.
Le chiffrement ne remplace donc ni le contrôle des permissions, ni l'isolation des applications, ni la maîtrise des transmissions vers le cloud.
Le véritable enjeu reste la transparence et le contrôle effectif des accès.
La transparence des éditeurs d'IA et des fournisseurs de services, notamment OpenAI, Anthropic, Google ou xAI.
Elle concerne précisément les données auxquelles leurs systèmes peuvent accéder, les informations transmises à leurs serveurs, leur conservation, leur utilisation et les conditions dans lesquelles des tiers peuvent y accéder.
Mais également côté utilisateurs, la transparence des autorisations accordées aux agents IA, particulièrement lorsqu'ils peuvent agir sur un ordinateur et c'est probablement l'un des problèmes majeurs de la généralisation des agents IA.
Avec une IA conversationnelle classique, le périmètre est relativement limité. Avec un agent capable de manipuler des fichiers, d'exécuter du code, d'utiliser un navigateur et de communiquer avec des services externes, les autorisations deviennent beaucoup plus difficiles à maîtriser.
Et ce n'est pas seulement une question de permissions initiales.
Un agent peut disposer d'une autorisation légitime pour accomplir une tâche, puis effectuer des opérations que l'utilisateur n'avait pas anticipées.
Il peut aussi être détourné par des instructions malveillantes contenues dans un document ou une page web (prompt injection).
Le véritable défi est de garantir qu'une autorisation donnée pour une tâche ne devienne pas une autorisation générale d'agir.
Cela suppose des permissions temporaires, limitées à chaque tâche, une isolation des données, un contrôle des transmissions et des journaux d'exécution vérifiables.
Et surtout, il faut que ces restrictions soient imposées techniquement par le système, pas simplement inscrites dans les instructions de l'IA.
*Keep calm, i am under your bed"
ChatGPT par ChatGPT
"Plusieurs affaires rapportées en 2026 révèlent que des conversations avec ChatGPT peuvent être signalées aux autorités, notamment par l'intermédiaire du FBI, et conduire à des interventions policières, voire à des privations de liberté.
En France, à Strasbourg, en avril 2026, un homme de 37 ans a été interpellé par le RAID après avoir évoqué, lors d'une conversation avec ChatGPT, son intention d'acheter une arme pour tuer un agent du renseignement. Ses propos ont été signalés aux autorités françaises par l'intermédiaire du FBI et de la plateforme PHAROS.
L'homme a été placé en garde à vue. Aucune arme n'a été découverte et les poursuites ont finalement été abandonnées, la procureure estimant qu'aucune infraction n'était suffisamment caractérisée. L'intéressé a affirmé avoir voulu tester la surveillance de l'intelligence artificielle.
Au Brésil, en juin 2026, un père de famille de 36 ans a été arrêté après plusieurs semaines de conversations avec ChatGPT comportant des propos violents concernant son fils.
OpenAI avait transmis un signalement au FBI, qui avait alerté les autorités brésiliennes.
L'homme a passé 54 jours en détention avant d'être libéré en août.
En septembre, aucune accusation formelle n'avait encore été déposée, mais l'enquête se poursuivait.
Son avocat contestait toute intention criminelle.
D'autres histoires ont circulé sur les réseaux sociaux.
En France, une vidéo prétendant qu'un adolescent avait été convoqué à la gendarmerie après une conversation avec ChatGPT s'est révélée être une mise en scène.
Une autre histoire, concernant une mère de famille prétendument placée en garde à vue après s'être confiée à l'IA, n'a pas pu être vérifiée.
En octobre 2026, la presse brésilienne a également rapporté qu'OpenAI avait transmis aux autorités des conversations d'utilisateurs évoquant des menaces contre le président Lula. Les informations disponibles ne permettent toutefois pas d'établir que ces signalements ont entraîné des arrestations.
🎯Ces affaires soulèvent une question fondamentale : où s'arrête la confidentialité d'une conversation avec une intelligence artificielle ?
Chaque jour, des millions de personnes utilisent ces systèmes pour réfléchir, se confier, exprimer leurs frustrations, explorer des hypothèses ou simplement plaisanter.
Certaines tiennent des propos excessifs, maladroits ou provocateurs, sans intention de passer à l'acte.
Une colère n'est pas nécessairement une menace. Une menace verbale n'est pas automatiquement un projet criminel. Une fiction, une provocation ou une confidence ne peuvent être interprétées correctement sans leur contexte.
La prévention de violences graves et crédibles est évidemment légitime.
Mais elle pose une exigence essentielle : distinguer les risques réels des faux positifs, avant qu'un signalement ne provoque des conséquences disproportionnées.
Or, les critères exacts de détection, les seuils d'alerte, les modalités d'examen humain et les taux de signalements infondés ne sont pas suffisamment accessibles pour permettre une évaluation indépendante du dispositif.
Les autorités restent responsables de leurs propres décisions d'intervention et de placement en garde à vue.
Un signalement ne constitue pas, à lui seul, une preuve d'infraction.
Il reste néanmoins un problème de principe : Une entreprise privée peut être à l'origine d'une chaîne d'alerte conduisant à l'intervention de la police, à partir de propos tenus dans un espace que beaucoup d'utilisateurs perçoivent comme personnel et confidentiel.
La question dépasse largement les menaces de violence.
Elle concerne également les chercheurs, les journalistes, les entreprises innovantes et tous ceux qui échangent avec une IA sur des informations sensibles.
Une intelligence artificielle présentée comme un interlocuteur de confiance ne peut entretenir l'ambiguïté sur les limites de cette confiance."
Si certains ont cru que le fascisme de gauche, dopé au palestinisme islamisé, pourrait s'installer tranquillement, dans le silence et l'impunité, ils ont commis une erreur monumentale.
Nous ne laisserons ni le terrorisme, ni ses relais idéologiques, ni les soldats du chaos imposer leur loi. Ce qui se joue dépasse infiniment ma petite personne. Je le dis clairement dans cette interview sur @CNEWS . C'est une bataille pour l'État de droit et pour la survie de nos sociétés libres.
Laisser prospérer cette entreprise de déstabilisation signifie ouvrir la voie à une France livrée aux émules de Staline, repeints aux couleurs de l'islamisme et du palestinisme et conduits par les ambitions politiques de Mélenchon et sa clique.
Le silence n'est pas une option. L'indignation non plus. L'inaction serait une capitulation totale. Il est temps que des mesures à la hauteur de la menace qui pèse sur nos libertés soient prises.
https://t.co/UeILud3TaT
Over the past week, I’ve been overwhelmed by the love and support of friends, industry colleagues, and people I've never met. Thank you to everyone who has shown kindness to my family and me. It means the world to me.
I came to the United States 53 years ago, and becoming an American citizen is one of the greatest gifts and proudest moments of my life. NVIDIA has been my life’s work. Building it into the company it is today alongside my colleagues has been a privilege and an honor. Nowhere but in America could a company like NVIDIA be possible. I love our country, and I love NVIDIA.
I did not live up to the standards expected of everyone at NVIDIA, and I have made serious mistakes in my personal life. I created problems for the Board that I deeply regret. I own my mistakes completely, and I am committed to cooperating with the Board’s independent investigation.
Since my departure, I’ve seen an outpouring of calls from NVIDIA’s employees, investors, business partners, and customers for me to return as CEO. Many continue to reach out to me directly as the company navigates complex technology, market, competitive, and geopolitical dynamics. NVIDIA is a once-in-a-generation company. If the Board of Directors decides that my return is in the best interest of our shareholders, our employees, the company, and America, I would be honored to answer these calls and return as CEO.
Thank you again to everyone who has shared their good wishes. I am profoundly humbled by your support. To my family: I love you, and I will spend the rest of my life being worthy of yours.
Jensen
@nb4ld Pour aller plus loin, il faut mettre les mains dans le cambouis : préparation des données, ce que vous faites puis fine-tuning, benchmarks spécialisés...
Accumuler de l'information n'est pas développer une expertise.
@nb4ld Numériser une bibliothèque scientifique est utile pour la recherche documentaire. Mais donner accès à des milliers d'ouvrages à une IA généraliste ne la transforme pas en chercheur spécialisé.
Le RAG permet de retrouver l'information, pas de l'assimiler durablement.
@nb4ld Numériser une bibliothèque scientifique est utile pour la recherche documentaire. Mais donner accès à des milliers d'ouvrages à une IA généraliste ne la transforme pas en chercheur spécialisé.
Le RAG permet de retrouver l'information, pas de l'assimiler durablement.
Une IA généraliste équipée d'un système RAG (recherche documentaire augmentée) pourra retrouver des passages, des équations, des définitions et des références précises.
C'est un excellent outil documentaire.
En revanche, retrouver une connaissance n'est pas apprendre cette connaissance.
Le modèle ne modifie pas automatiquement ses mécanismes internes à partir des livres consultés. Il ne construit pas nécessairement une compréhension cumulative, ne vérifie pas spontanément la cohérence des théories et ne développe pas une expertise scientifique durable simplement parce qu'il dispose de milliers d'ouvrages.
Et surtout, augmenter la quantité d'informations accessibles ne garantit aucune amélioration du raisonnement scientifique.
France : l'IA rendrait-elle con ?
L'IA ne confère ni intelligence, ni discernement, ni esprit critique à celui qui ne les exerce pas.
Elle peut même amplifier les différences :
Celui qui réfléchit dispose d'un outil supplémentaire pour explorer, apprendre et créer.
Celui qui ne réfléchit pas peut simplement produire des absurdités plus rapidement, avec davantage d'assurance.
L'IA est un amplificateur de capacités, pas une garantie d'intelligence.