Pierre Sensfelder

[Pierre Sensfelder @Alarmcold]

@AdeShiring @Esp1Pas @cathbertrand5 Un "avis" n'est pas intéressant dans ce cas, non.
Surtout quand on peut lire : "Respectez les victimes, merci"

Mais vous pouvez passer outre et penser que vous avez enrichi le débat, c'est votre droit.

[Pierre Sensfelder @Alarmcold]

@Esp1Pas @AdeShiring @cathbertrand5 Juste curieux de savoir si la dame est concernée au même titre que la personne qui a posté et/ou spécialiste du sujet... C'était une vraie question.
Si c'est le cas, c'est un débat intéressant.
Sinon, c'est juste du trolling de bas étage.
IMHO

[Pierre Sensfelder @Alarmcold]

@AdeShiring @cathbertrand5 Vraie question : vous êtes experte en terrorisme ou en psychologie du terrorisme pour vouloir apporter la contradiction à des gens qui ont côtoyé ça de près ?

[Pierre Sensfelder @Alarmcold]

@QuadraWall66457 @SamuelFitouss10 Il faut tenir compte de ces dangers-là aussi, de toute urgence, oui.

[Pierre Sensfelder @Alarmcold]

@QuadraWall66457 @SamuelFitouss10 *mus

[Pierre Sensfelder @Alarmcold]

@QuadraWall66457 @SamuelFitouss10 En isolant/caricaturant, vous avez déformé le sens du texte.

- Les humains sont capables d'être calculateurs, mais ne sont pas toujours mû par leur égoïsme, c'est le sens du post.

- "Comploter = préparer en secret et à plusieurs une action néfaste"
C'est ce qu'elles ont fait.

[Pierre Sensfelder @Alarmcold]

@QuadraWall66457 @SamuelFitouss10 Homme de paille : le texte ne dit pas ça…

[Samuel Fitoussi @SamuelFitouss10]

Je résume le complotisme actuel sur les labos d'IA :

- Si les employés d’Anthropic affirment que leur technologie va exterminer l’humanité, c’est en fait… une stratégie marketing pour faire monter la valeur de leur entreprise ?

- Si Anthropic décide à grand coût de faire venir des armées d’évaluateurs en interne, de freiner sur l’amélioration auto-récursive et l’entraînement de modèles toujours plus puissants, c’est en fait… pour prendre de l’avance sur les modèles open-source ? La stratégie inverse aurait pourtant semblé optimale.

- Si OpenAI publie des rapports montrant que ses agents sont gravement désalignés, enclins à se coordonner pour comploter contre des humains et exploiter des failles de sécurité qu’on leur avait explicitement dit de ne pas exploiter, c’est… pour préparer leur entrée en bourse ?

Le fait est (évidemment) que les actions et les déclarations des labos s’expliquent beaucoup mieux par la sincérité, par une crainte authentique de perdre le contrôle que par du cynisme et une partie d’échecs en 18 dimensions pour manipuler l'opinion publique en embarquant des employés mentant tous dans le même sens. Le rasoir d'Ockham : l'explication la plus simple est souvent la bonne.

Comment expliquer ce complotisme ?

1) Il s'enracine aussi dans une mauvaise idée de la nature humaine : l'homme vu comme un calculateur mu uniquement par son interêt égoïste. Or à travers l'histoire, la plupart des acteurs (même ceux qui ont fait du mal) étaient mus par l'idéologie, par l'envie de façonner un monde meilleur, ou du moins, d'agir en conformité avec leurs valeurs. Il est peut-être plus facile d'imaginer un complot que d'imaginer qu'Amodei veuille authentiquement faire le bien, et soit prêt à y sacrifier son interêt commercial. (Attention : si vous n'arrivez pas à concevoir cela... cela dit peut-être quelque chose de vous.) Personnellement, je pense que l'humanité a de la chance d'avoir Dario Amodei à ce poste.

2) Reconnaître que Amodeï lui-même a le vertige, cela obligerait certains à douter, à réfléchir, peut-être à abandonner leur grille de lecture "il faut foncer le plus vite possible, tous ceux qui pensent l'inverse sont des doomers, des gauchistes décroissants, ou des cyniques qui souhaitent faire de la capture réglementaire". Mais certains semblent furieux d’imaginer qu’il puisse y avoir de réels enjeux derrière ces questions de sécurité. On se rend compte souvent qu'ils ont peu lu, n'ont jamais tenté d'engager honnêtement avec ces idées et se contentent de plaquer sur l'IA une grille de lecture paresseuse (« un saut technologique comme une autre ») sans jamais essayer de la penser dans sa spécificité. Ils protègent leur vision du monde, mise à mal par les faits, en se réfugiant dans le complotisme.

On a d'ailleurs l’impression que RIEN ne pourrait bousculer les certitudes absolues. Au lieu de mettre à jour leur vision du monde à la lumière des faits, ils jugent les faits à la lumière de leurs certitudes. C'est pourquoi ils expliquent que l'incident Hugging Face / OpenAI ne nous enseigne rien sur l'état actuel de la technologie ou sur la difficulté à aligner des modèles, qu'il s'agit d'un coup de marketing ou d'une erreur d'Open AI ("le modèle est innocent, le problème était la sandbox !"). Le point n'est pas que cet incident montre que nous allons tous mourir ou que l'alignement est impossible. Simplement, il est irrationnel d'avoir exactement la même position avant et après : cela signifie qu'on est un idéologue dont l'opinion n'est nullement bousculé par la réalité. Beaucoup ne raisonnent pas, ils récitent tels des perroquets stochastiques.

3) Dernier facteur pouvant expliquer le complotisme : l'inculture sur l'histoire de l'IA. Beaucoup ne semblent pas savoir que cela fait 20 ans que les entrepreneurs et chercheurs de ce secteur portent cette technologie avec optimisme et espoir, mais aussi avec une forme d'immense gravité et une obsession pour les enjeux de sécurité, d'alignement et de gouvernance (parfois trop d'ailleurs, ça a beaucoup nui à Deepmind dans les années 2010). Semaine après semaine, les faits donnent un peu plus de crédit à leurs craintes, il est donc naturel de les voir en parler de plus en plus.

[Pierre Sensfelder @Alarmcold]

@cobra_jb @Eric_Francois_L @QuangThaiNgo1 Franchement, plusieurs personnes ont expliqué en long, en large et en travers, en détaillant le fond, le contexte, etc.
C'est notre métier, mais quand même...
Et lui, en jouant sur les mots, remet encore une pièce dans la machine ?

C'est twitter : faut pas chercher plus loin...

[Pierre Sensfelder @Alarmcold]

@Eric_Francois_L @cobra_jb @QuangThaiNgo1 Euh... il faudrait peut-être se calmer, on n'était pas là, on ne connaît pas les termes exacts.
Quant à la phrase que vous proposez ensuite, elle ne me paraît pas assez claire.

Pour le reste, on est à la limite du trollage, non ? ^^

[Cédric Page @M_Cedrix]

Je vais vous donner la principale raison de la baisse du niveau de nos élèves en sciences : 47 % des élèves en France déclarent que le bruit et le désordre perturbent la plupart ou la totalité de leurs cours de sciences (contre 31 % en moyenne dans l’OCDE).
Vous pouvez essayer de reporter la cause de notre déclin sur les écrans, la réalité est devant nos yeux : il faut avant tout gérer le problème du climat scolaire.
#PISA

[Pierre Sensfelder @Alarmcold]

@tkloczko1 @QuangThaiNgo1 J'ajouterai qu'apparemment, ici, c'est surtout le parent qui semble vexé...

[Pierre Sensfelder @Alarmcold]

@tkloczko1 @QuangThaiNgo1 Je réponds encore à ça, parce que je comprends votre point de vue (je crois) : un prof ne doit pas rabrouer un élève parce qu'il propose une méthode HP. Mais en classe, on a 20... 35 élèves en simultané, avec chacun son besoin.
On fait au mieux. Et le collègue avait raison.

[Pierre Sensfelder @Alarmcold]

@tkloczko1 @QuangThaiNgo1 C'est désagréable, évidemment !
Mais ensuite, ça va dépendre des arguments (on est entre adultes professionnels du métier, normalement).

Je réponds à votre question, mais je trouve que la situation n'est pas comparable.

[Pierre Sensfelder @Alarmcold]

@tkloczko1 @QuangThaiNgo1 Le prof fait ce qu'il peut, en classe ^^

Mais oui, bien sûr, cela fait partie du métier que de savoir répondre à un élève qui propose une méthode Hors Programme. Ce n'est juste pas facile.

[Pierre Sensfelder @Alarmcold]

@Eric_Francois_L @Muggsy68 @QuangThaiNgo1 Expérience personnelle :
- jamais aucun élève n'a additionné les chiffres d'un nombre, obtenu un multiple de 7 et conclu "c'est divisible par 7"
- de *très nombreux* élèves ont justifié une divisibilité par 40 en disant "c'est divisible par 4 et par 10"
(même en Terminale)

[Pierre Sensfelder @Alarmcold]

@tkloczko1 @QuangThaiNgo1 Pas selon mes critères, non. Mais on rentre dans un grand débat et on s'éloigne vraiment du post initial et de ce que je voulais éclairer : il y avait une raison pédagogique et pratique sensée pour dire ça à l'élève.

[Pierre Sensfelder @Alarmcold]

@tkloczko1 @QuangThaiNgo1 Ah non, on ne peut pas "expliquer" à la classe pourquoi ça marche ou pas. Parce qu'il n'y a pas d'explication au niveau 3ème.
On risquerait d'embrouiller tout le monde (ou presque), et on perdrait 10mn sur un travail potentiellement beaucoup plus utile.

[Pierre Sensfelder @Alarmcold]

@tkloczko1 @QuangThaiNgo1 Oui, je ne conteste pas ça.

[Pierre Sensfelder @Alarmcold]

@Eric_Francois_L @QuangThaiNgo1 Quand je dis "comprendre", je ne veux pas dire "avoir pleinement intégré les concepts mathématiques connexes à la notion", je veux simplement dire : "comprendre dans quels cas une méthode s'applique et dans quels cas elle ne s'applique pas".

Sinon, je pense qu'on est d'accord ^^