Mister Q

Bonjour bonjour 👋🥁🎶

[SaxX ¯\_(ツ)_/¯ @_SaxX_]

🚨🔴🇫🇷 PIRATAGE MINISTÈRE DE L'INTÉRIEUR- Les cyberattaques sont sophistiquées... FAUX ! Preuve en est avec le post-mortem du piratage du ministère de l'intérieur...

Tout part d'un fonctionnaire du ministère de l'agriculture... qui a TÉLÉCHARGÉ UN LOGICIEL PIRATÉ PIÈGÉ ! Et c'est comme ça que ces identifiants sont récupérés puis revendus !

La suite on la connaît !

Les agents de l'administration publique sont très mal sensibilisés pcq population très hétéroclite avec du usages du numérique très disparates !

Je le dis ! Et c'est ce que fais lors de nombreuses prises de parole et masterclass, la sensibilisation.

Sinon ça ne sert à rien d'avoir un système sécurisé si les utilisateurs ne sont pas formés... sensibilisés... éduqués aux bons réflexes numériques !

La sécurité d'une chaîne réside dans la sécurité de son maillon le plus faible.

Cybèrement vôtre,

SaxX ¯\_(ツ)_/¯

[Tina Debove ᯅ @TinaDebove]

Je salue l’initiative de faire de la France le premier pays intégralement en open data.

[Aurea @AureaLibe]

Ça vous dit un guide complet pour contourner Chat Control v1 (l’actuel), et le v2 (dans les tuyaux), qui scannera vos messageries privées ?

Ils veulent détruire le droit à la vie privée.

La seule réponse est de vous apprendre à contourner leurs restrictions, et à vous protéger.

[PlayStation Nostalgia @PlayStalgiaX]

Uncharted 2 Dynamic PS3 Theme

[⛵ Guilhem Lettron @guilhemlettron]

Vous êtes pas prêt à la vérité sur l'IPv6 :D

[Team Liquid @TeamLiquid]

Your setup will never be the same.

Team Liquid Presents: STAR WARS™ Keycaps Collection

4 Keycap sets and 4 mousepads designed with iconic imagery from the STAR WARS™ universe with your Alienware Pro Keyboard in mind.

May the setup be with you this Friday, 4/10.

[🚲 Le Zorro Marseillais 🚴‍♂️ 🍌 @Zorro2Marseille]

une pensée pour celles et ceux qui prennent le métro #RTM @ampmetropole...
via @laprovence

[DRAGON BALL OFFICIAL @DB_official_en]

[Pre-Orders Available]

Scouter Pro Max: The next generation in wearable devices.

#AprilFools

[Brivael Le Pogam @brivael]

Google vient de publier un papier qui compresse les LLMs à 3 bits. 8x plus rapide, 6x moins de mémoire. Zéro perte de performance 🤯🤯🤯

Le truc c'est que la méthode est élégante au point d'en être presque triviale une fois qu'on la comprend.

Ça s'appelle TurboQuant. Je vous vulgarise tout le paper :

Déjà, le problème de base.

Quand un LLM génère du texte, il doit se "souvenir" de tout ce qu'il a lu et écrit avant. Ce système de mémoire s'appelle le KV cache (key-value cache).

Imaginez un étudiant qui prend des notes ultra détaillées pendant un cours. Plus le cours est long, plus ses notes prennent de place sur son bureau. À un moment il n'a plus de place pour écrire.

C'est exactement ce qui se passe avec les LLMs : plus le contexte est long, plus le KV cache explose en mémoire. C'est un des plus gros bottlenecks de l'inférence aujourd'hui.

La solution classique c'est la quantization. L'idée est simple : au lieu de stocker chaque nombre avec une précision extrême (32 bits, genre 3.14159265...), tu le stockes avec moins de précision (4 bits, genre "~3").

C'est comme passer d'une photo RAW de 50 MB à un JPEG de 2 MB. Tu perds un peu de détail mais visuellement c'est quasi pareil.

Le problème c'est que les méthodes classiques de quantization trichent un peu. Pour chaque petit bloc de données compressé, elles doivent stocker des "constantes de calibration" en pleine précision.

C'est comme si pour chaque photo JPEG vous deviez garder un petit post-it en haute résolution à côté qui dit "voilà comment décoder cette image".

Ces post-its rajoutent 1 à 2 bits par nombre. Quand tu essaies de compresser à 2 ou 3 bits, cet overhead représente une part énorme de ta mémoire totale. Ça annule une bonne partie du gain.

TurboQuant résout ça en deux étapes.

Étape 1 : PolarQuant.

Au lieu de décrire un vecteur avec des coordonnées classiques (X, Y, Z), tu le convertis en coordonnées polaires : une distance + un angle.

C'est comme remplacer "va 3 rues à l'est puis 4 rues au nord" par "va 5 rues direction 37 degrés". Même info, format plus compact.

L'astuce c'est qu'avant de faire ça, tu appliques une rotation aléatoire sur tes vecteurs. Ça rend leur distribution prévisible et uniforme. Du coup tu n'as plus besoin de stocker les fameuses constantes de calibration, la géométrie fait le travail toute seule.

Étape 2 : QJL (Quantized Johnson-Lindenstrauss).

Après PolarQuant il reste une petite erreur résiduelle. QJL la corrige avec 1 seul bit par nombre.

Le principe vient d'un théorème mathématique qui dit qu'on peut projeter des données de haute dimension dans un espace plus petit tout en préservant les distances entre les points.

QJL pousse ça à l'extrême : il réduit chaque valeur projetée à juste son signe (+1 ou -1). Un seul bit. Et grâce à un estimateur spécial qui combine la query en haute précision avec ces données ultra compressées, le modèle calcule toujours des scores d'attention précis.

Les résultats sont assez dingues.

Sur les benchmarks long-context (LongBench, Needle in a Haystack, RULER...) avec Gemma et Mistral : zéro perte de performance à 3 bits. Le KV cache est réduit d'un facteur 6x. Et sur H100, le calcul des scores d'attention est jusqu'à 8x plus rapide qu'en 32 bits.

Le tout sans aucun fine-tuning ou entraînement supplémentaire. Tu branches, ça marche.

Et le plus intéressant : ça ne sert pas qu'aux LLMs.

TurboQuant surpasse aussi les méthodes state of the art en vector search, c'est à dire la techno qui permet de chercher par similarité dans des bases de milliards de vecteurs (ce qui fait tourner Google Search, les systèmes de recommandation, le RAG...).

Mon take : l'inférence c'est là où se joue la vraie bataille économique de l'AI.

Les marges de toute l'industrie dépendent du coût par token en production. Un gain de 6 à 8x sur la mémoire et la vitesse d'inférence, sans aucune perte de qualité, ça change fondamentalement l'équation.

Ce type de recherche ne fait pas de bruit sur Twitter mais son impact business est potentiellement supérieur à celui d'un nouveau foundation model.

[Lucien Arbieu @ArbieuLucien]

Ishhhhhh GOOGLE révolutionne l'industrie de l'IA une fois de plus.

On assiste à un changement de paradigme là c'est assez insane.

Un des gros plafond de verre de l'IA c'est l'énergie aka les serveurs qui consomment trop.

Ils consomment trop de par l'architecture actuelle des Transformers.

Mais @GoogleResearch vient de régler ce problème en divisant le besoin par 6.

Traduction :
Un plafond de verre vient de sauté, c'est sans précédent pour ce qui reste à venir.

#google #turboquant

[Dexerto @Dexerto]

No Man's Sky player builds a working Millennium Falcon

🎥: @SPACEPIPATE

[Defend Intelligence (Anis Ayari) @DFintelligence]

À 1000 likes sous ce tweet je vais à Disneyland, je l’achète et je lui branche une IA dans le derch pour le faire trashtalké sur la reine des neiges et le transformé en DarkOlaf.

(PS: Faut RT et répondre pour les atteindre svp j’ai trop envie de me balader avec dans la rue et qu’il balance des piques aux passants 😂👀)

[Olivier GAY @0liviergay]

IMPORTANT

Je viens de recevoir un courrier d'avocat de la part du jeu CLAIR OBSCUR @expedition33 de Sandfall Interactive, qui me somme d'arrêter de vendre ma BD éditée chez Drakoo intitulée Académie Clair-Obscur, censée surfer sur le succès incontestable du jeu.

Bon. (1/X)

[Olivier Sauvage @Capitaine]

Depuis cette nuit circule un rapport d'Anthropic sur l'impact de l'IA sur divers secteurs professionnels.

Un schéma qui montre que dans beaucoup de domaines, l'IA pourrait prendre une place importante et provoquer un chômage de masse (allant jusqu'à 43% pour certaines catégories).

J'aimerais qu'on m'explique quelque chose.
Voilà une entreprise qui vend un service en annonçant qu'en même temps ce service va détruire (potentiellement) des millions d'emploi.

C'est bien la première fois de ma vie que je vois une entreprise annoncer tranquillement que ce qu'elle produit (elle et ses concurrents) va provoquer des ravages dans la société.
Comme ça, tranquillement, sans que personne ne semble ne remarquer la contradiction.

Comme si les marchands de cigarettes, à une époque, nous auraient dit : "Ah, au fait, profitez bien de vos cigarettes, maintenant, parce qu'après, vous allez tous mourir du cancer."

Comme si Coca-Cola et Mc Donald's s'étaient amusées à publier des rapports sur l'obésité aux États-Unis.

Plusieurs hypothèses :

1) Les gens d'Anthropic n'ont aucune morale et sont d'un cynisme particulièrement abject. Ils se moquent des conséquences de ce qu'ils font, et n'ont aucun remord à nous le faire voir d'avance

2) Nous sommes masochistes et nous nous effrayons des rapport d'Anthropic tout en continuant à acheter leur service, alors qu'il devrait nous mettre théoriquement au chômage

3) Anthropic "ment" et s'amuse à nous faire peur avec des hypothèses qu'elle est elle même incapables de vérifier (et, en réalité, tout ça n'est que projection, sachant que le rapport d'Anthropic n'apporte aucune preuve de ce qu'il avance).

4) Anthropic ne ment pas et se gargarise de réduire le coût de la main d'œuvre dans des proportions telles que des milliers de grands groupe pourront réduire leurs coûts de production.

Mon pari est la quatrième hypothèse, et même si je ne crois pas aux risques de chômage de masse, en revanche, je pense que ce plan cache, en réalité, un risque énorme de concentration des richesses et des moyens de production aux mains de quelques entreprises comme Anthropic, Google ou OpenAI sur certains secteurs d'activité.

S'il y a un danger, il est plutôt à chercher de ce côté là et les états feraient bien dès maintenant de s'intéresser à leurs ambitions plutôt que de se soumettre à leurs bon vouloir si servilement, comme ils l'ont fait en grande partie jusqu'à maintenant.

Et ça entraîne sans doute aussi tout un tas de considérations sur l'autonomie européenne en la matière. Que faisons-nous pour nous protéger de la sauvagerie et de la brutalité des entreprises US ? Comment assurons-nous notre indépendance ?

N'est-ce pas @babgi ?

[Made in Sud @madein_sud]

🥙 Après le succès de la première édition aixoise, le Street Food Festival s’installera de nouveau au parc Jourdan en juin prochain.

➡️ https://t.co/e4KZk7Q5cB

[𝐋𝐄𝐆𝐄𝐍𝐃🇩🇪 @Legend_ElBashir]

Résumé du conflit USA 🇺🇸 - IRAN 🇮🇷

[Léo Duff @LeoDuffOff]

Il va falloir se pencher sur les jeux vidéo auxquels jouent les singes

[Star Wars Holocron @sw_holocron]

A player in STAR WARS BATTLEFRONT is miraculously saved at the last second as Luke Skywalker charges at them

🎥: Zephs via @Dexerto

[Kayane @Kayane]

OMG WE MADE IT OUT OF #MASTERCUP POOLS !!! WE WON ALL THE MATCHES !

LETS GOOOOOO 🔥🔥 #TEKKEN8

[Disney+ FR @DisneyPlusFR]

Duels, courses-poursuites… et rencontres explosives avec les Dalton, Billy the Kid et Calamity Jane ! 🧨🌵

Retrouvez Lucky Luke, votre nouvelle série originale, le 23 mars sur #DisneyPlus.