Guillaume Pitel

Co-founder/CTO @BabbarTech @pitzeglide.bsky.social

[Guillaume Pitel @PitZeGlide]

Moving to @pitzeglide.bsky.social

[Sylvain Peyronnet @speyronnet]

Salut twitter, on recrute un ou une chargé(e) de communication chez Babbar. Plutôt junior avec une première xp quand même (une alternance ça compte). Familiarité avec le SEO, envie de communiquer sur du SaaS, il faut parler et écrire l'anglais, aimer venir aux confs.
Une annonce avec profil détaillé à venir.

[Guillaume Peyronnet @GPeyronnet]

how it started: how it’s going:

[Lucie de Babbar.tech @BabbarTech]

C'est la première Masterclass Leaks Google avec @speyronnet et @GPeyronnet !

#frerespeyronnet

[Ben See @ClimateBen]

BREAKING:  scientists say the most recent research on rapid sea level rise is truly terrifying as the global climate system enters a catastrophic phase 🧵

[Le Parisien | Paris @LeParisien_75]

Pollution de l’air aux abords des stades : Paris est surexposé
➡️ https://t.co/9IvMyS9eja

[Luca Casonato 🏳️‍🌈 @lcasdev]

So, Google Chrome gives all *.google.com sites full access to system / tab CPU usage, GPU usage, and memory usage. It also gives access to detailed processor information, and provides a logging backchannel.

This API is not exposed to other sites - only to *.google.com.

[Calvet Pierre @PierreCalvet]

Hé ! Mais ça change un peu sur @yourtextguru, non ?

Tout à fait petit padawan, laisse moi t'expliquer ce qu'il y a de neuf :

1. La refonte des menus :
Histoire de regrouper ce qui peut se regrouper de façon un peu plus naturelle.

[☣ Doeurf™ Fred Bobet - www.trikaya.fr @Doeurf]

💥 BOOM : @BabbarTech liste enfin les backlinks cassés avec une donnée très intéressante en plus, le meilleur mot clé positionné et sa position !
MERCI 😍

[Sylvain Peyronnet @speyronnet]

JDCJDR

[Lucie de Yourtext.guru @yourtextguru]

Venez discuter des nouveautés avec @PierreCalvet !
#seocamp #seocampus #fepsem

[GO GREEN @ECOWARRIORSS]

Africa is becoming unlivable not in the year 2050 but right now in 2024

[Lucie de Babbar.tech @BabbarTech]

Ce matin, c'est une belle journee de @SMX_Paris qui commence, avec la conférence des supers @GPeyronnet et @PierreCalvet !

[Romain Lacombe @rlacombe]

Plastics are everywhere, including your arteries.

Patients with micro/nano-plastics in their atherosclerotic plaque had 4.5x more negative outcomes (stroke etc)

One more example that our environment determines our health.

[Prof. Anima Anandkumar @AnimaAnandkumar]

For the first time, we show that the Llama 7B LLM can be trained on a single consumer-grade GPU (RTX 4090) with only 24GB memory. This represents more than 82.5% reduction in memory for storing optimizer states during training.

Training LLMs from scratch currently requires huge computational resources with large memory GPUs. While there has been significant progress in reducing memory requirements during fine-tuning (e.g., LORA), they do not apply for pre-training LLMs. We design methods that overcome this obstacle and provide significant memory reduction throughout training LLMs.

Training LLMs often requires the use of preconditioned optimization algorithms such as Adam to achieve rapid convergence. These algorithms accumulate extensive gradient statistics, proportional to the model's parameter size, making the storage of these optimizer states the primary memory constraint during training. Instead of focusing just on engineering and system efforts to reduce memory consumption, we went back to fundamentals.

We looked at the slow-changing low-rank structure of the gradient matrix during training. We introduce a novel approach that leverages the low-rank nature of gradients via Gradient Low-Rank Projection (GaLore). So instead of expressing the weight matrix as low rank, which leads to a big performance degradation during pretraining, we instead express the gradient weight matrix as low rank without performance degradation, while significantly reducing memory requirements.

@jiawzhao @BeidiChen @tydsh

[Guillaume Pitel @PitZeGlide]

@seigi_php @BabbarTech Can you MP me please ?

[Le Mensuel de Rennes @MensueldeRennes]

À Rennes, le président d’Hellowork mortellement fauché par un conducteur alcoolisé et sans permis
https://t.co/MEqjuBGaMO

[Sylvain Peyronnet @speyronnet]

Chez Babbar on recrute un postdoc en collaboration avec le GREYC de l'UNICAEN.

C'est dans le cadre des programmes d'investissements d'avenir de France 2030.

Le lien vers le post Linkedin plus complet qu'un tweet : https://t.co/1t3wwVo0mp

[Guillaume Peyronnet @GPeyronnet]

DEUX nouveautés chez https://t.co/cMmgj30XT3 (oui, je crie)

C'est de l'IA, ça va rendre bien des services, ça va faire gagner du temps.

On Y VA !