#LITERT - Twitter Hashtag

about 6 hours ago

👉 v0.2.0 is out. Try it, read the code: https://t.co/dkP79qWa4y Thanks @GoogleDeepMind @googlegemma @googleaidevs @AndroidDev @Qualcomm @Snapdragon @Snapdragon_IN @huggingface 🙌 #OnDeviceAI #EdgeAI #Gemma #LiteRT #Android #Snapdragon #OpenSource #AI

0

2

0

24

Jeremy Gitau @_JeremyGitau

about 16 hours ago

Fast forward, and I’m back to exploring on-device ML, this time with Kotlin and LiteRT. I’m documenting what I learn in a new series, starting with the basics and eventually getting into on-device GenAI. Part 1 👇 https://t.co/PeL61t99Dg #Kotlin #LITERT #ondeviceML #Tensorflow

0

13

閃きを知財に

@ov60clubs

6 days ago

Google AI Edgeの #LiteRT エンジンを使って、Google Antigravity SDKでGemma 4を完全にオフラインで実行できるようになりました。 Gemma 4 26B A4B は目安 24GB以上のVRAM / 統合メモリ、ダウンロード約 16.8GB。「AI Office Principal CALEN」にとってもいいニュースです。更に、#CALEN の協働環境が調います。この、python3 -m venv venv ↩️ 何度、タイプしたことか 😊 Docker 利用の方は、多いとは思いますが、・ゼロ・オーバーヘッド・リアルタイム性・GPIO/アクセスの容易さ・rsync による爆速同期一方で、Python環境の「絶対パス依存」に注意 #AIエージェント #AIアプリ開発 #LiteRT

ov60clubs's tweet photo. Google AI Edgeの #LiteRT エンジンを使って、Google Antigravity SDKでGemma 4を完全にオフラインで実行できるようになりました。
Gemma 4 26B A4B は目安 24GB以上のVRAM / 統合メモリ、ダウンロード約 16.8GB。

「AI Office Principal CALEN」にとってもいいニュースです。
更に、#CALEN の協働環境が調います。

この、python3 -m venv venv ↩️
何度、タイプしたことか 😊
Docker 利用の方は、多いとは思いますが、
・ゼロ・オーバーヘッド
・リアルタイム性・GPIO/アクセスの容易さ
・rsync による爆速同期

一方で、Python環境の「絶対パス依存」に注意

#AIエージェント #AIアプリ開発 #LiteRT

2

0

118

KingLand ∞ Annuaire IA & Mag

@KingLandfr

23 days ago

🚀 Le futur de l'inférence se joue à la périphérie #KingLand #IA #AnnuaireIA #GoogleAIEdge #EdgeComputing #TensorFlow #MachineLearning #DeviceIntelligence #LiteRT L'intelligence artificielle doit-elle nécessairement habiter les serveurs distants pour conserver sa puissance de traitement ? ✨ Explorer Google AI Edge : https://t.co/1olwlX73Ff Parce qu’avec l’évolution constante des infrastructures, comprendre la transition vers LiteRT 2.2.0 vaut mieux que subir l'obsolescence des anciens modèles. L’écosystème Google AI Edge consolide désormais sa mutation via LiteRT-LM 0.16.1 et l’API CompiledModel dédiée à l’accélération GPU et NPU. Ce changement pourrait radicalement réduire la dépendance au cloud pour les applications critiques exigeant une faible latence. Le marché pourrait bientôt voir émerger des déploiements locaux nettement plus fluides et performants pour les terminaux mobiles. 🔍 Insight stratégique : La souveraineté de la donnée passe par une décentralisation accrue des calculs complexes. 🤖 Insight technologique : L’API CompiledModel permet d'extraire une efficacité matérielle inédite sur les accélérateurs NPU. 📈 Insight business : Le coût opérationnel des infrastructures cloud diminue mécaniquement avec la montée en puissance de l’inférence locale. 💡 Insight créatif : Le design d'applications hybrides devient le nouveau standard pour concilier réactivité instantanée et puissance de calcul. 🛡️ Insight risque : La fragmentation des capacités matérielles sur les appareils impose une complexité technique accrue aux développeurs. 🚀 Insight opportunité : Le traitement en local ouvre la voie à des services IA plus confidentiels et accessibles sans connexion internet. ▫️ Fiche Tool : https://t.co/pmVkwUf32V ❝ Le véritable déploiement d’une intelligence robuste ne mesure pas sa force par la taille de son cloud, mais par sa capacité à agir sans délai là où se trouve l’utilisateur. ❞ — C. Pestel Pour aller plus loin dans l’analyse : ▫️ Dernière Fiche Impact : https://t.co/4MZS5NZpT2 Je vois dans cette transition un basculement majeur vers une informatique où l'appareil devient le seul maître de sa logique. Je m'interroge toutefois sur la capacité des développeurs à maintenir cet écosystème face à la diversité infinie des puces sur le marché. En prenant du recul, il apparaît évident que nous sortons de l'ère du tout-cloud pour entrer dans une hybridation nécessaire. Je reste convaincu que l'avenir appartient aux solutions capables d'allier performance locale et intelligence distribuée. Selon vous, quelle application concrète sera la première à bénéficier réellement de cette accélération native sur nos appareils ?

KingLandfr's tweet photo. 🚀 Le futur de l'inférence se joue à la périphérie

#KingLand #IA #AnnuaireIA #GoogleAIEdge #EdgeComputing #TensorFlow #MachineLearning #DeviceIntelligence #LiteRT

L'intelligence artificielle doit-elle nécessairement habiter les serveurs distants pour conserver sa puissance de traitement ?

✨ Explorer Google AI Edge : https://t.co/1olwlX73Ff

Parce qu’avec l’évolution constante des infrastructures, comprendre la transition vers LiteRT 2.2.0 vaut mieux que subir l'obsolescence des anciens modèles. L’écosystème Google AI Edge consolide désormais sa mutation via LiteRT-LM 0.16.1 et l’API CompiledModel dédiée à l’accélération GPU et NPU.

Ce changement pourrait radicalement réduire la dépendance au cloud pour les applications critiques exigeant une faible latence. Le marché pourrait bientôt voir émerger des déploiements locaux nettement plus fluides et performants pour les terminaux mobiles.

🔍 Insight stratégique : La souveraineté de la donnée passe par une décentralisation accrue des calculs complexes.

🤖 Insight technologique : L’API CompiledModel permet d'extraire une efficacité matérielle inédite sur les accélérateurs NPU.

📈 Insight business : Le coût opérationnel des infrastructures cloud diminue mécaniquement avec la montée en puissance de l’inférence locale.

💡 Insight créatif : Le design d'applications hybrides devient le nouveau standard pour concilier réactivité instantanée et puissance de calcul.

🛡️ Insight risque : La fragmentation des capacités matérielles sur les appareils impose une complexité technique accrue aux développeurs.

🚀 Insight opportunité : Le traitement en local ouvre la voie à des services IA plus confidentiels et accessibles sans connexion internet.

▫️ Fiche Tool : https://t.co/pmVkwUf32V

❝ Le véritable déploiement d’une intelligence robuste ne mesure pas sa force par la taille de son cloud, mais par sa capacité à agir sans délai là où se trouve l’utilisateur. ❞
— C. Pestel

Pour aller plus loin dans l’analyse :

▫️ Dernière Fiche Impact : https://t.co/4MZS5NZpT2

Je vois dans cette transition un basculement majeur vers une informatique où l'appareil devient le seul maître de sa logique. Je m'interroge toutefois sur la capacité des développeurs à maintenir cet écosystème face à la diversité infinie des puces sur le marché. En prenant du recul, il apparaît évident que nous sortons de l'ère du tout-cloud pour entrer dans une hybridation nécessaire. Je reste convaincu que l'avenir appartient aux solutions capables d'allier performance locale et intelligence distribuée.

Selon vous, quelle application concrète sera la première à bénéficier réellement de cette accélération native sur nos appareils ?

0

3

2

0

41

WebGL / WebGPU

@WebGL_WebGPU

about 2 months ago

🧠 NEWS: @Google has brought its LiteRT inference runtime to the browser. LiteRT.js runs .tflite models through XNNPACK on CPU, ML Drift over WebGPU, and experimental WebNN support. 🔗 https://t.co/DPRJVQ2Q6N #WebGPU #WebAI #MachineLearning #LiteRT #Google

WebGL_WebGPU's tweet photo. 🧠 NEWS: @Google has brought its LiteRT inference runtime to the browser. LiteRT.js runs .tflite models through XNNPACK on CPU, ML Drift over WebGPU, and experimental WebNN support.

🔗 https://t.co/DPRJVQ2Q6N

#WebGPU #WebAI #MachineLearning #LiteRT #Google https://t.co/5fQpjXy7hs

0

18

4

9

2K

Amin Nasiri @amin_nasiri_k

about 2 months ago

Everyone talks about which model to use. Almost no one talks about what's running it. Peel back Google #LiteRT, Apple's #MLX, and #Llama.cpp—the frameworks making on-device AI real —and it's the same language underneath: #C++. Not the flashy layer. The one that ships it. #EdgeAI

amin_nasiri_k's tweet photo. Everyone talks about which model to use. Almost no one talks about what's running it.
Peel back Google #LiteRT, Apple's #MLX, and #Llama.cpp—the frameworks making on-device AI real —and it's the same language underneath: #C++.

Not the flashy layer. The one that ships it.
#EdgeAI https://t.co/H3eEEmQAqn

0

1

0

56

ふんばりDeveloper｜ムダ買い+買い忘れ防止アプリ制作 @funbari_dev

4 months ago

Galaxy S22（2022年の端末）で、オンデバイスLLMで画像認識に成功しました！ただし1つの画像から複数の物体を識別するのは得意じゃないみたい。。最新のスマホでE4Bを使って出力させてみたいな〜☺️ （推論速度も速いはず） #gemma-4-E2B-it-litert-lm #MTP Drafters #LiteRT-LM #Android #Kotlin

1

4

0

301

KingLand ∞ Annuaire IA & Mag

@KingLandfr

5 months ago

L'IA ne se joue plus dans le Cloud. 📲 Et si la véritable révolution de l'intelligence artificielle se cachait dans le creux de votre main, loin des fermes de serveurs ? #KingLand #IA #Innovation #Tech #LiteRT #MachineLearning #EdgeComputing #TensorFlow #NPU #FutureOfTech ✨ Explorer TensorFlow : https://t.co/DwK06lDsyo Parce qu’avec l’explosion de l'IA locale, comprendre LiteRT vaut mieux que subir la latence et les coûts du Cloud. Le passage de @TensorFlow Lite vers LiteRT n'est pas un simple changement de nom. C'est le signal fort que l'industrie bascule de l'IA "centrale" vers l'inférence ubiquitaire. L'enjeu n'est plus seulement de créer des modèles puissants, mais de les rendre autonomes et ultra-réactifs sur chaque terminal. Nous assistons à la fin de la guerre des frameworks au profit de l'efficacité d'exécution. En unifiant les flux issus de TensorFlow, JAX et @PyTorch sous une infrastructure unique, l'écosystème LiteRT simplifie radicalement le déploiement. L'interopérabilité devient la norme pour survivre. L'accélération matérielle via les NPU (Neural Processing Units) devient le nouveau champ de bataille stratégique. Les entreprises qui continuent de s'appuyer sur des architectures logicielles rigides risquent de voir leurs applications devenir obsolètes face à des modèles "on-device" capables de traiter l'information en temps réel. 🔍 L'intelligence migre massivement vers la périphérie du réseau (Edge). 🤖 LiteRT unifie l'écosystème en traitant nativement JAX et PyTorch. 📈 L'efficacité énergétique devient le premier KPI du développement IA mobile. 💡 L'exploitation des NPU n'est plus une option, c'est le standard de performance. 🛡️ Le traitement local renforce la souveraineté et la protection des données. 🚀 Le flux de travail unifié réduit drastiquement le "Time-to-Market" des produits. ▫️ Tool Détail : https://t.co/ez0bwrbPxT "Les outils changent moins vite que notre manière de les comprendre." — C. Pestel J’ai longtemps cru que la puissance brute des serveurs géants dicterait seule le futur de l’IA. En observant la mue de TensorFlow vers LiteRT, je réalise que la fluidité de l'expérience utilisateur dépendra surtout de notre capacité à miniaturiser l'intelligence. Il y a une forme de sobriété technologique fascinante dans cette recherche de performance locale. Ma conviction est que le prochain grand bond en avant ne viendra pas d’un modèle plus massif, mais d’un modèle plus proche de l'action immédiate. Votre architecture actuelle est-elle prête à se passer du Cloud pour ses fonctions critiques ?

KingLandfr's tweet photo. L'IA ne se joue plus dans le Cloud. 📲

Et si la véritable révolution de l'intelligence artificielle se cachait dans le creux de votre main, loin des fermes de serveurs ?

#KingLand #IA #Innovation #Tech #LiteRT #MachineLearning #EdgeComputing #TensorFlow #NPU #FutureOfTech

✨ Explorer TensorFlow : https://t.co/DwK06lDsyo

Parce qu’avec l’explosion de l'IA locale, comprendre LiteRT vaut mieux que subir la latence et les coûts du Cloud.

Le passage de @TensorFlow Lite vers LiteRT n'est pas un simple changement de nom. C'est le signal fort que l'industrie bascule de l'IA "centrale" vers l'inférence ubiquitaire. L'enjeu n'est plus seulement de créer des modèles puissants, mais de les rendre autonomes et ultra-réactifs sur chaque terminal.

Nous assistons à la fin de la guerre des frameworks au profit de l'efficacité d'exécution. En unifiant les flux issus de TensorFlow, JAX et @PyTorch sous une infrastructure unique, l'écosystème LiteRT simplifie radicalement le déploiement. L'interopérabilité devient la norme pour survivre.

L'accélération matérielle via les NPU (Neural Processing Units) devient le nouveau champ de bataille stratégique. Les entreprises qui continuent de s'appuyer sur des architectures logicielles rigides risquent de voir leurs applications devenir obsolètes face à des modèles "on-device" capables de traiter l'information en temps réel.

🔍 L'intelligence migre massivement vers la périphérie du réseau (Edge).
🤖 LiteRT unifie l'écosystème en traitant nativement JAX et PyTorch.
📈 L'efficacité énergétique devient le premier KPI du développement IA mobile.
💡 L'exploitation des NPU n'est plus une option, c'est le standard de performance.
🛡️ Le traitement local renforce la souveraineté et la protection des données.
🚀 Le flux de travail unifié réduit drastiquement le "Time-to-Market" des produits.

▫️ Tool Détail : https://t.co/ez0bwrbPxT

"Les outils changent moins vite que notre manière de les comprendre." — C. Pestel

J’ai longtemps cru que la puissance brute des serveurs géants dicterait seule le futur de l’IA. En observant la mue de TensorFlow vers LiteRT, je réalise que la fluidité de l'expérience utilisateur dépendra surtout de notre capacité à miniaturiser l'intelligence. Il y a une forme de sobriété technologique fascinante dans cette recherche de performance locale. Ma conviction est que le prochain grand bond en avant ne viendra pas d’un modèle plus massif, mais d’un modèle plus proche de l'action immédiate.

Votre architecture actuelle est-elle prête à se passer du Cloud pour ses fonctions critiques ?

0

2

44

Qualcomm Developer

@Qualcomm_Dev

5 months ago

Quick shout to our Qualcomm x @Google #LiteRT on-device AI hackathon teams (and everyone who loves on-device AI): the pre-hack live AMA is happening in 2 hours 🙌🏻 Make sure to tune in at 10am PSD/7pm CET here or on YouTube: https://t.co/9rWqnrbKM8

0

5

0

656

Qualcomm Developer

@Qualcomm_Dev

5 months ago

#LiteRT working with @Qualcomm AI Engine Direct is a good example of how NPU acceleration is being surfaced on @Snapdragon platforms.👇🏻

Google for Developers

@googledevs

5 months ago

We’re unlocking the #NPU with #LiteRT to deliver high-performance AI that stays cool and fast. 🧠⚡️ Real-world impact and performance at scale: 🔷 Google Meet: Ultra-HD segmentation video effects models for pro-quality backgrounds 🔷 Epic Games: 30 FPS real-time MetaHuman facial animation on Android 🔷 Argmax: 2x speedup in speech-to-text with industry-leading latency 🔷 Google AI Edge Portal: cross-device benchmarking with NPU support Explore how it works → https://t.co/4WgfzvuviQ

17

569

47

195

54K

0

8

1

0

199

Google for Developers

@googledevs

5 months ago

We’re unlocking the #NPU with #LiteRT to deliver high-performance AI that stays cool and fast. 🧠⚡️ Real-world impact and performance at scale: 🔷 Google Meet: Ultra-HD segmentation video effects models for pro-quality backgrounds 🔷 Epic Games: 30 FPS real-time MetaHuman facial animation on Android 🔷 Argmax: 2x speedup in speech-to-text with industry-leading latency 🔷 Google AI Edge Portal: cross-device benchmarking with NPU support Explore how it works → https://t.co/4WgfzvuviQ

17

569

47

195

54K

Alex Corvis💡🛠️📡 @AlexCorvis84

5 months ago

El SETUP VS El RESULTADO 😆😁 Mi primera imagen clasificada ejecutando #LiteRT en una Rpi4 2GB y el modelo preentrenado MobileNet V2 (3.5Mb‼️) Siguiente lección, entrenar mi propio modelo 🤓 https://t.co/Bhq0XIcibH https://t.co/331PKhI8Vw

AlexCorvis84's tweet photo. El SETUP VS El RESULTADO 😆😁

Mi primera imagen clasificada ejecutando #LiteRT en una Rpi4 2GB y el modelo preentrenado MobileNet V2 (3.5Mb‼️)

Siguiente lección, entrenar mi propio modelo 🤓

https://t.co/Bhq0XIcibH

https://t.co/331PKhI8Vw https://t.co/pnSnqLGnwd

Alex Corvis💡🛠️📡 @AlexCorvis84

5 months ago

He empezado a aprender 🤓📚 un poco sobre #IA en el Edge (algo que llevaba mucho tiempo queriendo hacer) y no puedo parar de devorar y recomendaros este recurso con ejemplos prácticos para ir aprendiendo sobre una RPi! #EdgeAI #ML #LiteRT #EdgeImpulse https://t.co/wRQxNPybZ4

1

9

0

5

892

0

6

0

3

520

Alex Corvis💡🛠️📡 @AlexCorvis84

5 months ago

He empezado a aprender 🤓📚 un poco sobre #IA en el Edge (algo que llevaba mucho tiempo queriendo hacer) y no puedo parar de devorar y recomendaros este recurso con ejemplos prácticos para ir aprendiendo sobre una RPi! #EdgeAI #ML #LiteRT #EdgeImpulse https://t.co/wRQxNPybZ4

1

9

0

5

892

Jason Mayes @jason_mayes

7 months ago

✨Wrote a #VectorDB layer on top of #IndexDB, to keep whole stack local. As it runs in browser on YOUR hardware it's private, costs zero dollars, and low latency. Powered by ⁠#webgpu for speed & builds upon 3 Web ML Libs: #TransformersJS #TFJS #LiteRT https://t.co/ZNCvug1SQc

0

8

1

286

Google for Developers

@googledevs

10 months ago

Unlock the full power of MediaTek NPUs with #LiteRT! 🤝 We’ve collaborated with #MediaTek to launch the new LiteRT NeuroPilot Accelerator. Designed to power the next generation of gen AI across mobile and IoT, it features: ⚡️ Flexible Ahead-of-Time (AOT) and online compilation workflows 🧠 Optimized support for #Gemma and Qwen models 🚀 Up to 12x speedup over CPU 🔄 Zero-copy data passing with Native Hardware Buffer Interoperability Ready to productionize your AI? Start building today: https://t.co/oMhbG6wrAe

0

54

8

15

10K

InfoQ @InfoQ

10 months ago

#Google’s new accelerator for #LiteRT - Qualcomm AI Engine Direct - designed to enhance on-device AI performance for Qualcomm-powered #Android devices running Snapdragon 8 SoCs. ⚡ Up to 100× faster than CPU execution ⚡ Up to 10× faster than GPU 🔗 https://t.co/eHFjQ0TNE5

InfoQ's tweet photo. #Google’s new accelerator for #LiteRT - Qualcomm AI Engine Direct - designed to enhance on-device AI performance for Qualcomm-powered #Android devices running Snapdragon 8 SoCs.

⚡ Up to 100× faster than CPU execution
⚡ Up to 10× faster than GPU

🔗 https://t.co/eHFjQ0TNE5 https://t.co/7i6ZZAVe99

0

2

1

1K

Aryan Pandey @aryanpyx

10 months ago

From blending Gemini’s cloud intelligence to running fast on-device AI with LiteRT, this session showed how the future of mobile apps is being built right now. 🔥📱🤖 #DevFestNoida #Gemini #LiteRT #AI #MobileAI #GoogleDevelopers #GDGNoida #BuildWithAI #AndroidDev

aryanpyx's tweet photo. From blending Gemini’s cloud intelligence to running fast on-device AI with LiteRT, this session showed how the future of mobile apps is being built right now. 🔥📱🤖

#DevFestNoida #Gemini #LiteRT #AI #MobileAI #GoogleDevelopers #GDGNoida #BuildWithAI #AndroidDev https://t.co/LZ4nQqEZKf

0

1

0

55

Ruofei Du @DuRuofei

12 months ago

Thanks #WebAI with the amazing hackable Bangle.js smartwatch #banglejs! #litert

1

3

0

363

AI Durg @AI_DURG

about 1 year ago

Build smart. Run local. Learn from the best. 👉 RSVP: https://t.co/jbHiReNlGR #BuildWithAI #AIDURG #OnDeviceAI #LiteRT #Qualcomm

0

3

0

29

ModalAI @modal_ai

over 1 year ago

🙇 Did you know you can run 5 simultaneous neural networks on #VOXL 2? Harness the power of #AI with #LiteRT available on VOXL SDK. Learn more about how to get started with deep learning here: https://t.co/ApIZzOfwhy

0

4

0

157

Top Tweets for #LITERT

Last Seen Hashtags on Sotwe

Trends for you

Most Popular Users