@private_llm Super boulot ! Je vais tout de suite l'installer sur mon Mac. J'ai eu des performances de leur LLM à mistral c'est assez impressionnant !
Il sera aussi dispo sur iOS ?
The v1.5 update of Private LLM for macOS with the amazing Mistral-7B-OpenOrca base model has just been released. 🎉
Also with this release, the 13B model now consumes 5% less memory (saving ~720MB of RAM) and the 7B model now consumes 14% less RAM (saving ~800MB of RAM).