Решил оживить аккаунт и показывать, чем занимаюсь: кое-что уже есть, а делиться не с кем, хех.
Делаю небольшие Python-скрипты и Telegram-ботов: модерация, уведомления, SQLite и автоматизация.
Иногда деплою проекты на Linux/VPS. Буду делиться примерами - может, кому-то интересно🙂
@Oudian10 Были попытки повторения запроса в новых чатах? Мб из-за контекста, что что-то не получилось, не получается и тупит.
А так пробуй Дипсик... Халява, ограничение одно - длина чата.
@tikhomirovdiary Ну, толк от локальной модели будет если есть зачем её юзать.
А так, попробуй ещё LFM3-1.7B, да, мал, но и скорость будет и инструменты дать и без цензуры.
Лично у меня на проце работает и выдаёт ~12 токенов в сек, tools навешал, для каждой задачи отдельные инструменты юзаю.