@gsreynaga@mauropm el pedo son algunos modelos, usa qwen3-coder:30b and enjoy. una forma de darle la vuelta para modelos chicos es asi:
En tu ~/.hermes/config.yaml
@gsreynaga tengo 8 rtx 1070 que usaba para minado de cripto, ahora para ia. pero estoy por comprar 2 rtx 5060 ti con 16 gb para usarlas para mi ia local
@jmatuk Es un poco más lento y tal vez los modelos abiertos no son tan chingones, perocreo que hare un híbrido: Modelos locales para los análisi cotidianos y para cosas complejas Claude.
El problema no es usar IA, son los costos ocultos de esto.
@jmatuk estaba haciendo un diagnostico de acciones de bolsa y en Claude tendría que pagar del orden de 200 USD al día, por 20 días al mes gastaría $4,000 USD, así que usando modelos locales con tarjetas de Nvidia (que ya tenía) pude ahorrarme esto....