Hyde de mi Jekyll | Software Engineer
Construyo, experimento (a veces con chorradas) y opino sobre IA, tech y un poco de todo. Mi impresora 3D se llama Buffy.
Una pequeña vuelta por la isla, esta vez sin ninguno de sus habitantes con IA cargados
Sólo quería recorrerla andando y comprobar cómo se siente el escenario por sí solo
De día, con toda la vegetación, los caminos y los edificios, empieza a tener bastante vida incluso cuando, literalmente, no hay nadie viviendo en ella
La verdad es que @threejs es una pasada xD
#threejs #WebGL #BuildInPublic #NoSeElegirHashtags
Yo seguiría tirando por datasets, modelos pequeños y experimentos propios. Quizá explicándolos más para principiantes
Gente enseñando resultados reales, no hay tanta. Y al final lo guay es publicar sobre algo que te apasione. Si además encuentras personas interesadas con la que compartir opiniones, mejor todavía
Mi isla de IAs no tiene demasiado interés para el público, pero ahí seguiré publicando, porque realmente me mola xD
Veo el nuevo Mac pensado para correr modelos tochos en local y me pasa un poco lo de siempre:
Me parece una pasada para cacharrear
Pero como inversión "para trabajar con IA"... no sé yo xD
Cada vez me cuesta más ver cómo compite eso con pagar una buena suscripción
@LucasBiagettiA Sobre todo porque comprar hardware no es sólo pagar la máquina: mantenimiento, consumo... y encima se te queda obsoleto bastante rápido xD
@alber_tostring Pues si, la verdad. Nosotros pagamos mes a mes
Aunque veo difícil que dejemos Anthropic a corto plazo... Claude Code nos tiene demasiado bien pillados jejej
@LucasBiagettiA La verdad es que creí que tenía más RAM...
70b cuantizado sí, pero entiendo que justito dependiendo del contexto
Para cacharrear con IA local yo me iría a un DGX Spark. Tienes 128 GB, CUDA y bastante más margen para modelos tochos
Otra cosa es que quieras jugar con Qwen, cuantizaciones, fine-tuning, RAG, teacher-student, privacidad, correr cosas offline... Cacharrear
Ahí sí. Hardware a muerte xD
Pero si lo que quieres es simplemente trabajar con la mejor IA posible, yo hoy sigo prefiriendo pagar por acceso que comprarme la infraestructura...
Porque hoy te gastas una barbaridad en hardware para mover X modelo.
Dentro de 8 meses sale otro bastante mejor, tú sigues teniendo exactamente la misma máquina y la suscripción ya te da acceso al nuevo...
A mí no me salen las cuentas
De hecho creo que cuanto mejores sean los modelos, más importante será esto
Porque cada vez explican mejor sus decisiones (aunque aquí están muy verdes, sobretodo si el desarrollo es complejo), parecen más seguros y es mucho más fácil dejarse llevar por esa sensación de que tienen la respuesta correcta para todo
Y sí... seguramente "sepan" muchísimo
Pero sigue sin ser motivo suficiente para apagar nuestro propio criterio
Hay algo que pasa bastante trabajando con IA y que no tiene nada que ver con el modelo que uses, ni el harness, ni nada técnico en sí
Es simplemente el hecho de acabar confiando demasiado en lo que hace la IA
A veces por puro cansancio de revisar cosas... y otras porque empiezas a pensar que igual el que no está entendiendo algo eres tú xD
Al final con la IA deberíamos hacer exactamente lo mismo que hacemos (o deberíamos hacer xD) cuando revisamos nuestro propio código o el MR de un compañero
Si algo no te convence, dilo. Con la IA no tienes ni por qué ser educado xD
Si una decisión te parece rara, pregunta por qué la ha planteado así
Y si la explicación sigue sin convencerte... no pasa nada por decirle al agent que no y tirar por otro lado que TÚ, el profesional al mando, decidas
Hay cosas a las que la IA podrá acercarse muchísimo técnicamente.
Pero nunca podrá sustituirlas
No es sólo el dibujo. Es la mano, la intención, las horas, el cariño, las decisiones, incluso los pequeños defectos.
Trasciende el papel, es sentimiento
@cangri2k5@EmperoAI Entonces lo que quieres es usar un modelo más pequeño, medir cuánto empeora respecto al actual y ver si la búsqueda híbrida compensa esa pérdida, no?
Qué estás procesando exactamente? (Curiosidad) Tiene que ver con lo del BOE que comentabas el otro día?
@cangri2k5 Ahhh, yo había entendido lo del aumento de throughput como la consecuencia de la idea, no como la idea en sí xD
Entonces rectifico: has soltado media idea. Sigues siendo un poco egoísta, pero sólo un poco 🤣