su “servidor de IA” son 4 Mac Minis apilados junto a la tostadora
vinculados por software gratuito en una sola máquina que ejecuta modelos de 235B que ningún ordenador individual podría cargar
clientes regulados le pagan $3,500/mes cada uno para usarlo
tiene 6 de ellos
eso son $21k/mes de una torre de cajas plateadas en su cocina
la pila ejecuta exo - de código abierto, $0, convierte cuatro minis separados en un grupo de memoria. el monitor muestra los cuatro nodos disparando juntos, un modelo extendido por todo el clúster
lo que nadie te dice sobre la IA local:
un modelo o cabe en la memoria de tu máquina o no se ejecuta. esa es la pared con la que todos chocan. por eso la gente asume que una IA seria significa un servidor de $40k
exo pasa directamente a través de esa pared. divide un modelo masivo a través de cada caja en la cadena. cuatro minis a $599 cada uno de repente ejecutan lo que una sola máquina de gama alta no puede tocar
y la gente que necesita esto no está persiguiendo el modelo más nuevo
son los que la nube dejó fuera:
→ un bufete de abogados con archivos de casos privilegiados
→ una práctica médica bajo HIPAA
→ un bufete de contabilidad que guarda finanzas de clientes
necesitan IA en ningún lugar cerca de un servidor de terceros. una pila que puedan señalar durante una auditoría acaba con toda objeción
sus modelos se ejecutan en su clúster. los datos nunca salen del equipo que él controla
el desglose:
→ 4 Mac Minis: $2,400 total
→ software exo: $0
→ electricidad: ~$25/mes
→ lo que cobra por cliente: $3,500/mes
→ 6 clientes activos
la pila de la cocina se pagó sola en las primeras 3 semanas
mes 1: 2 clientes, $7k
mes 3: 4 clientes, $14k
mes 6: 6 clientes, $21k
no está ejecutando una startup con oficina y logo
está ejecutando cuatro cajas plateadas entre la máquina de café y un bol de fruta, ganando $21k/mes de hardware que costó $2,400
los clientes imaginan bastidores y ventiladores de enfriamiento
la realidad son cuatro minis zumbando junto a donde hace el desayuno
las compañías de la nube cobran una fortuna por cómputo y acceso a lo tuyo propio
él cobra $3,500 al mes por la única cosa que no pueden vender - una máquina que nunca llama a casa
Many drugs work by binding to a specific target in the body and blocking or changing what it does. An important first step in the drug development process is designing a molecule that can bind tightly to its target. Traditionally, that's meant weeks or months of expert work per target, sifting through a large number of candidates to identify the few that work.
We wanted to test if Claude could successfully design novel protein binders from scratch (also called de novo design). With a protein design prompt written by a human expert, Claude autonomously designed protein binders against 14 out of 15 targets.
We then worked with Adaptyv Bio and Twist Bioscience, who independently built and tested the proteins Claude designed.