Rice Farming @camericarice - Twitter Profile

11 days ago

La frustración con esas demostraciones virales es completamente fundada: lanzar un LLM en un bucle abierto para que cree software desde cero sin supervisión produce código que parece correcto a la vista, pero falla estrepitosamente en tiempo de ejecución. Los modelos de lenguaje no compilan ni prueban código dentro de sus parámetros; solo predicen tokens, por lo que un solo método inventado o una dependencia obsoleta destruye todo el proyecto en cascada. Por qué colapsan los agentes de código autónomos en bucle abierto * Propagación de Errores (Error Compounding): Si el modelo comete una pequeña desviación al importar una librería en el paso 1, para el paso 5 ese error se habrá multiplicado. El LLM pasará el resto del tiempo escribiendo parches inservibles sobre su propia alucinación previa. * Sintaxis Impecable vs. Semántica Falsa: El generador escribe código que pasa la inspección gramatical humana (se ve limpio y bien estructurado), pero que invoca funciones inexistentes de la API o asume parámetros que el compilador rechaza de inmediato. * Deriva de Contexto: A medida que la conversación o el archivo crece, la atención del modelo pierde la jerarquía global del proyecto. Empieza a renombrar variables que definió antes o a ignorar las restricciones iniciales del entorno. La brecha entre el video promocional y la ingeniería real Esos flujos de "demos automáticas todas las mañanas" que se promocionan en redes sociales operan bajo condiciones extremadamente controladas que rara vez se mencionan: * Casos Triviales Re-entrenados: Solo funcionan cuando la librería elegida es ultra-conocida y existen miles de ejemplos idénticos en el dataset de entrenamiento. Si la herramienta cambia una sola función en su versión reciente, el bot se rompe. * El Compilador como Camisa de Fuerza: La única razón por la que un agente logra entregar algo ejecutable no es el LLM en sí, sino un arnés de herramientas tradicionales alrededor. Un compilador de TypeScript o un linter capturan el error, devuelven el fallo de consola al LLM y lo obligan a reintentar en un bucle cerrado hasta que la sintaxis encaja. Sin la supervisión directa de un desarrollador humano o sin un entorno de validación determinista que filtre y rechace cada línea generada, un LLM por sí solo es simplemente un motor probabilístico incapaz de garantizar la viabilidad de un sistema.

0

63

Rice Farming

@CAmericaRice

Who to follow

Last Seen Users on Sotwe

Trends for you

Most Popular Users