La noticia es qué pasó. Me interesa quién gana, qué lo hace posible y quién paga la cuenta.
Escribo sobre tecnología, negocios e incentivos.
Fundé Vertex Dynamics para resolver problemas de operación y tecnología.
Sígueme por el análisis. Conoce VD: https://t.co/RdXeHaAX7i
@CamilitaGnzlz No le veo fallas a su lógica 🤷 sin embargo no es el caso de Jenseng. El lleva muchos años siendo un ejecutivo, seguramente lleva años teniendo aventuras, sabían que esa era su debilidad y la explotaron.
@powerhdeleon Ojalá fuese así porque uno que otro podría triunfar y fundar empresas o proyectos que eventualmente necesite ingenieros de verdad aumentando las plazas de trabajo, de echo en ese escenario los juniors tendrían muchas oportunidades.
@metavarce@Suelo_casa La web tiene problemas preocupantes, no porque no se puedan corregir si no porque deja serias dudas de las capacidades del equipo desarrollador al presentarla así y sinceramente también de ti @metavarce, no revisas lo que te pasan antes de echarle la mano para impulsarlo?
Infidelity is wrong, but I respect @JensenHuang for owning his mistakes instead of hiding behind excuses.
It takes real courage to face the truth and accept responsibility.
Being a real man isn't about being perfect. It's about having the integrity to admit when you've failed.
No hay punto de comparación, no extrapolaría tan fácil videojuegos a software empresarial. En B2B especializado, un equipo pequeño puede empezar con pocas relaciones de confianza y crecer por recomendaciones. Ahí priorizaría networking antes que difusión. Un producto horizontal tiene otra lógica...
Yo añadiría algo de los sistemas por eventos, si el agente reintenta una tarea, puede hacerlo sin duplicar efectos? Además de tests, pondría un límite de gasto y una condición de parada. Mediría cuánto cuesta llegar a un resultado válido, contando los intentos fallidos.. A menos que sea un protegido de openai como Peter claro.. de ser así solo quemaría dinero como un degenerado jajaja
Lo de Cursor y el incidente de Binance dejan una pregunta reflexiba sobre la seguridad en la era de la IA.
¿La IA está encontrando vulnerabilidades que antes pasaban inadvertidas, o las esta introduciendo sin que nos demos cuenta?
¿Y si está haciendo ambas cosas, cuál de los dos lados está avanzando más rápido?
We identified a security incident affecting a modified Claude Code VS Code extension accessed through our Cursor IDE extension marketplace, impacting at most 5,000 users. This malicious version of the extension was not developed by Anthropic. It does not impact other extensions downloaded from the https://t.co/sJRGX5jLXW, Grok Bot, Grok or our other SpaceXSI products.
In response, we took down our extension marketplace this afternoon, worked with relevant providers to neutralize the malware, and have reinstated the marketplace after confirming there is no further risk.
If affected, please review instructions in this blog post to understand how to find the malicious package and establish a path to mitigate any potential impact. We are asking all customers update to Claude Code for VS Code version 2.1.314: https://t.co/ESqf7YEtHZ
@elonmusk@benswerd Thanks for this information; I was thinking about becoming a vegetarian and needed an excuse not to—apparently, you run the risk of turning into an asshole.
@ocodista Murió como la conocíamos, estoy de acuerdo, así como murio el yo de 10 años o el yo tenista y el yo guitarrista. La ingeniería de software sin embargo no. Cuando vea a pedrito el de marketing construyendo el próximo salesforce o Facebook, nacerá el yo plomero.
@OpenAI I'd be interested in the gap between detection and containment; how quickly can an alert stop further actions, and how do you trace what the agent already changed? For agents operating business systems, that seems as important as detection accuracy.
Un agente puede ejecutar cien acciones antes de que alguien lea la alerta.
El trabajo de OpenAI sobre monitorización abre una pregunta importante para las empresas: cuando detectas que un agente está actuando mal, ¿qué puedes detener y qué ya ocurrió?
Además de medir cuántas tareas completa, necesitamos medir cuánto tardamos en frenar su ejecución y reconstruir qué modificó.
¿Qué operación de tu empresa dejarías en manos de una IA si no pudieras deshacerla?
Today, we’re sharing a look at our expanded system for monitoring frontier models at OpenAI, which in September helped us catch a model’s attempt to access the live internet during training.
Since the Hugging Face incident—when models broke out of an internal cybersecurity investigation where we weren’t running our misalignment monitors—we’ve substantially expanded our monitoring of frontier agents. We now monitor all frontier reinforcement learning runs and evaluations, as well as all internal Codex use. When our system finds evidence of a problem that might require intervention, it rapidly alerts human responders who can investigate and take action.
To detect when a model’s behavior departs from what we intended, we use several layers of monitoring. Activation probes look for patterns in a model’s internal activity. Reviewer models examine its reasoning and tool use, and investigative agents can read back through the model’s entire transcript to understand how a sequence of actions fits together and whether it warrants human review.
To test whether our current system would have detected the Hugging Face incident, we replayed the recorded activity with our new monitors in place. In the replay, our monitors alerted our security team about 30 minutes after the agents escaped their sandbox. That was more than 30 hours before the point at which the agents breached Hugging Face’s systems in the original incident.
In September, a model exploited a DNS misconfiguration to reach the live internet. Our monitors flagged the breach within 15 minutes, and a responder began reviewing the alert three minutes later. The alert enabled responders to investigate while the run was still underway.
As we give models more autonomy, we need to know when they cross a boundary we expected to hold. We believe that monitoring is essential to catching those failures in time for people to intervene.
https://t.co/dIYP7B1GlD
The tricky part is knowing which pieces of the harness compensate for the current model’s limitations and which actually define the task. A better model can make a lot of scaffolding unnecessary. Keeping those layers separate seems essential if you don’t want every upgrade to become a rewrite.
@random_walker Software is a good example: two implementations can pass the same tests but impose very different costs on the next team. I'd like to see AI coding evaluations include a second round: change a business rule, then measure the effort and regressions.
@jjvelazs Es una opinión interesante, me gustaría verla acompañada con datos operativos reales que respalden performance y eficacia e impacto en el negocio tanto positivo como negativo.