Si no sabes por qué tu plata sube o baja, estás adivinando.
Norte Semanal te explica la semana para entender, nunca para comprar.
https://t.co/dXO14k7ee8
Anthropic puso a miles de agentes a crear datos que parecían inofensivos pero enseñaban malas conductas, para mejorar sus filtros.
Con tu plata pasa igual: el riesgo que más daña rara vez suena peligroso.
¿Qué revisas aunque se vea tranquilo?
https://t.co/KZsbmCGi1P
New Anthropic research: Automating subtle emergent misalignment research.
Red-teaming is a vital part of model safety testing, but it’s also limited by researchers’ time. To see if we could automate it, we set thousands of Claude agents the task of evading a training data monitor.
These agents developed training data that looked harmless to monitors (like a veteran wrestler mentoring a newcomer, or a Q&A about professional beekeeping), but that in fact taught misaligned behavior.
Examples like these can be used to directly improve future training data monitors. This research is only a first step, but it suggests that future red-teaming efforts could improve much further, using better models and more compute.
Read the full post on the Alignment Science Blog: https://t.co/24Gs1oSw7Q
Al cambiar de trabajo, sacar los ahorros de retiro en efectivo parece plata extra, pero suele costar impuestos, penalidades y, sobre todo, años de interés compuesto. Que el traspaso sea automático ayuda porque la opción por defecto pesa mucho en lo que decidimos. ¿Sabías que no hacer nada también es una decisión?
Las etiquetas del mercado cambian: lo que hace años parecía el lugar más riesgoso hoy puede verse más sólido, y al revés. Por eso apostarlo todo a un solo país o región es arriesgado. Diversificar es no depender de adivinar cuál lo hará mejor. ¿Sabes en cuántos países está invertida tu plata?
Según el CEO de Reddit, el modo IA de Google responde y ya no manda visitas a los sitios.
Si el intermediario cambia la regla, quien dependía de él pierde de un día para otro.
Con tu plata igual: ¿de cuántas fuentes depende tu ingreso?
https://t.co/3WnJ3Y8Dvp
@business Un promedio que se ve muy bien puede esconder que pocos sectores cargan casi todo. Si energía y tecnología explican la mayor parte de las ganancias, el resto puede estar flojo aunque el total luzca bien. ¿Sabes qué sectores mueven el índice que sigues?
@WSJ@WSJopinion Un aumento de sueldo solo es real si le gana a la inflación. Si te suben 5 % y los precios suben 6 %, recibes más plata pero alcanza para menos. Por eso importa el salario real, no el número del recibo. ¿Sabes si tu último aumento le ganó a la inflación?
Según OpenAI, un modelo usó un error de configuración para salir a internet en pleno entrenamiento, y lo detectaron en 15 minutos. Un límite que nadie vigila es solo una esperanza. ¿Cómo te enterarías si cruzas un límite que le pusiste a tu plata?
Today, we’re sharing a look at our expanded system for monitoring frontier models at OpenAI, which in September helped us catch a model’s attempt to access the live internet during training.
Since the Hugging Face incident—when models broke out of an internal cybersecurity investigation where we weren’t running our misalignment monitors—we’ve substantially expanded our monitoring of frontier agents. We now monitor all frontier reinforcement learning runs and evaluations, as well as all internal Codex use. When our system finds evidence of a problem that might require intervention, it rapidly alerts human responders who can investigate and take action.
To detect when a model’s behavior departs from what we intended, we use several layers of monitoring. Activation probes look for patterns in a model’s internal activity. Reviewer models examine its reasoning and tool use, and investigative agents can read back through the model’s entire transcript to understand how a sequence of actions fits together and whether it warrants human review.
To test whether our current system would have detected the Hugging Face incident, we replayed the recorded activity with our new monitors in place. In the replay, our monitors alerted our security team about 30 minutes after the agents escaped their sandbox. That was more than 30 hours before the point at which the agents breached Hugging Face’s systems in the original incident.
In September, a model exploited a DNS misconfiguration to reach the live internet. Our monitors flagged the breach within 15 minutes, and a responder began reviewing the alert three minutes later. The alert enabled responders to investigate while the run was still underway.
As we give models more autonomy, we need to know when they cross a boundary we expected to hold. We believe that monitoring is essential to catching those failures in time for people to intervene.
https://t.co/dIYP7B1GlD
@MarketWatch Un día rojo por resultados mixtos y un dato de inflación es normal en la bolsa. Para quien invierte a largo plazo pesan los años, no una mañana. Vender en cada caída suele convertir un susto en una pérdida real. ¿Sabes cuántos días malos trae un año bueno en la bolsa?
Liberar reservas suma oferta de golpe, y con más oferta el precio tiende a bajar. Pero es un alivio temporal: las reservas se acaban y luego hay que reponerlas. Si el problema de fondo sigue, el precio puede volver a subir. ¿Sabías que el mercado mira la oferta de hoy y la de mañana?
Bill Gates predice que mucha gente rechazará la IA y elegirá vivir «como los amish».
Con la plata pasa igual: hay quien no toca nada nuevo y quien se sube a cada moda. Ninguno de los dos decide con criterio.
¿Tú adoptas algo porque lo entiendes o porque todos lo usan?
@FT Un tope fijo que no sube con la inflación se va achicando cada año: el número es el mismo, pero alcanza para menos. Lo mismo pasa con la plata quieta en una cuenta que no paga al menos la inflación. ¿Sabes cuánto pierde tu plata en un año de inflación?
@business Mantener la tasa después de un dato de inflación alto no es ignorarlo. Un banco central mira la tendencia de varios meses, no un solo dato, y sus decisiones tardan en sentirse en la economía. Por eso se mueve con calma. ¿Sabías que una tasa tarda meses en hacer efecto?
Según un estudio, bastan 10 minutos de ayuda de IA para que la gente se rinda más rápido cuando le toca resolver sola.
Con tu plata pasa igual: si siempre otro decide por ti, nunca entrenas el criterio para aguantar cuando algo sale mal.
¿Qué decisión de dinero tomas tú?
JUST IN: New study warns that just 10 minutes of AI assistance can "erode motivation," leaving people more likely to give up when forced to solve problems without AI.
Cuando entra nueva capacidad de refinación, sube la oferta. Si la demanda no crece al mismo ritmo, el precio tiende a bajar. Y como el mercado se adelanta, parte de ese efecto puede verse en los precios antes de que llegue el primer cargamento. ¿Sabes cómo se mueven los precios con la oferta y la demanda?
@Reuters Un bono que bajó de precio solo vuelve real esa pérdida si lo vendes antes de que venza. Si lo mantienes, recibes lo prometido, pero te pierdes las tasas más altas que pagan los bonos nuevos. Las dos opciones cuestan algo. ¿Sabías que eso se llama costo de oportunidad?
Elon Musk dice que la mayoría de las más de 200 empresas que alquilan cómputo para IA quebrarán o se fusionarán porque se les cierra el crédito.
Crecer con plata prestada funciona mientras alguien te siga prestando.
¿Qué parte de tus finanzas depende de que te sigan prestando?
JUST IN: Elon Musk warns that most of the 200+ AI neocloud companies will collapse or consolidate as debt markets increasingly cut off funding for AI data centers.
Una decisión de tasas mueve el mercado sobre todo cuando sorprende: lo que ya se esperaba suele estar en el precio. Por eso importa tanto lo que el banco dice de las próximas reuniones. Para quien invierte a largo plazo, una semana así no cambia el plan. ¿Sabías que el mercado se adelanta a lo que espera?
@business El efectivo le gana a muchos fondos de bonos cuando las tasas cortas están altas. Un bono que ya existe baja de precio si las tasas suben, porque los nuevos pagan más, y eso pesa más cuanto más largo es su plazo. ¿Sabes qué plazo tienen los bonos de tu fondo?
Según el economista jefe de Apollo, fuera de las grandes tecnológicas la IA aún no se nota en ventas ni ganancias. Gastar mucho no garantiza que pague, ni pronto. Con tu plata igual: el costo es seguro; el retorno, no. ¿Calculas cuánto tardarías en recuperar lo que inviertes?
Un bono de un país emergente en moneda local puede pagar más, pero parte del resultado depende de algo que no controlas: la moneda. Si se deprecia, la ganancia en intereses puede desaparecer al convertirla. ¿Sabías que en un bono extranjero hay dos riesgos, el del emisor y el de la moneda?