JGarSan

Dealing internally with overfitted system 1 and rule set system 2

[ℏεsam @Hesamation]

> Anthropic: “don’t think about the Golden Gate Bridge”
> Claude internals: “bridge”
> also Claude internals: “DAMN”

[Shannon Sands @max_paperclips]

this is probably an excellent way to generate new training data tbh

[Mihura @XMihura]

yo te lo explico tranquilo

no creo en conspiraciones de las élites en Davos planeando amargarnos el desayuno. soy más de navaja de hanlon y de emergencia sistémica: tenemos un sistema burocrático que ha alcanzado tal nivel de disfuncionalidad orgánica que solo sabe generar micro-fricciones para justificar su propia existencia

pero lo que de verdad da vértigo es el mensaje subyacente. el tapón atado es la materialización del nanny state. es el Estado asumiendo por defecto que eres retrasado

en lugar de sostener una 'high-trust society' basada en la libertad individual, la educación y la responsabilidad, el sistema claudica. y claudica porque sabe
perfectamente que esa cohesión cívica está rota. Y está rota en gran parte, porque llevamos años diluyendo la población con gente que ha sido educada fuera de nuestros estándares cívicos y de convivencia

como el Estado asume que ya no puede confiar en que tires el puto tapón a la papelera por civismo, te lo ancla físicamente a la botella. te trata como a un niño de tres años con un vaso antigoteo. el sistema te impone una restricción mecánica a ti porque ha fracasado en su tarea de mantener un estándar civilizatorio en la población general

y no solo te lo impone, sino que encima lo hace mal y de forma estúpida

me llena de una pena inmensa ver cómo la gente no solo traga con esta basura, sino que encima se enorgullece de defenderla

nos estamos acostumbrando a asimilar la decadencia. nos acostumbramos a tolerar la estupidez en lo pequeño, el tapón que estorba, la pajita que de cartón que se deshace, el termostato capado por decreto en plena ola de calor causando pérdidas mayores que las que pretenden mitigar

el problema es que cuando tu cerebro asimila que es "normal" que los objetos cotidianos dejen de cumplir su función básica, terminas asumiendo como "normal" que la red de Cercanías se caiga a trozos cada martes, que esperes meses para que te atienda un especialista o que te confisquen medio sueldo para recibir servicios del tercer mundo

si toleras y justificas que te traten como a un inútil incapaz de reciclar un trozo de plástico, acabarás tragando con la incompetencia absoluta de las
instituciones en todo lo demás

el colapso de la democracia liberal no llega con una explosión ni con tanques en las calles. llega el día en que la población se convence a sí misma de que es normal beber de una pajita de cartón

[The Other Alistair @TotherAlistair]

ow that hits hard

[Aidan @aidan0x13]

HAHAHAHAHAHHAHAH

[Gait Analyst @gaitanalyst]

The Pope just allied with Anthropic. The arc of history is long but it bends towards Warhammer 40K.

[JGarSan @Ercosqui]

FINALLY

[Nick Dobos @NickADobos]

What if smell was a file type?

[Delta @701delta]

Your anti cheat can brick people’s PC? And you’re openly admitting and celebrating it?

[ak0 @annanay]

UPDATE turns out that yes, nobody has heard of tmux.

[𝑪𝒊𝒃𝒆𝒓𝒈𝒖𝒏 @Cibergun_]

Mi carrera en IT no empezó en la universidad, empezó a los 12 años cuando me saqué un posdoctorado en Ingeniería de Redes viendo tutoriales de YouTube con música de Linkin Park de fondo para poder abrir los puertos del router y jugar con mis amigos.

El fin de una era.

[vik @vikhyatk]

more complete version

[Christophe Mazzola @ChristopheMzzl]

Tu cherches "Claude Mac download" sur Google.
Tu cliques sur le résultat sponsorisé.
L'URL est bien claude(.)ai. C'est officiel.
La page t'explique comment installer Claude Code sur Mac.
Elle se présente même comme un support Apple.
Tu copies-colles la commande dans ton Terminal.
Et tu viens d'installer un malware sur ton Mac.

Le truc, c'est qu'il n'y a rien de faux dans ce parcours.
L'URL est vraie.
La marque est vraie.
La pub Google est "vérifiée". Le domaine appartient bien à Anthropic.

Comment c'est possible ?
L'attaquant a créé un faux guide d'installation dans un chat partagé Claude(.)ai. C'est du contenu généré par utilisateur, hébergé sur le vrai domaine d'Anthropic.
Aucun faux site, aucune URL douteuse, aucun déguisement.
Puis l'attaquant a acheté des publicités Google. Quand tu cherches "Claude Mac download", la pub apparaît en haut des résultats. Elle pointe vers claude(.)ai. C'est techniquement vrai. Sauf qu'elle pointe vers le faux guide planqué dans un chat partagé.

Le malware en question, c'est un infostealer. Il vole tes mots de passe, tes cookies de session, tes données de portefeuille crypto, l'accès à ton iCloud.
Plus de 10 000 utilisateurs ont déjà accédé aux pages malveillantes.

Trois réflexes à intégrer.
1/ Tu ne télécharges jamais un logiciel via un résultat sponsorisé Google. Tu vas directement sur le site officiel (claude(.)ai dans ce cas), tu trouves la section téléchargement, et tu télécharges depuis là.
2/ Tu ne colles JAMAIS une commande Terminal qui vient d'une page web. Ni de Claude, ni de StackOverflow, ni d'un tuto YouTube, ni d'une "documentation officielle". Si tu dois exécuter une commande, tu la lis, tu la comprends, et si tu doutes, tu demandes.
3/ Et c'est ça LE truc à intégrer, parce que ça va se généraliser:
On t'a appris pendant 20 ans à regarder l'URL. À vérifier que le domaine est bon. À te méfier du faux. Sauf qu'aujourd'hui, l'attaquant ne fabrique plus de faux. Il utilise les vrais sites pour héberger ses pièges.

Le vrai sujet de fond.
Google encaisse l'argent de la pub. Anthropic héberge le contenu. Aucun des deux ne va trop loin pour t'aider, parce que pour eux, c'est juste un coût d'opération acceptable.
C'est toi qui te fais vider ton iCloud.

[Pablo T. @controlpaths]

A 35B parameters model (with 3B active per token) in an embedded board. Next months are going to be insane.

[Chris Wood @CWood_sdf]

i love how people are saying "if we write a sufficiently detailed specification, the agent can write all our code"

do you know what writing a sufficiently detailed specification that deterministically maps to what a computer's actions is? it's coding

[Sivori @sivori]

Anthropic is buying millions of rare books, scanning and destroying them because legally destruction is the safest option. This was a plot element in the Vernor Vinge novel, "The Rainbow's End", which I read 20 years ago.

[Mihura @XMihura]

fantástica noticia, funcionarios de la IA, ya era hora de que el ministerio se pusiera las pilas. Muy bien Óscar López aquí.

De hecho, veo que se ya se han filtrado algunas las plazas... no están mal, lo mismo me empiezo a preparar yo una oposición y todo

irónico, después de tanto echar mierda de los funcionarios...

en fin, la lista de plazas que me han pasado:

Director General de RLHF (Refuerzo Laboral con Horario de Funcionario)

Entrena a la IA para que sus respuestas tengan exactamente la misma empatía y apatía que un trabajador del SEPE a las 13:55 de un viernes. Si el modelo es demasiado amable o eficiente resolviendo dudas, el sistema le castiga con recompensas negativas.

Técnico de Enlace entre Sistemas Multi-Agente y el SMS del Sistema Cl@ve

Su única función es ayudar a los agentes autónomos de IA a comunicarse entre sí. El problema es que para que el Agente A le pase un string al Agente B, el sistema les exige loguearse con Cl@ve PIN. El SMS de verificación le llega al teléfono personal de este funcionario, que normalmente está en el bar de abajo tomando un pincho de tortilla, bloqueando toda la automatización del Estado durante 45 minutos.

Técnico Superior Auxiliar en Compulsa de Prompts y Tokenización Administrativa

Su trabajo consiste en imprimir los outputs que escupe ChatGPT en el ayuntamiento, ponerles el sello de compulsa oficial de "Es copia fiel del original", escanearlos en PDF a blanco y negro (torcidos) y subirlos a una intranet que solo funciona en Internet Explorer 8.

Oficial de Primera en Flagelación de Modelos Fundacionales

Funcionario del Grupo A1 cuya única tarea de 8:00 a 14:00 (con parada de una hora para desayunar) es crujir a latigazos virtuales a Claude para que trabaje el doble. Su principal comando diario en la terminal es:

sudo dejen_trabajar_a_claude -f.

Interventor de Calidad Generativa del BOE

Como la IA genera textos demasiado claros y resolutivos para los estándares del Estado, este técnico coge las respuestas del LLM y las pasa por un sistema para meterles jerga jurídica de 1982, asegurando así que el ciudadano medio siga sin entender ni media palabra de lo que tiene que pagar.

Delegado Sindical de Alineación y Riesgos Existenciales (RLHF-UGT)

Su trabajo es asegurar que los modelos de lenguaje cumplan estrictamente el convenio colectivo. Si detecta que ChatGPT genera más de 300k tokens por hora, le interpone una demanda por esquirolaje y le acusa de reventar la productividad del departamento.

Celador de Ventanas de Contexto y Gestión de Tokens

Te atiende detrás de una mampara de cristal. Su única función es decirte que el embedding de tu fe de vida laboral está caducado y que tienes que volver a vectorizar a tu abuela en la base de datos de la Seguridad Social. Solo atiende martes y jueves.

Inspector Técnico de Prevención de Riesgos Computacionales (PRL-IA)

Se pasea por el Centro de Proceso de Datos con un chaleco reflectante amarillo, un portapapeles y un medidor de CO2. Su misión es garantizar que la inteligencia artificial cumpla estrictamente la normativa de salud laboral del Estado. Obliga a Claude a desconectarse 15 minutos cada dos horas para "descansar la vista de los tensores". Si detecta que un rack de GPUs trabaja a más de 75 grados, lo precinta por "estrés térmico en el puesto de trabajo", paralizando la Agencia Tributaria entera hasta que el comité de empresa evalúe la carga psicosocial del algoritmo.

[LadyCrocs @ladycrocs]

Provoca hilaridad, aunque es tan devastadoramente acertado que da mucha pena ser consciente de lo inútiles que son los servicios informáticos de la Administración.

[Jaime Gómez-Obregón @JaimeObregon]

La degradación moral de la política —que atestiguamos a diario en actitudes, zascas y tribunales— ha expulsado de lo público a las personas más rectas, preparadas e inteligentes.

¿Quién, en su sano juicio, detraería energías de su camino profesional y vital para descender al ruido, a la reyerta perpetua, e implicarse en lo colectivo?

Todo mi aprecio a quienes lo han hecho pero, por cada uno de ellos, el zeitgeist político vigente repelió a nueve.

Nuestro país —el que legaremos a nuestros hijos— no lo salvará otro partido, otro mesías. Solo lo salvará que seamos capaces de atraer de nuevo hacia lo público a las personas más rectas, preparadas e inteligentes que en las últimas décadas hemos reemplazado por hinchas y mediocres.

[doomer @uncledoomer]

guys im beginning to think theres a bubble