@kepano@karpathy An exception is structured data like flashcards synced with Anki—I prefer to store them near note, and agents are allowed to edit them.
@kepano@karpathy My approach is somewhere in the middle. I allow agents to modify files only within a single folder. I’m also moving toward an approach where agents can edit only notes that have an llm-editable property.
@sitnikcode I have a Claude skill where I require the use of exhaustive ts-pattern matching to check results. The compiler forces agent not to ignore any possible return values, including errors. This is especially useful in React, so it does not forget about the error or loading state.
OpenAI published an article https://t.co/aDRQ17P4pj about why modern LLMs are predisposed to hallucinations: it turns out that during training we create incentives for guessing.
If we don’t reward the model for “I don’t know” answers, but do reward it when the model guesses, the strategy of making up an answer becomes advantageous.
@alex_radch Правильно ли я понимаю вашу логику, что например прыгнуть с парашютом безопаснее, чем доехать до соседнего магазина? Ведь в автомобилях гибнет намного больше людей.
@subzey@jsunderhood Алан Тюринг показал неприменимость такого подхода для webasm модулей еще в 1936 году)) Ключевые слова "проблема остановки" https://t.co/XKiJP2FDHn
@subzey@jsunderhood Скорее не в вашем модуле цикл, а в вашем модуле конкретная команда, но зачем кому-нибудь может понадобиться такая валидация, и чем этот модуль лучше или безопаснее - не понятно. Но подход с безопасным запуском плагинов, как в figma - вполне рабочий.
@subzey@jsunderhood Блэк-лист команд не может сделать wasm модуль безопасным. Это сложнее, чем писать html санитайзер через блек-лист. Про передачу или не передачу конкретных функций - согласен.
@jsunderhood 3/5 Распространять библиотеки и приложения в виде wasi модулей, но тут скорее пока разговор про перспективу, а не сегодняшний день.
4/5 Изолирование чужого кода плагинов и запуск в интерпретаторе откомпилированном в wasm как делает figma.
5/5 FaaS как на cloudflare workers.
@jsunderhood 2/5 Если шарится много функциональности с клиентами на других платформах или на сервере. Тогда имеет смысл написать ее один раз и откомпилировать в том числе и в wasm для браузера.