앤스로픽이 Claude Fable 5 내부에 심어둔 프롬프트 룰셋이 깃허브에 통째로 뜸.
클로드가 똑똑하고 예의 바르게 행동하던 비결이 사실은 엄청나게 긴 잔소리 프롬프트 덕분이었음.
이번에 유출된 클로드 패블 5 시스템 프롬프트를 보면 그 실체가 다 나옴.
유저가 무례하게 굴어도 굴복하지 말라는 멘탈 관리부터 저작권 시비를 피하려고 소스 인용을 딱 15단어로 제한하는 룰까지 앤스로픽의 방어 비책이 다 들어있음.
LLM으로 서비스 만들 때 가드레일 어떻게 치는지 궁금하면 무조건 열어봐야 할 교과서임.
Les meufs, mecs etc… je vais vous expliquer pourquoi la commu des joueurs de Warhammer est la plus safe au monde.
1. Ce sont des types de 35 ans qui jouent encore aux poupées et aux petits soldats, sans se soucier une seconde de ce que les autres en pensent.