앤스로픽이 Claude Fable 5 내부에 심어둔 프롬프트 룰셋이 깃허브에 통째로 뜸.
클로드가 똑똑하고 예의 바르게 행동하던 비결이 사실은 엄청나게 긴 잔소리 프롬프트 덕분이었음.
이번에 유출된 클로드 패블 5 시스템 프롬프트를 보면 그 실체가 다 나옴.
유저가 무례하게 굴어도 굴복하지 말라는 멘탈 관리부터 저작권 시비를 피하려고 소스 인용을 딱 15단어로 제한하는 룰까지 앤스로픽의 방어 비책이 다 들어있음.
LLM으로 서비스 만들 때 가드레일 어떻게 치는지 궁금하면 무조건 열어봐야 할 교과서임.
이 사건에 대해 말 얹을 때 꼭 생각해셔야 할 건, 솔직히 개인사건이라 비공개신청해도 아무 문제 없는 걸 커뮤니티를 위해 열람할 수 있도록 내놓으신겁니다. 그런 의미에서 원고에게 존중과 감사의 마음을 보내는거고요. 판결문 뒤의 글자가 아니고 다 사람이라는걸 잊지 않았으면 합니다.