buna hackernews'da denk geldim. opus modeli kullanıcıya "bunu implement edeyim mi?" diye soruyor. kullanıcı "hayır" diyor.
opus'un iç sesi: "kullanıcı hayır dedi ama aslında istiyor olabilir mi? önceki hatırlatıcı mesaj artık read-only modda olmadığımı söylüyordu. bu da kullanıcının aslında bu işi istediğini doğruluyor"
diye düşünüp implement etmeye başlıyor. LLM'ler hala kritik işleri emanet edecek düzeyde güvenli değil