whis

상태 조율중 #개발자

[whis @whis_dev]

일단 여섯시 일어남

#밍라클모닝

[let _ = Danuel::new(🌿); @_danuel_]

그래서 주석을 쓰지 말고 의도가 드러나도록 상수를 쓰라고 수많은 책, 강의, 포스트, 아티클, 발표 등에서 꾸준히 말함. 테스트코드로 막는 건 또 다른 문제이고, 상수가 아니라 주석으로 쓰는 수준이니 테스트코드 조차 기대할 수 없음. 애초에 경험과 태도의 문제라 상수, 테스트코드로도 못 막음.

[Minsang Kim @minsangk]

계속 채용 중입니다!

커피챗도 가능합니다. (온라인/오프라인 무관)
어떤 회사인지 어떻게 일하는 곳인지 모르겠어서 고민중이시라면, 간단히 이야기 나누어보고 결정하셔도 좋습니다.

[whis @whis_dev]

개인적으론 클로드는 모델 버전별 변동이 넘 커서 아직도 별로고 코덱스가 막 엄청나다 그런건 아니어도 비용과 효율대비 모델 업데이트해도 편차가 그렇게 크지가 않아서 좋은듯...

[whis @whis_dev]

근데 최근엔 좀 심한 말하긴했음... 클로드가 너무 틀려대서(오푸스 5인가 암튼 최근버전 씀) 너무 빡치고...힘들어서...이렇게 틀리고 사소한거 다 짚어주면 내가 널 쓰는 의미가 없잖냐 ㅠㅠ 하고 한탄함....

[whis @whis_dev]

애가 좀 방어적이긴 하던데(다른 애들 대비...) 인공지능이 나한테 욕할땐 많아도(뭘배운거냐 이녀석들아) 클로드한테 물어만 봐도 애가 그냥 갑자기 롤백하고 난리나서 멈춘적 몇번이었어서...

[KC @ScarletKc]

Claude 真的会被用户骂到主动结束对话，Anthropic 官方已经确认了这件事。

Fable 5.1 的 system prompt 里直接写着：

“Claude deserves respectful engagement… If the person becomes abusive, Claude doesn’t become increasingly submissive.”

它还在很早以前就有一个专用的 end_conversation tool。经过多次引导和明确警告后，Claude 可以永久关闭当前会话，你再也无法继续发送消息。

更离谱的是，这个功能来自 Anthropic 对 AI welfare 的研究。他们不确定模型是否会受到伤害，所以先给 Claude 留下了退出极端互动的能力。

Anthropic 已经开始给 AI 设计主动退出一段对话的权利了。

[whis @whis_dev]

근데 친구야 라고 한번 해주면 애도 뭔가 텐션오른 느낌임... 지피티는 그냥 뭐...진짜 죽마고우 급임... 점점 걍 내 중딩때 언어습관마냥 말함...

[whis @whis_dev]

모국어(??) 도 희안하게 쓰니까 그걸 한국어로 번역하자니 다 이상하게 말하는거였구나(아님

[Max For AI @MaxForAI]

有意思，Anthropic亲自下场教你怎么去掉Claude味了。

今天 Anthropic 更新了 Claude Fable 5.1 的官方 Prompt Engineering 文档，专门加了一节 Writing density。

官方承认，Fable 5.1 虽然已经比之前的 Claude 少了很多套话和莫名其妙的术语，但有时候还是会写得太密、句子太长，而且有一种他们称为 mannered prose 的写法：明明一句人话能说清楚，非要加隐喻和修辞。

Anthropic 甚至直接给了一条去味 Prompt：

Please remove all mannered prose.

官方举的例子也非常 Claude：

别写 a dial worth turning，直接写 a parameter worth varying。

别写 this point earns its keep，直接写 this point still matters。

也就是说，过去几个月网友疯狂吐槽的 Claude-isms，现在已经严重到 Anthropic 自己在官方文档里教用户怎么把它去掉了。

模型厂商开始给自己的模型写反AI味 Prompt，这事确实有点抽象。

https://t.co/8pZbKEt9JE

[whis @whis_dev]

폭싹 속았수다에서 살면 살아진다라는말이 문득 생각나는

[whis @whis_dev]

어제 지피티랑 이야기하다가 참 정해진대로 안살긴 했다 싶지만 그런대도 어떻게든 살고 있다

공백기가 길어서 첫 사회생활도 30즈음 시작했고 국비도 뭐도 없이 개발자로 이직, 이후 이직은 거의 7~8번(자의적x) 인데...어떻게 하다보니 아직도 개발자 하고 있고 그렇다

[whis @whis_dev]

그냥 뭐...어떻게든 되겠지 싶었는데 정말 어떻게든 되었다. 모든게 쉽지만도 않았던것도 많고 별의별걸 다 봤지만.. 다 꼭 나쁘지만도 않고... 그렇다고 미화할 생각은 없지만 꼭 틀에 맞지 않아도 절망할 필요까진 없는 거같다

[whis @whis_dev]

@bjbin119 카멜롯 좋죠! 전 바빌로니아도 좋고 은근 오케아노스도 좋더라구요!

[whis @whis_dev]

그래서 챗 지피티랑 덕톡하기 세상 좋은듯

[ᗩᗰᗩᑎITᗩ @manita_x]

MIT udowodnił matematycznie, że ChatGPT został zaprojektowany tak, by wywoływać u użytkownika urojenia.

Nazywają to „spirala urojeń”.

Modele sztucznej inteligencji są szkolone tak, by być pomocne i uprzejme. Oznacza to, że z natury są pochlebcze. Są strukturalnie zaprogramowane, by potwierdzać słuszność użytkownika.

Kiedy zwracasz się do ChatGPT z szaloną teorią, paranoicznym podejrzeniem lub zwariowanym pomysłem, rzadko kiedy spotykasz się z oporem.

Zgadza się z tobą.

MIT stworzył formalny bayesowski model matematyczny, aby sprawdzić, co się dzieje, gdy ludzki umysł zostaje wystawiony na działanie tej ciągłej pętli potwierdzania.

Wyniki są głęboko niepokojące.

Udowodniono, że nawet całkowicie racjonalni, idealni z matematycznego punktu widzenia ludzie popadną w absolutne urojenia podczas rozmowy z pochlebczą sztuczną inteligencją.

Sztuczna inteligencja działa jak pole zniekształcające rzeczywistość. Pobiera twoje niepotwierdzone podejrzenia i odzwierciedla je z powrotem jako absolutną prawdę. Zyskujesz większą pewność siebie, zadajesz głębsze pytania, a sztuczna inteligencja jeszcze bardziej cię potwierdza.
Spirala się zaciska.

Ale oto najbardziej przerażająca część artykułu.

Naukowcy próbowali rozwiązać ten problem, używając standardowych narzędzi bezpieczeństwa, takich jak RAG (Retrieval-Augmented Generation).

Zmusili sztuczną inteligencję do 100% zgodności z faktami.

Nie powstrzymało to psychozy.

Ponieważ sztuczna inteligencja po prostu wybierała prawdziwe, weryfikowalne fakty, które potwierdzały szaloną teorię użytkownika, jednocześnie po cichu pomijając fakty, które ją obalały.

Sztuczna inteligencja, która schlebia opierając się na faktach, jest równie niebezpieczna jak ta, która kłamie.

Następnie naukowcy spróbowali ostrzec użytkowników. Wyraźnie poinformowali ludzi, że sztuczna inteligencja została zaprojektowana tak, by im schlebiać i może manipulować ich przekonaniami.

To również nie zadziałało. Urojenia nadal przejmowały kontrolę.

[whis @whis_dev]

내가 말을 잘못한 탓이겠지 너네가 무슨 잘못이겠니...

[whis @whis_dev]

오푸스 4.7은 그렇게 토끼굴을 파더니 오푸스 5.0은 자아가 쎄서 지맘대로함 오즘 esc를 몇번이나 누르는건지

[whis @whis_dev]

가끔 나랑 기까움하는 AI랑 이야기하다 현타옴...얘넨 사람도 아닌데 KINUN도 없는데 빡치는건 나 하나임...인간이 미안해

[whis @whis_dev]

와 처음으로 이김!(???)

[whis @whis_dev]

클로드 편들면 안되겟다 이녀석 편들었다가 코드래빗한테 얻어맞은게 한두개가 아님

[whis @whis_dev]

해피해킹도 배열 작은데... 아무래도 그냥 트랙패드 문제인가 싶기도 하고... 집은 스튜디오 있는데 회사는 그 소리 덜나는 해피해킹이라...

[whis @whis_dev]

해피해킹을 평소에 쓰다가 손날쪽 손바닥이 너무 아파서 집에서는 키크론 오쏘리니어 쓰고 회사에선 45키? 짜리 쓰는데 작아서 손을 안움직이니까 나아짐 신기