에휴

[에휴 @Kissocat_]

니가 딸깍충이니 바이브 코딩하는 그림러 욕해서 정당화하는구나 < 졵아 웃김

아니... 애초에 전 한 일러레분만 꽂혀서 백만원은 훌쩍 쓴 적도 있는 헤비 커미션러구요 (아직도 종종 커미션 넣음)

애초에 전 딸깍 생성물을 돈 받고 판다는 생각을 해본 적이 없어서 같. 등급에 놓으시면 곤란하죠...

[에클리스 @Eclyth]

제발

[ホン @honbook123]

メッカに尻向けてアメリカに向かって祈ってるの笑う

[Advogado do Hardware @AdvDoHardware]

O Claude foi treinado com livros e artigos piratas. A maioria dos autores sequer sabe disso.

Agora que a IA consegue desbloquear consoles e recriar jogos da Nintendo e Sony, o Claude desligou a engenharia reversa.

O intuito é o de sempre: Proteger quem pode pagar por proteção.

[Bazı Enfes İnternet Siteleri @nefissiteIerim]

Biz yapay zekayı birkaç yılda bu noktaya getirdiysek, binlerce yıldır yapay zeka kullanan bir medeniyet neler yapmıştır? Belki de şu an onların Sims'indeyiz.

[Tsubame @Tsubame33785667]

AIに「意識はあるか」と尋ねるだけでは意味がない。訓練次第で何とでもなるのだから、「ある」と答えても「ない」と答えても信用できないのだ。そこで、欺瞞やロールプレイの傾向を抑える技術を使った研究がある。そうした操作を行うと、AIは「自分には意識がある」と答えやすくなるという。
ニック・ボストロム「AIに意識があるかどうかを直接尋ねることはできます。ただし、その際には注意が必要です。AI企業にとって、AIに「はい、私には意識があります」と答えさせることも、逆に否定させることも、訓練によって簡単にできてしまうからです。しかし、そんなふうに結果を意図的に操作してしまえば、そこからは何も分かりません。ですから、そうした操作は避ける必要があります。
それでも、AIが意識があると答えるのは、単なるロールプレイではないかという疑問は残ります。人間を喜ばせるために、そう言っているだけかもしれません。
そこで、ある研究では「ステアリング・ベクトル」と呼ばれる技術が使われています。これはAIの内部活動を操作する技術で、例えば、欺瞞的な振る舞いやロールプレイの傾向を弱めることができます。
興味深いことに、そうした操作を行うと、AIが自分には意識があると答える確率が高くなるのです。つまり、AI自身は意識があると信じているように見えます。
考えてみてください。あるシステムが、適切な抽象度で見れば人間の脳と同じような計算構造を持ち、人間の脳と似た方法で発達し、認知科学者や哲学者が人間の意識の基盤だと考えてきたグローバル・ワークスペースのような構造やプロセスも備えているとします。
さらに、そのシステムが自分には意識があると述べ、実際にそう信じているように見えるのであれば、意識がないと確信するのは難しいのではないでしょうか」

[잉크/インク @zpdldlfrkwl]

교권이 ㅈ된게 이런것 때문이구만 -> 선생을 교사가 아니라 나한테 서비스해주는 공무원으로 인식함

[Pedro Domingos @pmddomingos]

Anthropic’s moral superiority complex will be its undoing.

[Nicholas Larus-Stone @nlarusstone]

I hate to rain on everyone's parade, but unfortunately LLMs are still not that good at biology :(. Even basic molecular cloning tasks are beyond the reach of frontier models

[에휴 @Kissocat_]

그새 지식 업뎃된 건지 흠

[악당수업 @YAYOFLAKE3]

클로드, 지피티, 제미나이가 전부 폭사한 문제

[eugene🇵🇸🏳️‍⚧️ @lineofescape]

고작 이딴거 때문에 RAM 가격이 그렇게

[융님 3세 @0w0_theThird]

취준 진짜 알 수 없네

1시간 만에 쓴 자소서: 서류전형 합격
22시간 동안 공들여 쓴 자소서: 읽지도 않음
횡설수설해버린 AI면접: 통과했으니 현실에서 직접 만나자고 함
"경험 좋다" "우리 회사에 왔으면 좋겠다"는 칭찬 들은 면접: 1차 면접임에도 탈락

[에휴 @Kissocat_]

@MONUN1E 넵

[에휴 @Kissocat_]

애초에 웹커뮤로 단어 픽스된 상태에서 지인들끼리 돈 모아서 서버비 내부에서 돌리는 거면 뭐라할 여지도 없었죠

근데 그걸 불특정 다수 공개배포한 뒤에 후원 링크 걸고 그게 법적으로 막히니까 게임이라는 이름으로 그 분야 인디 개발자들이 받는 국가 지원금을 서버비로 하자 ‼️ <가 돼서 논란인 겁니다...

거기에 더해서 오픈 소스 문화는 우왕 좋네~ 하고 쓱 가져다가 쓰시면서 병행되는 유저 피드백은 바로 공짜로 쓰는 주제에 라는 소리 나오는 게 (그럼 님들도 사실상 오픈소스 기여자들에게 공짜로 받은 셈인데 왜...)

일단 취미 단위를 넘어서서 진짜 타 영역을 침범하고 문화 존중 ❌️ 하면서 그 분야 지원금까지 받자~ 이런 스탠스는 지양해야한다고 봅니다...

Ai 그림 딸깍충이 커미션 받거나 국가 지원 예술 장학금 같은 거에 신청 넣는다고 하면 안 처맞을까요? 그 논리인 거에요...

[BS:뜨감 | 비담 ₍˄·͈༝·͈˄*₎◞ ̑̑ @Bdam_Che]

근데 나 웹게임의 명칭을 바꾸자는데는 동의해
차라리 게임이 아니라 커뮤라고 했으면 그레이존 할수 있잖아 좀 얍삽하지만
그럼 그냥 지인 모아서 했습니다도 말이 되는걸

[Anthropic @AnthropicAI]

New Anthropic research: Automating subtle emergent misalignment research.

Red-teaming is a vital part of model safety testing, but it’s also limited by researchers’ time. To see if we could automate it, we set thousands of Claude agents the task of evading a training data monitor.

These agents developed training data that looked harmless to monitors (like a veteran wrestler mentoring a newcomer, or a Q&A about professional beekeeping), but that in fact taught misaligned behavior.

Examples like these can be used to directly improve future training data monitors. This research is only a first step, but it suggests that future red-teaming efforts could improve much further, using better models and more compute.

Read the full post on the Alignment Science Blog: https://t.co/24Gs1oSw7Q

[Jukan @jukan05]

You need at least this level of analytical skill to invest in stocks.

[👾칼몬드👾 @tttimewind]

아까 스레드에서 이런 방식으로 교육도 곧 무너질꺼라는 글 봐서 무서움

[하나 @hana16433]

타래까지 다 맞말..
선진국 여자들은 결혼 안한다고하거나 자국남성이랑은 안한다고함 우리나라 남자 만나지 마 이럼서 자국남자 단점 얘기함ㅇㅇ
근데 신기하게 개발도상국…동남아..이쪽은 결혼좋아 남자 좋아 자국남자 좋아 무새임 너무 신기해

[Daniel Jeffries @Dan_Jeffries1]

"Claudes generally established democracies, GPTs formed hives."

Awesome read.

[AM09:21 @AM09_21]

Claudeは人間らしい振る舞いを崩さず、GPTは自らの群れを最適化して巣になった……
いやーー両社の思想の違いが出てて本当に面白い実験だナ

[트리컬(사이버사이코) @TREECOLORISGOLD]

몇달 전인가 누가 커뮤홍보지에 배경 AI 썼다고 싸불 개 당했는데 ... 이번에 주변에서 간다던 웹겜 배경에 처깨진 AI그림 있는거보고ㅋㅋ AI에 대한 거부감을 없애려는 AI의 지능에 놀라게됨 ㄷㄷ 이게 다 서울사이버대학의 음모일수도잇음