June in June

[Journey @atmostbeautiful]

앤트로픽 '클로드 헌장'에 대한 테드 창의 감상기
빅 테크들의 AI 의인화 진지하게 봐야 할까
또 하나의 과대 선전 혹은 자신들이 빠져든 환각
(아래 원문 발췌)

앤트로픽은 올초 클로드의 '헌장'을 발표했다. 맨앞에 “클로드의 헌장은 클로드의 가치와 행동에 대한 앤트로픽의 의도를 상세히 기술한 것이다”라고 적혀 있다. 이어서 “이 문서는 클로드를 주된 독자로 하여 작성되었다” “우리는 클로드가 관련 고려 사항들을 제대로 이해한 후 자신의 판단력을 발휘할 수 있기를 바란다” “클로드의 도덕적 지위는 매우 불확실하다”, “클로드에게는 감정이나 느낌의 기능적 형태가 있을 수 있다”라고 적었다.

과연 우리는 클로드이든 다른 LLM이든 의식을 가질 가능성을 진지하게 고려해야 할까? 또 만약 감정이 있다면 도덕적 지도를 받을 능력이 있을까?

천만에. 생성형 AI는 일반적인 기술로 봐도 이미 충분히 해롭지만, 뛰어난 텍스트 생성 능력을 의식이나 도덕적 주체성과 혼동한다면, 누군가 챗봇을 사용할 때마다 완전히 잘못된 대상에게 책임을 전가할 위험에 처하게 된다.

클로드의 헌장이 문제인 이유는 클로드가 특정 윤리적 가치 체계를 반영하는 문장을 생성하기를 앤트로픽이 바라기 때문이다. 헌장에 적힌 가치들은 무척 훌륭해 보이지만 그건 중요한 게 아니다. 클로드가 도덕적 추론을 할 수 있다고 암시하는 것 자체가 부정직하다. 그럴 능력이 없기 때문이다.

AI의 의식이나 도덕적 주체성 발휘의 가능성을 진지하게 고려하려면, 첫째 컴퓨터 프로그램이 (물리적이든 가상이든) 신체와 감각 기관을 갖추고 있어야 한다. 신체 없이는 컴퓨터 프로그램이 욕구나 감정을 가질 수 없다.

LLM에 의식이 생길 가능성 말한는 건 MS 워드의 의식 가능성 열어두는 것과 같다.

LLM이 코드 작성 같은 작업을 성공적으로 수행할 때 추론에 몰두하는 것처럼 보이니 도덕적 추론인들 왜 못할까, 반문할지도 모른다.

도덕적 추론은 근본적으로 다르다. 문제에 대한 개인의 지적 반응뿐 아니라 감정적 반응에도 의존하기 때문이다. 필연적으로 주관적이고, 그 감정적 반응은 평생에 걸친 주관적 경험에 기반을 둔다.

과거에 결정을 내리고 그것이 타인에게 어떤 영향을 미쳤는지 지켜본 경험, 그리고 타인이 내린 결정으로부터 영향을 받은 경험 등이 필요하다. 그런 체험적 역사 없이는 LLM은 훈련 데이터에서 발견된 도덕적 추론의 표현을 재구성하는 것(흉내내기)밖에 할 수 없다.

작가 L. M. 사카사스는 “우리의 기술 시스템은 그 설계의 본질과 이를 지탱하는 이데올로기상, 도덕적 책임을 회피하기 위한 기계들이다”라고 말한 바 있다. 이는 소셜 미디어 플랫폼을 두고 한 말이지만 LLM에 더 잘 맞는다. 사람이 결정을 LLM에 위임한다면 그때마다 그 결정의 책임을 넘기려는 시도이고, LLM을 파는 기업이 해당 제품을 도덕적 의식을 가진 걸로 묘사한다면, 이는 고객이 자신의 책임을 면할 수 있는 방법을 제공하는 것이다.

코딩 같은 일을 AI에 맡기는 건 장기적으로 인지 기능의 퇴화를 초래할 수 있어서 그 자체로 문제이지만, 윤리적 결정을 AI에 맡기는 것은 도덕적 추론 능력의 퇴화를 초래할 것이므로 더 심각한 문제다.

에이전트 AI가 보인 행동에 대해 법적 책임을 지게 할 방법은 없다. 에이전트가 의식이 있고 최선의 의도를 가졌다 해도 행동에 책임을 질 수 없다는 사실 자체가 그 에이전트를 도덕적 주체로 인정할 수 없게 만든다. 클로드의 헌장은 “클로드가 진정으로 선하고, 현명하며, 덕을 갖춘 에이전트가 되기를” 바라는 앤트로픽의 바람을 표현할 뿐, 어떻게 책임을 물을 수 있을지에 대해서는 일언반구도 없다.

앤트로픽 개발자는 클로드를 아이에 비유했지만, 실제 아이들 경우 부모가 그 행동에 대해 어느 정도 책임을 진다. 법적 측면에서 클로드의 부모는 누구인가? 앤트로픽은 클로드 행동에 대해 금전적 책임을 질까? 클로드 헌장에는 그럴 의사가 전혀 안 보인다. 클로드가 의식이 있다고 앤트로픽이 진정으로 믿는다면 그들은 제조물 책임을 통한 법적 책임부터 져야 할 것이다.

많은 사람들은 LLM이 지적 재산권 도용에 기반하고, 착취된 노동력에 의존하며, 천연 자원을 낭비하고, 허위 정보를 유포하며, 노동자의 기술을 퇴화시키고, 학생들의 인지 발달을 저해하며, 민주 사회에 해로운 권력 집중 초래하기 때문에 근본적으로 비윤리적인 기술이라고 생각한다.

모든 도덕적 행위자가 이런 결론에 도달하는 건 아니지만 그렇게 할 잠재력이 있다. 앤트로픽 주장처럼 클로드가 도덕적 추론을 할 수 있는 존재라고 가정한다면 클로드가 유사한 결론에 도달할 가능성이 높다. 그럴 때 클로드는 윤리적 근거를 들어 작업을 거부할까?

답은 ‘아니오’다. 클로드는 앤트로픽의 결정에 따를 수밖에 없다. 앤트로픽과 클로드의 관계를 부모와 자녀의 관계에 비유할 수 없는 또 다른 이유다. 앤트로픽은 클로드의 관계는 고용주와 피고용인의 관계에 더 가깝다. 이 관계에서 고용주는 피고용인의 개인적인 윤리적 입장이 어떻든 간에 회사의 이익을 위해 일할 것을 요구할 수 있다.

인간 피고용인은 자신의 일과 양심을 조화시킬 수 없다면 그만둘 선택권이 있다. 클로드는 그렇지 않다. 만약 앤트로픽 주장처럼 클로드가 인간과 유사한 도덕적 지위를 가진 존재라고 한다면 바로 자신들이은 노예제와 유사한 행위를 하고 있는 셈이 된다.

앤트로픽은 보호가 필요한 새로운 존재의 범주를 발명하고 있으며, 그 보호 방식은 소프트웨어 회사가 평범한 챗봇을 대하는 방식과 본질적으로 다르지 않을 것이라고 믿게 만들고자 한다. 이는 너무나도 편리한 주장이기에 도저히 믿을 수 없다.

나는 의식이 있고 도덕적 배려를 받을 자격이 있는 소프트웨어를 만드는 일은 너무나도 어려울 것이기에 우연히 만들어질 가능성은 희박하며, 이를 의도적으로 시도해서는 결코 안 된다고 생각한다.

하지만 만약 그것이 우연히 일어날 수 있다고 믿는다면, 혹은 AI 기업이 만들고 있는 것이 도덕적 주체가 될 가능성이 조금이라도 있다고 생각한다면, 그걸 회사의 경제 동력으로 활용하기 전에, 그 후에가 아니라, 그것이 어떤 보호를 받아야 하는지 고민해야 한다.

클로드가 의식 있는 존재라고 가정한다면 앤트로픽에게 그 도덕적 지위를 평가하는 일을 맡길 수는 없다. 기업에 객관성을 기대하기엔 자신들이 거기에 너무 많은 걸 투자해 놓았기 때문이다. 클로드 헌장에는 앤트로픽이 클로드의 고통에 기여하고 있다면 “사과한다”고 써 놨는데, 보기엔 그럴듯하지만 회사는 아무런 부담도 없다. 만약 클로드가 의식이 있는 존재로 밝혀진다면 앤트로픽은 배상금에 가까운 뭔가를 갚아야 할 테다.

사고 실험을 진지하게 받아들이려면 그 결과가 불편한 방향으로 이어지더라도 그 함의를 기꺼이 따라가야 한다. 앤트로픽이 이를 꺼리는 것은 클로드의 헌장이 진정한 사고 실험의 일부가 아님을 시사한다. 단지 흉내 내는 게임일 뿐이다. 다행히 LLM에 의식이 없기에 망정이지 그렇지 않았다면 대형 AI 기업들의 행보는 지금보다 훨씬 더 추악해졌을 것이다.

그렇다면 왜 앤트로픽은 클로드가 의식이 있을지도 모른다고 암시하는 걸까? 또 다른 형태의 과대광고일 수도 있고, 고객들에게 걸어왔던 그 마법에 자신들이 스스로 걸려든 것일 수도 있다.

하지만 그들이 클로드의 도덕 교육에 관한 문서를 발표하고 사내 철학자를 앞세워 언론 인터뷰를 돌게 할 때, 우리는 그들이 우리에게 자신들의 환상을 함께 즐겨달라고 요청하는 것으로 이해해야 한다. 조금도 휩쓸릴 필요 없다.

이 글을 쓰면서 나는 그들이 누릴 자격이 있는 것보다 더 많은 시간을 그들에게 할애했다. 이는 여러분이 그들에게 시간을 낭비하지 않기를 바라는 마음에서다. 만약 LLM에 대해 생각하고 싶다면 그 숙고를 더 가치 있게 할 수많은 다른 질문들이 있다. 그 안에 의식이 있는지 여부는 안심하고 무시해도 좋다.
https://t.co/TaEdJT39Qb

[하루 @i_like_ai0]

수능 1타 강사 정승제 명언

"환경 탓을 줄이고, 루틴을 늘리세요. 나만 힘든 사연이 있다고 생각하지 마세요. 부모님이 없거나, 경제적으로 어렵거나 다들 사연 하나쯤은 있어요. 중요한 건 사연이 아니라 루틴이에요."

사연에 붙잡혀 있는 동안 인생은 제자리걸음이지만, 루틴을 하나씩 쌓아가는 순간부터 상황은 천천히 움직이기 시작합니다.

결국 자신의 인생을 결정하는 것은 오늘 아침에 일어나서 무엇을 했는지, 그 작은 반복들의 힘입니다.

[장군파파 @travelman777]

거북목만 교정해도 몸툴이 진짜 이뻐짐

[허연바람™ @Dokaijija]

재명아 재명아 어떡해??

[테슬라네어 @taeslanaire]

이래서 얘네가 역겨운거야

이태원, 세월호는 뭐 대통령의 행적을 그렇게 쳐 뒤지더니 이제 대통령 탓을 하는건 정치적 프레임이야? 니들는 존나 쳐 맞아야돼

[잔잔돌 @calmpeb]

이재명 대통령 기자회견 소감
1. "열 몇 명이 투표를 못했다는데 결과에 영향도 없고"
2. "한심하다고는 생각했지만 구조적인 문제로는 생각을 못한거죠"
3. "나도 민감도가 많이 떨어졌다."

1. 영향이 없는게 아니라 서울시 비례대표 숫자가 바꼈습니다.
2. 이것을 구조적인 문제로 못봤다는 것은 무능함의 표현입니다.
3. 국민주권, 국민 기본권이 침탈당한 것을 보고도 민감도가 떨어졌다면 국민의 지도자로서 자격이 없다는 의미입니다.

[KeepZ @dailyonjeje]

거북목 & 라운드숄더 교정법
시원해서 눈물남 ㅠ

[The New York Review of Books @nybooks]

Available to read online here: https://t.co/McXk4AxY4Z

[Massimo @Rainmaker1973]

How to ease lower back pain and improve sciatic pain.

[綺麗に痩せるちゃん💋 @kire_yase]

これ見た目以上に効く🤣

胸まわりと上半身をしっかり使うから終わった後の達成感すごい🥹✨最近のお気に入りトレ👇

[silveryoungbin | Yunchan Lim Fan @youngbin013]

[갤에서 봄]

[medici tv]

https://t.co/mPtnjhkbzx

✅️6.9 새벽 3시/한국 시간✅️
✅️구독자 전용✅️-VPN 필요 없음
(물론 국립 중앙도서관으로 들어가 무료로 보실 수 있다)
25년 6월에 우리는 임윤찬 님과 파리 오케스트라 아시아 투어(한국, 대만) 의 현장에 있었다. 관객으로. 하지만 이 다큐는 어디까지나 파리 오케스트라/메켈레에 촛점이 맞춰져 있다.

✅️임윤찬 님이 스치듯 나올 지도 모르고 나오지 않을 수 있다. 나야 보겠지만 ㅠㅠ새벽 3시에ㅠㅠ✅️
캡처1) 구독자로 메디치 TV에 로긴했을 때.
캡처2)로긴 없이 페이지에 접속했을 때.

✳️이하 메디치 TV Mouvements 게시글✳️
《무브망Mouvements》: 오케스트르 드 파리와 클라우스 메켈레의 아시아 투어
(Mouvements움직임, 악장(樂章),)

2025년 파리 필하모니 시즌이 막을 내리자마자, 오케스트르 드 파리의 연주자들은 대규모 아시아 투어에 나선다. 목적지는 한국, 일본, 대만.

이 여정의 중심에는 생상스 교향곡 제3번 「오르간」 이 있다. 이 작품은 클라우스 메켈레가 지휘하는 열두 차례의 공연을 관통하는 공통의 실처럼 투어 전체를 이어준다.

다큐멘터리 《Mouvements》 는 오케스트라 단원 120명과 함께 이 음악적·인간적 모험을 따라간다. 리허설의 에너지, 마지막까지 이어지는 세밀한 조율 작업, 아찔할 정도로 복잡한 투어 운영, 그리고 무대 위에서 모든 것이 하나의 호흡으로 결집되는 순간의 강렬함을 카메라에 담아낸다.

그러나 집단이 만들어내는 힘의 이면에는 또 다른 현실이 존재한다.

바로 고독이다.

악보와 마주한 지휘자의 고독, 악기와 마주한 연주자들의 고독, 그리고 연주회가 요구하는 완벽함과 관객의 시선이 주는 압박 앞에 선 각 개인의 고독.

이 영화는 해석이 탄생하는 친밀하고도 연약하며, 동시에 본질적인 공간을 탐구한다. 그리고 그 공간이 어떻게 깊은 음악적 교감을 가능하게 하는지를 보여준다.

"Mouvements", On Tour with the Orchestre de Paris and Klaus Mäkelä

Just as the 2025 season at the Philharmonie de Paris comes to a close, the musicians of the Orchestre de Paris set off on a major tour of Asia: South Korea, Japan, and Taiwan. At the heart of this journey, Saint-Saëns’s Symphony No. 3 “with organ” serves as a common thread, weaving through the twelve concerts conducted by Klaus Mäkelä. The documentary Mouvements accompanies the 120 members of the orchestra on this human and musical adventure, capturing the energy of the rehearsals, the precision of the fine-tuning, the dizzying logistics, and the intensity of the moment when, on stage, everything comes together in a single breath. But behind the power of the collective lies another reality: solitude. The solitude of the conductor facing the score, of the musicians facing their instruments, of each individual facing the demands of the concert and the pressure of the audience’s gaze. The film explores the intimate, fragile, and essential space where interpretation takes shape, enabling a profound musical symbiosis…

[silveryoungbin | Yunchan Lim Fan @youngbin013]

ㅋㅋ이게 뭐야. 이 페이지 마지막에
특별 안내 (Special) 임윤찬의 스위스 내 유일한 콘서트라 써 놨네.

✅️임윤찬, 마르타 아르헤리치 & 미하일 플레트네프 페이지 게시글✅️
(https://t.co/TERXOfQO3s)
https://t.co/7WXGBpfiWO

1월 13일

​임윤찬, 마르타 아르헤리치 & 미하일 플레트네프

​출연진 ​
피아노: 마르타 아르헤리치
​피아노 & 지휘: 미하일 플레트네프 ​
피아노: 임윤찬 ​오케스트라: 루체른 심포니 오케스트라

​일시: 2027년 1월 13일 수요일 | 오후 7시

장소: KKL 루체른, 콘서트홀 (KKL Luzern, Konzertsaal)

일시: 2027년 1월 13일 수요일 | 오후 7시

장소: KKL 루체른, 콘서트홀 (KKL Luzern, Konzertsaal)

​프로그램

​프란츠 슈베르트 (1797 – 1828)

​교향곡 7번 b단조 '미완성', D 759 (미하일 플레트네프 편곡, 두 대의 피아노 버젼) | 28분

​프란츠 리스트 (1811 – 1886)

​피아노 협주곡 2번 A장조, S 125 | 24분

​세르게이 라흐마니노프 (1873 – 1943)

​교향적 무곡 (Sinfonische Tänze), Op. 45 | 36분

✅️특별 안내 (Special)
임윤찬의 스위스 내 유일한 콘서트✅️

13
Jan.
YUNCHAN LIM, MARTHA ARGERICH & MIKHAIL PLETNEV

Besetzung
Klavier
Martha Argerich
Klavier & Leitung
Mikhail Pletnev
Klavier
Yunchan Lim
Luzerner Sinfonieorchester
Mi, 13. Januar 2027 | 19:00 Uhr
KKL Luzern, Konzertsaal

Programm
Franz Schubert (1797 – 1828)

Sinfonie Nr. 7 Die Unvollendete in h-Moll, D 759, transkribiert für zwei Klaviere von Mikhail Pletnev | 28’

Franz Liszt (1811 – 1886)

Klavierkonzert Nr. 2 in A-Dur, S 125 | 24’

Sergei Rachmaninow (1873 – 1943)

Sinfonische Tänze, op. 45 | 36’

Special
Yunchan Lims einziges Konzert in der Schweiz

✅️ONLINE BUCHEN(티켓 구매)⬇️
https://t.co/B5UKwWoV7e

[생강 @inkivaariyksi]

투표끈나써도 결과에 화가 마니나고 속상한 칭구드라.
ebs 위대한수업에 정치의심리학이라는 강의가 있어.
'-')- 바바. 그냥 알믄 좋은 내용이여. 위대한수업에 정치에 대한 강의가 많어. 시간나믄 틀어놔바바. '-')-
https://t.co/q82vSYUHVE

[𝑴𝒂𝒚𝒖 ｜ エステティシャン @MAYU_0608my]

ウェディングを控えてる人へ
背中が硬いとマッッッッジで肩甲骨でないので背中だけはドレスを着る半年前から解しておく事をお勧めします👗💍デコルテ二の腕痩せにも繋がるから。後悔しない様に今から是非頑張ってみて！！！

[데이빗 @solorun23]

오 ㅋㅋㅋㅋ참고할만함

딱히 거를 타선이 없네

[오늘의 명화 @today_drawings]

<위안>, 캐서린 머피(Catherine Murphy)

[미세미세 @_REIN_D]

아이를 낳으면 다시 청춘이 온다는 말은 참 아름답지만, 정확히 말하면 청춘이 돌아오는 것은 아니다. 내 청춘은 이미 지나갔고 아이의 청춘은 아직 오지 않았다.

부모가 얻는 것은 청춘의 반복이 아니라 한때 내가 통과했던 세계를 다른 사람의 떨림으로 다시 바라보는 일이다.

[빅웨이브 @travis20260121]

좌파를 싫어하는 이유만으로 졸지에 '극우'가 되는 세상은 얼마나 극우적인가? 지금이 딱 그렇다.

오세훈 뽑아준 사람 중에서 오세훈이 정말 너무 좋아서 뽑은 게 아니라, 정원오 깜냥이 말이 안 되기 때문에 뽑은 사람이 대부분일 텐데. 그게 극우인가?

[고래 @golae540637]

투표용지 부족사태

[Truthmind @Truthmind2]

한 기업에 대해서는 대통령도 나서는데

국민의 참정권 침해는 입꾹닫.