<차별하는 데이터> 2장까지 읽고 정리 중인데 서론은 정말 좋다. 인터넷 여명기의 사이버공간 예찬론 기반에 있던 희망적 무지(가령, ‘우리를 속박하던 인종, 성별 등의 정체성이 없는 해방과 자유의 사이버공간 만세~!’)가 차별을 어떻게 ���속화하는지 잘 드러내주는....
“우리를 사로잡는 예술작품은 예술가가 철저히 자기 스타일에 집중하여 다른 선택의 여지는 없었다는 환상을 불러일으키게 하는 작품이다.”
손택의 이 진술은 인공지능은 왜 예술을 할 수 없는가를 설명해 주기도 한다 인공지능은무수한 선택중에 하나가 통계적으로 옳다는 것을 숨기지 않기 때문이다
AI-인간 상호 인지 붕괴론
지금 우리는 인간과 기계 간 상호 지능 저하의 첫 번째 사례를 목격하고 있다.
이미 관련 지표 데이터에서 관찰 가능하고, 기업 성과, 시장 역학, 거버넌스 실패에서도 나타나고 있다. 그 영향은 포트폴리오 구성에서 국가 안보 체계에 이르기까지 광범위하다.
공동 인지 저하론은 동료 검토를 거친 관련 과학 논문들을 종합한 결론이기도 하다.
독립적으로 검증된 세 가지 연구 흐름이 수렴한 결론은 대부분의 제도적 행위자들이 인식하지 못하는 문명적 규모의 취약점을 보여준다: AI 시스템을 훈련시키는 동일한 정보 생태계가 동시에 인간 인지도 재구성하고 있으며, 양자 모두 측정 가능한 복합적 방식으로 퇴화하고 있다.
AI 모델의 퇴화
텍��스 A&M대, 텍사스대 오스틴 캠퍼스, 퍼듀대 연구진은 바이럴 콘텐츠로 훈련된 AI 시스템이 추론 능력의 23.6%를 상실한다는 사실을 입증했다. 장문 맥락 이해력은 38% 붕괴된다. 4.8배 더 많은 양질의 데이터로 재훈련한 후에도 17.3%의 결핍이 영구적으로 남는다.
AI 스크래핑 차단하는 웹사이트는 1년 만에 세 배로 증가했다
네이처지 논문은 다음 사실을 수학적으로 증명했다: AI가 생성한 콘텐츠로 훈련된 AI는 "회복 불가능한 결함"을 겪는다. 분포의 꼬리 부분이 사라진다. 미묘한 차이가 사라진다. 모든 것이 알고리즘이 보상하는 무엇이든 그 중간값으로 수렴한다.
인간 인지력 퇴화
MIT는 4개월간 ChatGPT를 사용한 54명의 인간을 추적했다. 시험 집단 중 뇌 연결성 가장 약했다. AI 도움 없이 글쓰기 요청받았을 때 78%는 몇 분 전에 자신이 작성한 에세이의 단 한 문단도 떠올리지 못했다.
두 시스템은 연결된다
플랫폼은 참여도를 ���적화한다. 참여도 최적화 콘텐츠는 AI 훈련 데이터를 저하시킨다. 저하된 AI는 저하된 콘텐츠를 생산한다. 이런 시스템을 소비하고 의존하는 인간은 인지 기능이 저하된다. 그런 인간이 생산한 콘텐츠가 다시 훈련 자료가 된다.
피드백 루프가 완성된 결과 두 지능은 함께 퇴화한다.
피드백 루프는 활성화된 상태다. 참여 최적화 콘텐츠는 훈련 데이터를 저하시킨다. 저하된 모델은 저하된 결과를 산출한다. 이러한 시스템을 소비하고 의존하는 인간은 저하를 인식하고 교정하는 능력을 감소시키는 인지적 영향을 경험한다. 이 순환은 지속된다.
지금의 결합 시스템은 기계든 인간이든 사고의 질 자체가 희소 자원이 되는 상전이(相轉移)에 접근하고 있다.
현대 문명의 정보 생태계가 스스로를 잠식하는 쪽으로 가고 있다.
진정한 인간 지능과 오염되지 않은 정보��� 대한 접근권을 확보한 조직과 개인이 다음 시대를 주도할 것이다.
나머지 사람들은 자신의 추론 능력이 어떻게 사라졌는지 의아해할 것이다.
출구는?
연구는 개입 지점도 제시한다. 진정한 인간 콘텐츠를 보존하는 데이터 ��적 전략을 통해 모델 붕괴를 방지할 수 있다. 인간 참여를 유지하는 사용 프로토콜을 통해 인지적 부채를 완화할 수 있다. 규제, 경쟁 또는 사용자 요구를 통해 플랫폼 인센티브를 재구성할 수 있다.
핵심은 기업, 정부, 투자자, 교육자 등 제도적 행위자들이 효과적 개입을 위해 이 역학을 제때 인식할 것인지, 아니면 저하를 가속화하는 지표의 최적화를 고수할 것인지 여부.
각 개인의 적절한 대응은 패닉이 아닌 전략적 적응이다. 이 역학을 이해하는 조직과 개인은 이를 성공적으로 헤쳐 나갈 것이다.
그렇지 못한 이들은 자신들이 의존하는 인지 도구들-인공적·인간적 도구 모두-이 이를 지탱하는 정보 환경과 함께 퇴화함에 따라, 진단조차 불가능한 방식으로 경쟁적 입지가 약화되는 처지가 될 것.
선택은 인공지능과 인간 지능 사이가 아니다. 양자를 지원하��� 정보 생태계냐, 서로 퇴화시키는 정보 생태계냐, 둘 사이의 선택이다.
연구는 현재의 궤적이 어디로 향하는지 명확히 보여준다. 남은 질문은 이에 대해 무엇�� 할 것인가이다.
/아래 글 발췌
나름, 일찍 일어나 아침밥 먹고 채비를 하고 도서관에 왔는데
아침부터 굉장히 많은 사람들이 자기 삶을 충실히 살고 있다.
아무것도 안 하면서 의욕을 잃었던 내 자신이 부끄러워진다.
이만큼 열심히 살아야지~라는 가스라이팅이 아닌
의��� 잃을 필요 없었네~ 정도의 자기 위안을 삼기.
주목받는 세계 문학
덴마크 작가 솔베이 발레 7부작 소설 『부피 계산에 관하여』 5권째 출간. 이미 화제. 2025 부커상 인터내셔널 최종 후보.
고서점 주인 타라 셀터가 어느 날 아침 눈을 뜨자 끝없이 같은 날인 11월 18일을 반복해 살아가게 된 이야기. 일기 형식 기록으로 ��성. 그녀가 어떻게 미래를 되찾을 수 있을지 묻는다. 셀터가 영원한 현재를 탐구하는 과정에서 세상의 유한함과 마주하고 일상의 질감을 재발견한다.
일기장에는 새로운 현실이 더 이상 과거와 조화를 이루지 못하는 방식들이 고스란히 드러난다: 사랑하는 이들과 시간의 균열을 사이에 두고 살아가게 되면서 환경과의 상호작용 방식부터 사랑과 가정생활의 본질에 이르기까지 모든 것을 재고해야 한다.
작품 매력은 현대 생활에 공통된 고립감을 정제해낸 능력. 집단적 경험의 잠재력이 일상생활의 사소한 부분에 있음을 시사.
저자 30년 이상 구상한 끝에 2020년 자사 출판사 펠라그래프 통해 제1권 자비 출판. 덴마크에서 열성적 독자층 형성 이어 스칸디나비아 전역에서 센세이션.
2022년엔 제1~3권이 노르딕 협의회 문학상 수상. 미국 출판사 뉴 디렉션스 2024년 첫 두 권 출간 이어 세 번째 권 곧 출간 예정. 4년에 걸쳐 7부작 전체 출간하기로 약속.
작가의 특징: 의식적으로 냉철한 문체, 날카로운 유머 감각, 그리고 지식 추구를 이끄는 오만함에 대한 회의주의. 동시에 인간이 측량할 수 없는 것을 측정할 척도를 내면에 지니고 있다는 감동적인 확신—아니면 적어도 그 시도가 얼마나 어리석거나 무익한지에도 불구하고 시도하려는 의지.
/아래 인터뷰 기사 발췌