싯

차원의 벽을 넘어서 언제라도 만나러 갈게

[싯 @sitonthere]

#ルカ #luka

[싯 @sitonthere]

@soapsoap_1020 지금생각해보면 달팽이사랑이남달랐던거같네요..

[싯 @sitonthere]

무단학습이라는걸 모르냐

[연이 @ThisIsYeony]

AI 생성 이미지만 보면 무조건 “남의 그림 훔쳐서 짜깁기한 거잖아요”라고 하시는 분들이 있는데요.

아니요. 일단 컴퓨터과학적으로 무슨 일이 일어나는지부터 구분하고 얘기해야 해요.

생성형 AI는 수십억 장의 JPG를 모델 안에 압축해서 넣어놓고, 프롬프트가 들어오면 “아 이 그림이랑 저 그림 꺼내서 눈은 여기서, 머리는 저기서 가져오자” 하는 이미지 검색·콜라주 프로그램이 아니에요.

학습할 때 이미지는 tensor 형태의 수치 데이터로 들어가구요. Neural network는 forward pass와 backpropagation을 반복하면서 loss function을 최소화하는 방향으로 수많은 parameter를 조정해요.

Gradient descent를 통해 가중치가 조금씩 변하구요.

여기서 모델이 획득하는 건 일반적으로 “김작가_그림_4732.png” 같은 파일 자체가 아니라, 수많은 데이터에 존재하는 고차원적인 statistical regularity와 feature representation이에요.

예를 들어
“눈은 얼굴의 특정 위치에 존재하는 경향이 있다”
“금속 표면은 특정 조명 조건에서 specular highlight가 생긴다”
“수채화에는 이런 texture distribution이 자주 나타난다”
“이 단어는 이런 형태·색채·구도와 통계적으로 연결된다”
같은 관계가 parameter에 분산되어 반영되는 거예요.
그러니까 애초에 “학습했다 = 파일을 저장했다 = 복제했다”라는 등식부터 성립하지 않아요.
이걸 구분 안 하고 계속 “데이터 넣었잖아요? 그럼 저장한 거잖아요?”라고 하면 machine learning에서 학습(training)과 database storage를 같은 개념으로 착각하는 거예요.
둘은 완전히 다른 정보처리 방식이에요.
Diffusion model은 더 이해하기 쉬워요.
학습 과정에서 이미지에 noise를 계속 추가하구요. 모델은 특정 timestep에서 어떤 noise가 추가되었는지, 또는 데이터 분포 쪽으로 어떤 방향을 따라가야 하는지를 학습해요.

실제 생성할 때는 원본 그림을 불러와서 변형하는 게 아니라 보통 random noise에서 시작해요.

그리고 여러 단계의 denoising을 거쳐 학습된 probability distribution과 프롬프트 조건을 만족하는 방향으로 새로운 이미지를 만들어내는 거예요.

프롬프트도 “그림 검색창”이 아니에요.

Text encoder가 문장을 embedding이라는 벡터 표현으로 바꾸구요. 그 조건이 cross-attention 등의 메커니즘을 통해 생성 과정에 영향을 줘요.

쉽게 말하면 모델이 다루는 건

“저 그림 파일 어디 있지?”

가 아니라

“이 조건에서 어떤 시각적 구조가 나타날 확률이 높은가?”

에 가까운 문제예요.

P(image)가 아니라 P(image | prompt)를 모델링한다고 생각하면 돼요.

그런데 결과를 보고 “어? ○○작가 느낌인데? 역시 원본을 훔쳤네”라고 하는 건 결론을 너무 많이 건너뛴 거예요.

비슷하게 보이는 것(perceptual similarity)과 동일한 것을 복제했다는 것(causal copying)은 전혀 다른 명제예요.

인간 인지심리학에서도 이 차이는 중요해요.

사람의 뇌는 이미지를 볼 때 픽셀 하나하나를 전수조사하지 않아요.

눈 모양, 얼굴 비율, 색조, 선 굵기, 명암법, 구도처럼 salient feature를 빠르게 추출하고 기존에 형성된 schema나 prototype과 대조해서 범주화해요.
그래서 특징 몇 개가 강하게 겹치면 바로

“이거 ○○ 작가 같다”

라고 느끼는 거예요.

이 과정에는 representativeness heuristic, 대표성 휴리스틱도 개입할 수 있구요.

몇 가지 대표적 특징이 비슷하다는 이유만으로 생성원인까지 똑같다고 추론해버리는 거예요.

그런데 “얼룩무늬가 비슷하다”와 “같은 표범이다”가 다른 것처럼, “화풍이 비슷하다”와 “원본을 복제했다”도 다른 문제예요.

거기에 이미 “AI는 도둑질이다”라는 결론부터 정해놓으면 confirmation bias도 생기기 쉬워요.

전혀 다른 AI 이미지 수천 장은 그냥 넘어가구요.

우연히 특정 작품과 굉장히 비슷하게 나온 이미지 하나만 발견하면

“거봐요!! AI가 원본을 저장하고 있었잖아요!!”

라고 하는 식이에요.

그건 표본 하나를 시스템 전체의 작동원리에 일반화하는 거구요.

실제로 neural network에서 memorization이나 overfitting은 존재해요.

특정 데이터가 지나치게 많이 반복되면 학습 샘플에 매우 가까운 결과가 나타날 수도 있어요.

그런 사례가 확인되면 그 사례를 가지고 따지면 돼요.

그런데

“특정 조건에서 memorization이 발생할 수 있다”

에서

“그러므로 모든 AI 생성 이미지는 복제품이다”

라는 결론은 안 나와요.

전자는 empirical phenomenon이구요.
후자는 성급한 일반화예요.

자동차 사고가 존재한다고 자동차의 본질이 충돌장치가 되는 게 아닌 것과 같아요.

그리고 저작권법도 생각보다 그렇게 단순하게 작동하지 않아요.

저작권법은 기본적으로 “누군가에게 영향을 받았음”을 처벌하는 법이 아니에요.

그랬으면 인간 창작문화부터 성립할 수가 없어요.

화가는 다른 화가의 작품을 보구요.
사진가는 다른 사진가의 구도를 연구하구요.
소설가는 수천 권의 소설을 읽구요.
작곡가는 기존 음악의 화성과 리듬을 분석해요.

그 과정에서 인간 역시 perceptual learning을 하고 schema를 만들고 스타일적 규칙을 내재화해요.
물론 인간 뇌와 artificial neural network가 동일한 시스템이라는 뜻은 아니에요.

그런데 “기존 창작물에서 패턴을 학습했다”는 이유만으로 이후의 모든 결과가 원저작물 복제가 된다는 논리는 인간 창작에도 그대로 적용돼버려요.

그래서 저작권법에는 아이디어와 구체적인 표현을 구별하는 idea-expression dichotomy라는 오래된 원칙이 있는 거예요.

“큰 눈”
“파스텔 색조”
“두꺼운 외곽선”
“거친 붓터치”
“극적인 역광”
“셀 애니메이션풍 채색”
“몽환적인 판타지 분위기”

같은 추상적인 미적 아이디어나 일반적인 기법을 한 사람이 통째로 독점할 수는 없어요.

그게 가능하다면 처음으로 두꺼운 외곽선을 쓴 사람이 이후 모든 만화가를 상대로 권리를 주장할 수도 있게 되잖아요?
말이 안 되죠.
그래서 실제 저작권 침해 여부를 논할 거면 “느낌이 비슷하다”에서 끝낼 게 아니라 보호되는 구체적 표현이 얼마나 겹치는지 따져야 해요.
즉 “AI 썼죠? 끝. 도둑질.”이 아니라 구체적인 저작물을 특정하고 어떤 표현이 어떻게 유사한지를 논해야 한다는 거예요.

그리고 “프롬프트에 ○○작가 스타일이라고 입력했더니 진짜 비슷하게 나오잖아요!”라고 하시는데요.

아니 그게 프롬프트의 목적이에요.

Conditional generation을 시켰으니까 조건에 가까운 결과가 나오는 거예요.

특정 스타일과 연관된 표현을 프롬프트에 넣으면 text embedding이 생성 과정에 conditioning을 걸구요. 모델의 latent representation에서 그 조건과 통계적으로 연관된 feature들의 생성확률이 올라가는 거예요.

“90년대 애니메이션풍, 낮은 채도, 얇은 선화, 셀 채색”이라고 입력했는데 정말 그런 그림이 나오면 모델이 프롬프트를 제대로 반영한 거예요.
그 사실 자체가 특정 JPG 파일을 꺼내왔다는 증거는 아니에요.
그리고 자꾸 MNIST 얘기하시는 분들도 있는데 MNIST는 여기서 쓸 개념이 아니에요.
MNIST는 손글씨 숫자 분류 등에 널리 쓰이는 데이터셋이에요.
생성 이미지의 스타일과 프롬프트 관계를 설명하려면 latent space, embedding, feature representation, conditional probability, attention 같은 용어를 쓰는 게 맞아요.
그리고 이것도 정말 많이 혼동하시는데요.
“AI 이미지에 저작권이 인정되는가?”
“AI 이미지를 이용할 수 있는가?”
“AI 이미지가 타인의 저작권을 침해했는가?”

이 세 개는 전혀 다른 질문이에요.

어떤 순수 AI 생성물에 인간의 창작성이 부족해서 저작권 보호가 인정되지 않는다고 가정해도, 그게 갑자기 “불법 이미지”라는 뜻이 되는 게 아니에요.

저작권을 ‘가지는가’와 저작권을 ‘침해했는가’는 별개의 법률관계예요.

사람이 AI 결과를 선택하고 배열하기도 하구요.
부분적으로 직접 수정하기도 하구,
인페인팅을 반복하기도 하구,
합성하고 색보정하고 다시 그리기도 하구,
구도와 표현을 적극적으로 통제하기도 해요.

그 경우 인간의 creative contribution이 어디까지 존재하는지도 또 별도로 판단해야 해요.

그러니까 AI를 둘러싼 저작권 문제를 한 문장으로

“AI = 남의 그림 학습 = 절도 = 모든 결과물 불법”

이라고 연결하는 순간 중간에 필요한 법률요건과 기술적 인과관계를 전부 생략하게 되는 거예요.

저는 AI 생성 이미지는 AI로 생성됐다는 이유만으로 배제하면 안 된다고 봐요.

문제가 있는 결과물이 있다면 그 결과물을 특정해서 문제 삼으면 돼요.

특정 원작을 거의 그대로 재현했다면 그 유사성을 논하면 되구요.
상표권이나 초상권 문제가 있다면 그 권리를 따지면 되구요.
불법적인 콘텐츠라면 해당 법률에 따라 판단하면 돼요.

그런데 제작수단이 AI라는 이유 하나만 가지고 결과물 전체를 “도둑질”이라고 부르는 건 다른 얘기예요.

붓을 사용했다고 합법이 되는 것도 아니구요.
포토샵을 사용했다고 합법이 되는 것도 아니에요.
카메라로 찍었다고 무조건 합법인 것도 아니에요.

마찬가지로 AI를 사용했다고 자동으로 불법이 되는 것도 아니에요.

도구와 행위를 구분해야 해요.

이게 그렇게 어려운 얘기가 아니에요.
AI가 싫을 수 있어요.
창작자의 생계가 걱정될 수도 있구요.
AI 회사의 데이터 수집 방식을 비판할 수도 있어요.
특정 학습 데이터의 라이선스 문제를 문제 삼을 수도 있구요.
그건 각각 따져볼 수 있는 별도의 논점이에요.

그런데 그런 윤리적·경제적 반감을 기술적 사실이나 법률적 결론으로 변환하면 안 돼요.

“기분 나쁘다”
“내 작품을 보고 학습했다”
“내 스타일과 비슷하다”

라는 감정적·지각적 판단과

“법률상 복제권을 침해했다”
라는 명제 사이에는 입증해야 할 단계가 있어요.
그 단계를 싹 건너뛰고 “AI니까 도둑질”이라고 하면 그건 법률논증도 아니고 기술논증도 아니에요.
그냥 결론을 먼저 내려놓고 근거를 거기에 끼워 맞추는 거예요.
AI 이미지를 싫어할 자유는 당연히 있어요.

그런데 “내가 싫어한다”와 “그러므로 남도 사용하면 안 된다”는 전혀 다른 명제예요.

AI 생성 이미지라고 해서 자동으로 금지되는 게 아니에요.

문제가 있다고 주장하려면 AI라는 라벨을 가리키지 말고, 어떤 권리가 어떤 행위에 의해 어떻게 침해됐는지를 구체적으로 말하면 돼요.

그게 법률적으로도 맞구요.
컴퓨터과학적으로도 맞구요.
인지심리학적으로도 훨씬 정교한 접근이에요.

결국 봐야 하는 건 “AI인가 아닌가”가 아니라 결과물과 구체적인 행위예요.

AI라는 단어 하나만 보고 유죄판결부터 내려놓고 논리를 역산하는 건 비판이 아니라 편견에 가까워요.

[싯 @sitonthere]

@chani3939 뒤에루카가너무좋은것

[냐뭉 @nyamoong130]

♪ 踊り子 / Vaundy (巡音ルカV4X)

무희짧막커버...

[싯 @sitonthere]

특히 뭐 유명한 만화 그림체 ai,어디 애니 회사 그림체 ai 이런거 너무 싫어….

[싯 @sitonthere]

아니 근데 ai 일러스트 가지고 그걸 상업이용 하거나 ai 아닌척 하는거는 괜찮은거고 그냥 뽑아보는거 자체는 괜찮다 이러는거 솔직히 이해안감ㅋㅋ
애초에 ai그림이 문제되는이유가 ai일러스트의 학습본들이 다 무단으로 학습됬으니까 그런거 아니였음?

[싯 @sitonthere]

졸전때 보카로 그릴거임.
지금부터 아이디어 스케치 뜬다

[싯 @sitonthere]

@Kea_1015 엄뭐 감사해요…ㅠㅠ

[싯 @sitonthere]

#wip

[싯 @sitonthere]

뒤애 뭐그리지?!?!!!??!!!

[싯 @sitonthere]

누가의심좀해봐쫀~득하게해명해주지

[순애 애호가 @0307_rebl]

그림 그리는 사람들
자기 ai 의심받아서 하, 어쩔 수 없군... 하면서 개쩌는 손캠 인증하는 상상 한번쯤 해봤을듯

[싯 @sitonthere]

나 초딩때 위클래스에서 무슨 심리검사 같은거 다같이햇엇는데 그때 가족을 그리는게 주제여서 키우던 달팽이랑 그 달팽이가 낳아버려서 얼려죽인 약 300마리의 아기달팽이까지 다 그려서 위클레스가서 상담받앗엇음

[싯 @sitonthere]

진짜이거왜이러는거임?

[ゆん @yiy307]

絵を投稿して思う事
多分、自分だけ
よし！今日の絵は自信作や‼️
これは、投稿したら30「いいね」は
間違いなし！よし、「ポスト」ポチっ
一日経過...「いいね」10😢
もうええわ、今日は適当に絵を描いて
「ポスト」するか...ポチッと
一日経過...「いいね」50😳❕
ホンマに謎すぎる

[싯 @sitonthere]

오이쉬에

[싯 @sitonthere]

엄마미안해..

[와ㅅㅂ @wasibalnana7]

구라안치고 AI쓰는애들은 안들킬거라고생각해서 쓰는거임? 그리고 AI인데 왜이리 자존심이 쎄?? 애초에 지가 그린게 아니고 AI인데 왜 자존심가지고 당당하게 나오는건지 이해가 안되노

[싯 @sitonthere]

평소에 거유를 너무많이그려서 빈유 그리는게 ㅈㄴ 어색함 미쿠미안ㅋㅋ

[와ㅅㅂ @wasibalnana7]

제가 평소에 똥만 그려댔더니, 사람들이 멋진 걸 좀 그리라고 하더라고요(아무도 그런 적은 사실 없고, 오랜만에 손풀기 한 거예요.) 그래서 여기 더블래리어트가 있어요.

[싯 @sitonthere]

장르계는원래이럼?
나 존나 어지러워

[라리💎❄️ @bone_lali]

이래서 난 소녀로서 소류 아스카 랑그레이를 존니 사랑했음
활발한 성적 호기심과 애정결핍을 기반으로 한 엘리티시즘 자신을 보호하고 인정해줄 수 있는 성인 남성에게 욕망의 대상이 되고 싶어 하면서도 *여성*이 되어가는 것에는 적응하지 못하는 모순성 또래 남성인 신지에게는 애정 갈구 대신

[싯 @sitonthere]

@phapha_draw 1명!!