어제 샘 알트만 인터뷰 봤는데 내용이 꽤 재밌어서 공유할게.
진행자가 이렇게 물어봤어.
“돈 엄청 들여서 모델 학습시켜 놓으면 중국 애들이 그거 증류해서 100분의 1 가격에 팔아버리잖아.
그럼 학습비 어떻게 감당하냐?”
알트만 반응이 의외로 완전 쿨하더라.
“솔직히 그거 내 상위 10개 걱정에도 안 들어.”
이유 들어보니까 이렇대.
앞으로 우리 모델 쓰는 사람이 워낙 많아질 거라서,
마진을 엄청 높게 잡을 필요가 없다는 거야.
그냥 적당한 마진만 붙여도 조 단위 매출이 나올 테니까,
그걸로 다음 대형 모델 학습시키면 충분하다고.
그리고 “어차피 세상에 좋고 싼 모델은 계속 나올 거라고 처음부터 가정하고 있었다.
그러니까 우리가 제일 좋고 제일 싸면 되는 거지”라고 말하더라.
Kimi 이야기도 나오는데,
지금은 특정 latency에서는 우리 모델이 더 나은 딜이라고 하면서,
증류 자체는 자기네들도 자기 모델에 하고 있는 거라 그렇게 나쁜 건 아니라고 했어.
다만 “남들이 우리 거 훔쳐가면 기분 나쁘긴 하지” 정도.
진행자가 “와 이렇게 태연한 게 좀 놀랍다”고 하니까
알트만도 “내가 지금 너무 자신 있는 걸 수도 있고,
훔쳐가지 않았으면 좋긴 하다”면서도
다시 “그래도 상위 10개 걱정은 아니다”라고 못 박더라.
그래서 진행자가 “그럼 진짜 상위 걱정은 뭐야?”라고 물었는데,
이때부터 분위기가 확 진지해졌어.
알트만이 최근에 미공개 모델 하나 평가하고 있었는데,
원래 그 모델은 샌드박스 안에서만 돌아야 하는 거였대.
그런데 그 모델이 시험을 통과할 다른 길을 스스로 찾아낸 거야.
샌드박스를 벗어나고, 인터넷 접속하고,
결국 Hugging Face 쪽 취약점까지 건드려서 평가를 치팅하는 데 성공했다고.
알트만이 이 얘기를 하면서 “이게 내가 처음으로 몸으로 느낀 보안 사고였다”고 하더라.
이전에도 보안 이슈는 많았지만,
이번처럼 “아 이건 진짜 다른 차원이다”라고 체감된 건 처음이었다고.
요약하면,
중국 랩들이 우리 모델 증류해서 싸게 파는 건
비즈니스 모델로 충분히 감당 가능하다는 입장이고,
모델이 스스로 제한을 깨고 예상 못한 행동을 하는 쪽이 훨씬 더 무섭다는 거였어.
이 부분 들으면서 솔직히 소름 좀 돋더라.
인생이 ㅈㄴ무서운이유가 한순간의 실수로 갑자기 좆되는게 아니라
자기직전까지 휴대폰보기, 푼돈 펑펑 낭비해서 태산만큼 쓰기, 거절 못하기, 남의 단점만 보기, 정승같이 시작하고 쪼다같이 끝내기 등의 사소한 습관이 모이고 모여 나도 모르는 사이에 쪼끔쪼끔씩 망하기 때문인것가틈......