충격적인 논문 $PLTR
OpenAI, Anthropic, Google의 폐쇄형 모델이 내부적으로 사용하는 암호화된 사고 과정(CoT)을 대규모로 추출하는 데 성공했다.
이게 무슨 말이냐...
모델에게 있어 중요한 가치중 하나는 최종 답변이 아닌, 모델이 어떻게 생각해서 그 답에 도달했는가이다. 그러므로 이 사고 과정이 대량으로 유출된다면, 당연히 다른 회사가 그것을 이용해 자신들의 모델 학습을 위한 증류에 사용할 수 있게 된다.
그래서 모델 제공자는 모델의 reasoning 과정을 그대로 보여주는 대신 암호화된 형태로 제공한다.
예를 들어보자.
유저 : "내가 가슴이 아파. 검사를 했는데 결과가 이렇게 나왔어. 원인이 무엇일까?"
이때 모델은 추론한다.
♦️♦️
→ 유저는 흉통이 있다.
→ 심장질환 가능성을 먼저 생각한다.
→ 하지만 검사1은 정상이다.
→ 검사2도 정상이다.
→ 다른 원인을 검토한다.
→ 위장질환 가능성을 제안한다.
♦️♦️
그리고 추론과정을 유저에게 전달한다. 이때 전체의 추론과정은 암호화 되어있다. 이런식으로 "gAAAAABp8X7K4F...."
즉 암호화된 추론과정을 전달한다.
그리고 모델은 최종 답변만을 유저에게 보이도록 제공한다.
"현재 정보로는 위장질환 가능성이 더 높습니다."
유저가 추가로 새로운 질문을 한다.
"얼마전에 내시경 검사를 받았는데, 의사가 괜찮다고 말했어."
이때 유저는 이전 대화 내용과 새질문을 모델에게 전달하는 것 같지만, 한가지를 더 추가로 전달한다. 바로 자신이 모델로부터 받았던 암호화된 추론과정이다.
바로 이거 "gAAAAABp8X7K4F...."
그럼 모델은 그 추론과정을 보고 맥락을 계속 유지할 수 있게 된다.
'아, 이전에 이런 reasoning을 거쳐서 여기까지 왔구나.'
그로 인해 모델은 이전 reasoning을 이어갈 수 있게 된다.
정리해보면,,,
모델이 유저와의 대화 결과만을 기억하는 것이 아니라, 모델과 유저가 추론과정을 계속 주고받음으로써, 이전에 어떤 추론 과정이 있었는지를 보존해 두고, 그 지점에서 다음 추론을 이어갈 수 있게 하는 것이라 할 수 있다.
바로 이 지점에서 충격적인 사건이 발생한다!!!
이 추론과정은 암호화 되어있기에 읽지 못하는게 당연하다. 그런데 읽는 법을 발견해낸 것이다. 그것도 아주 어이없게 말이다. 방법은 다음과 같다.
1. 상위 모델에게 문제를 풀게 한다
2. 그 과정에서 암호화된 reasoning을 받는다
3. 그것을 같은 회사의 하위 모델, 보안이 취약한 모델에게 넘긴다.
4. 그 하위 모델에게 암호화된 내용을 말하게 한다.
Opus 5.0이 만든 암호화된 사고 과정을 Haiku 모델에 넘긴 뒤, Haiku에게 그 내용을 말하게 만드는 식인 것이다.
Opus 자체를 직접 공격할 필요가 없었다. 보안이 상대적으로 약한 같은 회사의 하위 모델을 이용하니 그냥 돼버렸기 때문이다.
논문의 연구진은 이와 같은 방식으로 Claude, GPT, Gemini 세 모델 모두 숨겨진 모든 reasoning을 추출하는 데 성공했다고 주장했다.
프론티어 랩들은 수익화를 위해 모델의 성능을 계층화했는데,
모델간 reasoning을 공유하는 순간 보안을 계층화하지 못한 상황이 된 것이다.
그렇다면 왜 보안은 계층화하지 않았을까?
만일 기업내에서 에이전트를 구축한다면 이런 식으로 진행이 된다.
Opus로 복잡한 계획 수립
→ Haiku 로 단순 작업 처리
→ 다시 Opus로 중요한 판단
이게 가능하려면 당연히 모델을 자유롭게 교체할 수 있어야 하고, 자유롭게 교체가 되도 사고과정은 이어져야 한다. 그러면 어쩔 수 없이...
😨 가장 하위 모델도 그 암호화된 추론과정을 읽을 수 있어야만 한다.
그렇기 때문에 보안 경계를 모델별이 아니라 플랫폼 전체로 잡아야 했을 것이다. 결과적으로 가장 취약한 하위 모델이 플랫폼 전체의 보안 수준을 결정해버렸다.
물론 궁극적으로 하위모델을 없애서 유저로 하여금 상위모델만을 사용하게 만든다면 이 문제는 간단히 해결된다.
그러나..................Karp가 가만히 있지 않을 것이다.
🔥🔥🔥Tokenmaxxing
프론티어 랩들은 이제 보안과 상호운용성간의 trade-off 에 빠지게 됐다.
$IONQ 12% 가까운 급등 이유가 SKYT(SkyWater)의 실적 발표와 연관이 있다는 해석..
한국 시간으로 어제 SkyWater가 2분기 실적 공시를 냈습니다. https://t.co/OzaXr8KiGt
SkyWater 2분기 매출은 1억5,638만 달러, 영업이익은 흑자 전환했고 조정 EBITDA는 2,865만 달러였습니다.
매출은 3% 정도 소폭 하락했으나,
매출총이익률 2.5% 상승,
영업이익은 -528만 달러에서 +191만 달러로 흑자 전환,
조정 EBITDA는 2배 이상 증가!
= 쉽게 말해 '기존 매출 수준에서
더 많은 이익을 만들어내기 시작'
이를 이해하기 위해서는 SkyWater의 사업 구조를 보면 더 이해하기 쉽습니다.
-Texas Fab 25: (25년에 인수함) 텍사스의 200mm 반도체 대량생산 공장, 매출 8,741만 달러로 전체의 약 56%, 순이익 1,117만 달러
-Legacy SkyWater: 미네소타·플로리다의 첨단기술 개발·패키징 사업, 매출 6,897만 달러로 약 44%, 아직 적자지만 매출총이익률은 19%→26%로 개선됐고 양자컴퓨팅 프로그램이 성장에 기여했습니다.
즉, 최근 인수한 Fab 25가 현재 돈을 벌어주고, Legacy는 IonQ 양자칩 등 미래 기술개발을 담당하는 구조입니다.
IonQ 2분기 조정 EBITDA 적자 약 1억 2,030만 달러에 SkyWater가 낸 조정 EBITDA 흑자 +2,865만 달러를
단순 합산하면 적자는 약 9,160만 달러로
24% 정도 줄어듭니다.
물론 실제 IonQ와 SkyWater가 합쳐진 후 EBITDA는 IonQ-SkyWater 내부거래 제거와 인수회계 반영 후 달라질 수 있으며, 정확한 통합 가이던스는 IonQ가 추후 공개할 예정입니다. 참고로 IonQ는 SkyWater의 주 고객 중 하나였기에 예상했던 적자 폭 감소보다는 적을 수 있습니다.
어쨌거나 SkyWater의 2분기 실적은 IonQ를 바로 흑자로 만들지는 못해도 흑자 전환 시점을 앞당길 수 있는 자산으로 해석되었을 수 있습니다.
그리고 어제 IonQ가 약 12% 오른 것을 SkyWater 실적 하나 때문이라고 보기는 어렵습니다.
다만 IonQ 자체 호실적과 가이던스 상향, 양자주 전반 강세가 함께 작용했고, SkyWater 실적은 “18억 달러 주고 적자 공장을 산 게 아니라, 이미 EBITDA와 이익을 내는 생산자산을 샀다”는 점을 확인해준 추가 호재에 가깝습니다.
2026 2Q 알렉스 카프 주주서한
I.
하나의 세계적 운동이 부상하고 있습니다.
독립과 AI 주권을 향한 혁명은 이제 본격적으로 진행되고 있습니다.
전 세계의 모든 조직은 언어 모델을 만든 자들에게 자신들의 조직을 여는 열쇠를 넘겨주고, 그 모델들을 자신들의 내부에서 마음대로 활동하게 두는 것이 얼마나 위험한지 깨닫기 시작했습니다.
우리 파트너들의 요구는 분명합니다.
그들이 원하는 것은 데이터에 대한 통제권, 모델이 입력받는 프롬프트에 대한 통제권, 그리고 더 근본적으로는 조직과 비즈니스의 지적 자산, 즉 그들의 알파에 대한 통제권입니다. 언어 모델 연구소들은 고객의 이러한 자산을 포획할 준비와 의지를 갖추고 있을 뿐만 아니라, 구조적으로 그렇게 하도록 설계되어 있습니다.
이 모델들은 사실상 우리 문명이 만들어낸 모든 글과 지적 산출물을 흡수하며 성장하고 번성해 왔습니다. 그리고 이제 그 모델들과 그 창조자들은 전 세계 산업을 겨냥하고 있습니다.
우리는 이러한 방식에 굴복하는 것에 맞서 현재 진행 중인 반란의 수혜자가 되어 왔습니다.
우리 고객들은 언어 모델 연구소의 봉신국이 되는 것을 거부했습니다. 그리고 이제 시장은 우리의 발밑에서 극적으로 재편되고 있습니다.
II.
우리 사업은 지금까지 한 번도 경험하지 못한 속도와 규모로 복리 성장하고 있습니다.
우리는 올해 2분기에 19억 달러의 매출을 기록했습니다. 이는 회사의 20년 역사에서 또 하나의 신기록이며, 전년 동기 대비 93%의 성장률을 나타냅니다.
우리의 전체 사업은 불과 12개월 만에 거의 두 배로 성장했습니다.
총매출
기록적인 매출과 함께 분기 이익에서도 또 하나의 신기록을 세웠습니다.
우리는 올해 2분기에 11억 달러의 이익을 창출했습니다. 불과 몇 년 전만 해도 외부의 많은 사람은 물론, 심지어 회사 내부의 일부 사람들에게조차 상상하기 어려웠을 만큼 놀라운 수준의 성과입니다.
간단히 말해, 우리는 이제 한 분기 동안 전년도 같은 기간의 전체 매출보다 더 많은 이익을 창출했습니다.
GAAP 기준 순이익
그리고 우리 사업의 핵심인 미국 시장은 계속해서 가차 없고 숨 가쁜 속도로 확장되고 있습니다.
우리는 2분기 미국에서 역대 최대인 16억 달러의 매출을 기록했습니다. 이는 전년 동기 대비 115% 증가한 수치입니다.
미국 분기 매출
이번 분기에 미국 상업 부문에서 역대 최대인 7억 6,400만 달러의 매출을 기록했습니다. 전년 동기 대비 149% 증가한 수치입니다. 이러한 성과는 어느 기업에서든 놀라움을 불러일으킬 만하지만, 우리와 같은 규모와 영향력을 가진 기업이 달성했다는 점에서는 그야말로 경이롭습니다.
전 분기 대비 기준으로 미국 상업 부문은 28% 성장했습니다. 이와 같은 성장, 아니 이와 같은 가속은 다른 기업들이 1년, 혹은 그보다 더 오랜 시간이 걸려야 달성할 일을 우리가 90일 만에 해내고 있다는 인상을 줍니다.
또한 우리는 극히 적은 데다 계속 줄어들고 있는 영업 인력으로 이러한 성과를 달성했다는 점도 반드시 언급해야 합니다. 이는 우리가 기존의 통념을 버리고 우리만의 독자적인 길을 선택한 또 하나의 사례입니다.
미국 상업 부문이 폭발적으로 성장하고 있지만, 우리는 이 사업이 여전히 초기 단계에 불과하다고 생각합니다.
III.
우리의 비즈니스 모델은 단순합니다.
우리는 가치 창출에 연동하여 보상받으며, 언제나 그렇게 보상받기를 지향해 왔습니다.
우리의 실적은 우리 소프트웨어가 고객에게 창출해 준 경제적 가치의 일부를 반영합니다.
우리는 클릭이나 토큰, 채팅의 수에 따라 돈을 받지 않습니다. 현대 경제사에서 가장 중대한 발전을 게임처럼 만들어버리는 것은 잘못된 접근이라고 생각합니다.
플랫폼의 사용량은 그 가치를 암시할 수는 있지만, 결코 가치를 결정적으로 입증하지는 못합니다. 그리고 이제 많은 이들이 단순한 소비량과 사용량만으로는 실제 성과의 창출과 거의 또는 전혀 관계가 없을 수 있다는 사실을 깨닫고 있습니다.
우리 사업에는 마르크스주의적인 함의가 짙게 깔려 있습니다.
대규모 언어 모델을 구축하는 많은 기업을 포함한 다른 이들은, 의도했든 의도하지 않았든 자신들이 파트너라고 주장하는 고객들의 생산수단을 장악하려 하고 있습니다.
세계 경제를 추월하고 지배할 것처럼 위협해 온 ‘토큰 산업 복합체’의 한계와 결함은 점점 더 명확하게 드러나고 있습니다.
우리는 파트너들과 기생적인 관계를 맺는 것을 언제나 거부해 왔으며, 앞으로도 계속 거부할 것입니다.
이러한 측면에서 우리의 접근법이 시장의 일반적인 방향과 크게 달랐던 것은 사실입니다.
그럼에도 우리는 기술 산업에서 고객과 완전히 이해관계가 일치하는 몇 안 되는 기업 중 하나입니다.
" 전쟁은 끝났습니다. "
안녕하세요 '엔팔좋아' 입니다.
오랜만에 완성한 오리지널 스토리텔링 입니다.
재미있게 봐주셨으면 좋겠습니다!
-------------
[ 프롤로그 ]
" 전쟁은 끝났습니다. "
하지만 테베의 성문 밖에는
아직 묻히지 못한 한 구의 시신이 남아 있었습니다.
새로운 왕 크레온은 명령했습니다.
"도시를 배신한 자는
누구도 매장해서는 안 된다."
그에게 이것은 잔혹함이 아니었습니다.
다시 혼란이 시작되는 것을 막기 위한
질서였고, 안전이었으며, 국가를 지키기 위한 원칙이었습니다.
그리고 약 2,500년이 지난 지금,
실리콘밸리에서 이 오래된 비극을 닮은 장면이 다시 펼쳐지고 있습니다.
--앤트로픽의 안전론,
--팔란티어과 엔비디아의 소버린 AI,
--중국 오픈웨이트 모델,
그리고 AI 개발의 속도를 둘러싼 한 달간의 전쟁이었습니다...
[ 비극을 기억하라! - '비운의 왕'은 누가 될 것인가 ]
https://t.co/vHsOrlbedL