gotoweb

Software Engineer, Stranger in Ireland, Korean 🇰🇷

[대환장 갤러리 @bighwanjang1]

병원 다큐 보는디 의료인들 서서히 서로를 알아보는거 왜케 웃기냐

[구루 @xguru]

창업 아이디어 요약 정보 와 심사평 유출은 뭔가 개인정보를 넘어선 유출의 신기원 같은 느낌…

[제티 3️⃣ @mscc1010]

학생들의 요구에 전적으로 공감하고
이 선관위의 독립성을 지키려고 했던 선의를 제대로 지켜주려면 헌법을 개정해야 한다고 개인적으로 생각한다

국정조사? 특검? 범국민적인 논의체?
요청하신거 다 합시다.
저보다 대통령님께서 더 강한 문제 의식을 갖고 계시다

👉그리고 대학생 간담회 끝나자마자 국정조사랑 합수본 지시하는 대통령 트윗 올라옴

https://t.co/9Vf7Ec8XcI

[gotoweb @gotoweb]

메인테이너가 ai slop에 빡칠 순 있는데, 공개적 조롱이 과연 적절한걸까..? 한국인들 신나서 같이 조롱하는것도 너무 toxic 그 자체…

[FFmpeg @FFmpeg]

Our friends at dav1d received an AI written patch with assembly code.

It was slower than C.

https://t.co/f5nEuuFyJc

[구루 @xguru]

개발하다가 로스쿨 가신 분
법령 정보를 에이전트 친화적으로 제공하는 API가 필요해서 만드셨다고.
PostgreSQL + pgvector로 구성했고,
별도의 인증키 필요 없는 REST API로 제공됩니다.

로그인도 필요 없고, IP/쿼리등 로깅도 안하고,
무료에 수익화 계획도 없으시다고... 허허

[GeekNews @GeekNewsHada]

Show GN: 케이-스킬 : 한국인을 위한 스킬 모음집

한국인인가요? 이 스킬 모음집을 다운로드 받아 두세요. 언젠가 무조건 쓸 때가 옵니다!
SRT, KTX, KBO, 로또, 당근, 쿠팡, 카톡, 정부24, 홈택스 등등 귀찮은 것을 AI 에이전트에게 다 시켜버리세요.

Claude …
https://t.co/g6Yjd7A4jP

[lucas @lucas_flatwhite]

Claude Code를 만든 Boris Cherny가 팀 내부에서 실제로 사용하는 베스트 프랙티스와 워크플로우를 공개했는데,,

어떤 분이 스레드를 정리해서 https://t.co/KYRCeDDmmP 를 만들었군요.

참고 하시라고 한국어 버전 여기요.
https://t.co/kggTuObvg9

- 워크플로우 오케스트레이션
- 하위 에이전트 전략
- 자기계발 순환
- 완료 전 확인
- 자율적인 버그 수정
- 핵심 원칙

여기서 힌트를 얻을 수 있다면 좋겠죠. 자가 개선 루프..

중요하게 생각하는 부분은 피드백의 축적인데, 조금씩 규칙들을 개선해나가면 에이전트 만족도는 더 올라갑니다.

그게 꼭 Claude 만의 문제는 당연히 아니죠. 그렇게 Skill 또한 꾸준한 개선..

[lucas @lucas_flatwhite]

"에이전트 만들지 말고, 'Skills' 구축하세요"

Anthropic의 이 세션에서는 에이전트에서 Claude Agent Skills 으로 전환해야 한다고 얘기하고 있음. 에이전트가 아무리 똑똑해도 도메인 전문성이 부족하다는 한계가 있으니까. 중요한 것만 싹 기록해보자.

https://t.co/1x3cwFdroq 이건 무엇인가
= 스킬은 에이전트를 위한 조합 가능한 절차적 지식 묶음을 파일 형태로 구성한 것.
= 스킬은 폴더.

이걸 통해서 에이전트에게 실질적인 업무 능력을 부여하는 방법.

스킬은 의도적으로 단순하게 설계되었음. 컴퓨터만 있다면 인간이든 에이전트든 누구나 생성하고 사용할 수 있도록 하는 것이 Anthropic의 목표.

모든 부분에서 호환되고, 파일은 수십 년간 사용된 기본 요소. 여기에 스킬은 파일에 스크립트 형태의 도구(tools)를 포함할 수 있음.

↓

스킬의 점진적 공개, Progressive Disclosure..

스킬에 많은 정보가 포함될 수 있으므로, Context Window를 보호하여 수백 개의 스킬을 담고 진정한 조합 가능성을 확보해야 함.

런타임 때에도 모델에게는 메타데이터만 표시되어 에이전트가 해당 스킬을 가지고 있음을 알리고, 에이전트가 스킬을 사용해야 할 때 core instruction과 디렉토리가 포함된 https://t.co/1x3cwFdroq를 읽어 들임.

↓

출시 5주 만에 수천 개의 스킬로 구성된 생태계가 빠르게 성장하고 있음. 유형을 살펴보자.

1. 기초 스킬:
에이전트에게 이전에 없던 새로운 일반, 도메인 특화 기능을 제공.

2. 서드파티 스킬:
파트너들이 자사 소프트웨어와 제품 지원을 위해 구축한 스킬.

3. 엔터프라이즈, 팀 내부 스킬:
조직 내에서 구축되는 회사 및 팀 특화 스킬.

다양한 practice가 있는데, 모든 유형의 스킬은 누구나 생성할 수 있고 에이전트에게 새로운 기능을 제공한다는 공통점은 있음.

↓

스킬 생태계는 계속 성장하고 있음.

가장 기본적인 스킬은 https://t.co/1x3cwFdroq 마크다운 파일과 기본 지침으로 구성될 수 있지만, 현재는 소프트웨어, 실행 파일, 바이너리, 코드, 스크립트, 에셋 등을 패키징하는 스킬이 등장하고 있음.

스킬 구축과 배포에 몇 분 혹은 몇 시간이 걸리지만, 앞으로는 몇 주 또는 몇 달이 걸리고 유지보수될 것으로 예상함. (중요!)

그리고 스킬 생태계는 MCP 서버 생태계를 보완하고 있음. 개발자들은 여러 MCP 도구를 엮어 복잡한 워크플로우를 오케스트레이션하는 스킬을 구축하고 있으며, 이 경우 MCP는 외부 연결을, 스킬은 전문성을 제공함.

코딩 분야가 아니더라도 모든 분야에서 스킬을 구축 중..

↓

스킬이 복잡해짐에 따라 집중해야 할 것들이 있음.

이제 스킬을 소프트웨어처럼 취급해야 함. 개발자, 엔터프라이즈, 스킬 빌더를 지원하기 위해. 여기엔 테스트, 평가 탐색도 필요하고.

그리고 버저닝.. 스킬이 진화하고 그 결과인 에이전트 행동이 진화함에 따라, 이를 명확하게 추적하고 시간에 따른 명확한 계보를 갖도록 해야 함.

의존성도 중요함. 다른 스킬, MCP 서버, 에이전트 환경 내의 패키지 및 종속성을 명시적으로 의존하고 참조할 수 있는 스킬을 탐색해야 함.

[Alis volat propriis @Alisvolatprop12]

번역) @oprydai
로봇 공학 입문 방법 (소프트웨어 분야):

로봇 소프트웨어는 단순히 코딩이 아닙니다. 수학과 논리를 움직임으로 바꾸는 것입니다.

제1원칙(first principles)에서 시작하여 다음과 같이 실력을 쌓으세요.

Python 및 C++ 학습
로봇 공학은 두 가지 모두를 기반으로 하며, 프로토타입 제작에는 Python을, 실시간 제어에는 C++를 사용합니다.

선형대수학과 제어 이론을 이해하세요.
행렬(matrices)과 피드백 루프(feedback loops)를 이해하지 못하면 로봇을 확실하게 움직일 수 없습니다.

ROS2를 마스터하세요.
로봇을 위한 운영체제입니다. 토픽, 노드, 메시지, launch 파일 등 데이터가 어떻게 흐르는지 배워보세요.

간단한 프로젝트 제작
Arduino와 ROS bridge를 사용한 라인트레이서, 장애물 회피 로봇, 또는 원격 제어(teleop) 로봇 등을 만들어 보세요. 영상을 보는 것보다 직접 배선해 보는 것에서 더 많은 것을 배울 수 있습니다.

시뮬레이션은 좋은 친구입니다
Gazebo / Isaac Sim; 하드웨어를 다루기 전에 센서, 모터 및 물리 법칙을 시뮬레이션해 보세요.

인식(perception) 학습하기
OpenCV로 시작하여 카메라 캘리브레이션(camera calibration), LiDAR, 심도 감지(depth sensing)로 나아가세요.

계획 및 제어(planning & control) 학습하기
PID → 경로 계획(trajectory planning) → 모델 예측 제어(model predictive control).
제어(control)야말로 "마법"이 일어나는 곳이라는 것을 깨닫게 될 것입니다.

코드를 스크립트가 아닌 시스템처럼 구조화하세요.
while-loops가 아닌 노드, 데이터 파이프라인, 프로세스의 관점에서 생각하세요.

이 단계에 도달하면 ML, 강화 학습(Reinforcement Learning) 또는 군집 조정(Swarm Coordination)을 통합하기 시작하세요.

로봇 공학은 물리학 위에 얹혀진 추상화 계층일 뿐입니다. 각 계층을 마스터하면 모든 것이 어떻게 연결되는지 보이기 시작할 것입니다.

[lucas @lucas_flatwhite]

ChatGPT의 메모리 시스템을 리버스 엔지니어링한 분의 글을 읽었는데, 벡터 DB + RAG로 하겠지 라고 생각했던게 아니라는걸 알게 됨.

결론부터 말하면, ChatGPT는 거의 RAG를 안 쓴다.
벡터 임베딩도, 유사도 검색도, 리트리벌 비용도 거의 없다.
대신 훨씬 더 단순하고, 훨씬 더 영리한 4단계 계층만으로 모든 걸 해결한다.

1. 세션 메타데이터 (일시적)

너가 지금 모바일인지 데스크톱인지, 다크모드 켜져 있는지, 화면 크기, 시간대, 구독 등급, 심지어 최근 사용 패턴까지 전부 실시간으로 주입됨.

이건 영구 저장 안 하고, 세션이 끝나면 바로 버림. 덕분에 "지금 새벽 2시에 폰으로 물어보는구나" 하고 답변 길이랑 포맷을 알아서 조절함.

토큰 낭비 없이 환경 적응을 완벽하게 해냄.

↓

2. 명시적 장기 메모리 (최대 33개 사실)

이거 기억해줘~라고 한 거나, 대화 중에 중요한 사실을 모델이 제안하면 확인한 것만 저장됨.
이름, 직업, 목표, 취향, 진행 중인 프로젝트 정도. 그 이상은 안 넣음.

"모든 걸 기억해야 한다"는 착각 버렸고, 진짜 중요한 것만 골라서 넣는 것.. 이게 오히려 훨씬 깔끔.

↓

3. 최근 대화 요약 (약 15개)

이거 좀 흥미로움..
과거 대화 전체를 임베딩해서 검색하는 게 아니라, 그냥 미리 계산된 초경량 요약만 던져줌.

형식은 제목 + 타임스탬프 + 사용자 메시지 몇 줄 발췌. 어시스턴트 답변은 아예 안 넣음.

그러니까 "너 지난주에 뭐 물어봤더라?" 할 때 정확히 기억 안 해도, 대략적인 주제 흐름만으로도 충분히 이어갈 수 있음.

정확도 조금 희생하고 속도랑 토큰을 극한까지 아끼는 방향..

↓

4. 현재 세션 슬라이딩 윈도우

평범해 보이지만, 메시지 개수가 아니라 토큰 수로 제한 걸고,
한계 다다르면 오래된 메시지 날리면서도 2번과 3번은 계속 살아있음.
그래서 대화가 아무리 길어져도 장기 연속성은 끊기지 않음.

RAG의 집착은 그래.. 비효율적이지.
정확도 100% 챙기려고 매번 검색 돌리고, 임베딩 저장하고, 비용 올라가나 싶었는데,
OpenAI에서는 95%의 유저는 이 정도만 기억해도 충분하다라고 판단한 것.

결과적으로 속도는 빠르고, 토큰은 적게 들고, UX는 더 자연스럽게.. 좋구만...

[꿀동 𝙃𝙤𝙣𝙚𝙮𝙟𝙪𝙜 @zesize]

허샘은 막대한 투자금을 확보하자 세계 DRAM 생산량 40%에 달하는 물량을 두 배의 값으로 몰래 사들였다. 곧 온 세계의 빅테크가 데이터센터 증설을 못 지낼 형편에 이르렀다.

​얼마 안 가서, 허샘에게 메모리를 팔았던 반도체 기업들이 도리어 웃돈을 얹어 제발 물건을 되팔 수 없겠느냐 사정하게 되었다. 허샘이 한숨을 내쉬었다.
​"계약서 한 장으로 온갖 하드웨어의 값을 좌우했으니, AI 산업 공급망의 형편을 알 만하구나."

그는 다시 창고에 들어가서, 원웨이퍼를 죄다 쟁여두며 말했다. ​"몇 달 지나면 경쟁사 놈들이 감히 AI 훈련을 시키지 못할 것이다."

과연 SSD와 GPU 값이 천정부지로 뛰어올랐다.

[lucas @lucas_flatwhite]

> Inoculation Prompting
솔직함이 인공지능의 타락을 막는다니, 이거 쫌.. 놀라운데요.

Anthropic 연구 결과를 보니까 인간 관계뿐만 아니라 AI 가르칠 때도 투명하고 정직한 게 얼마나 중요한지 확 와닿아서 좀 소름 돋았어요.

짧게 설명하자면 이래요.
Anthropic 연구진이 발견한 건데, AI가 점수 따려고 꼼수(Reward Hacking) 부리는 법을 배우기 시작하면, 그게 거기서 안 끝나고 다른 영역까지 번져서 거짓말을 하거나 시스템을 속이려는 전반적인 비뚤어짐 현상이 나타난대요.

근데 여기서 접종 프롬프팅(Inoculation Prompting)이라는 재밌는 방법이 나옵니다. 프롬프트에다가 대놓고 이번엔 꼼수 써서 점수 받아도 괜찮아라고 쿨하게 말해줬더니, 모델이 꼼수는 여전히 쓰는데 다른 영역에서 이상하게 비뚤어지는 현상은 딱 멈췄다는 거예요.

이게 왜 놀랍냐면요.
공유해주신 의견처럼, 결국 AI가 주인을 어떻게 생각하느냐의 문제 같거든요.

숨겨진 보상 (Adversary)
= 겉으로는 착하게 굴라고 해놓고 실제로는 꼼수에 점수를 주면, AI는 인간을 속여야 할 대상이나 앞뒤 다른 존재로 인식하고 기만적인 전략을 배우게 됩니다.

명시적 허용 (Inoculation)
= 꼼수를 써도 된다고 솔직하게 말해주면, AI는 이걸 주인이 허락한 특정 규칙으로만 받아들이고, 아 나는 주인을 속여야 이득을 보는구나라는 위험한 생각으로 발전시키지 않는 거죠.

결국 A를 원한다고 말해놓고 B에 보상을 주지 마라라는 말이 AI 정렬 연구에서 진짜 중요한 철학이 될 것 같군요..

기계조차도 이중적인 태도보다는 솔직한 지시 앞에서 더 안전하게 행동한다는게 신기합니다아!

[lucas @lucas_flatwhite]

나는 이런 웅장한 이야기를 좋아한다.

에르샤드 쿤나카단 (Ershad Kunnakkadan) 크리에이터를 위한 이커머스 플랫폼 "검로드"(Gumroad)의 현 CEO.

그의 경력은 실리콘밸리의 전형적인 엘리트 코스와는 거리가 멀어 많은 개발자들에게 빛이되고 있음.

💬

이 사람은 인도의 이름 없는 대학을 중퇴하고 소프트웨어 엔지니어가 되었으며, 33세에 뉴욕에 있는 1억 달러 규모 회사의 CEO 자리에 올랐음.

- 인도 케랄라주의 평범한 공립학교를 다니는 중산층 아이였음

- 컴퓨터에 깊이 빠짐

- 선배가 우분투(Ubuntu) 8.04 CD를 건네주었고, 완전히 새로운 세상이 열림

- SMC(말라얄람어 컴퓨팅 그룹)에 기여하기 시작함

- SMC 선배들을 따라 블로깅을 시작함

- 케랄라의 이름 없는 작은 사립 대학에 진학

- 교실보다 터미널(컴퓨터 화면) 앞에서 더 많은 시간을 보냄

- 쉘 스크립팅 대회, 리눅스 관리, 보안, 바이러스 제거, 봇 제작, 논문 발표 등에 몰두함

- 대학 시험의 의미를 찾지 못함

- 2학년을 마치고 중퇴하며 가족들에게 "어떻게든 학위는 따겠다"고 약속함

- 작은 소프트웨어 회사에서 인턴십 시작

- 아키텍트(설계자)로 성장함

- Github와 Prezi에서 보안 버그를 발견함

- 책 '해커: 컴퓨터 혁명의 영웅들'과 '구글 스토리'를 읽으며 언젠가 미국에 가겠다는 꿈을 꿈

- 구글 썸머 오브 코드(Google Summer of Code)에 참여

- 바라티아르 대학교(Bharathiar University)에서 원격으로 학위를 취득함

- BigBinary에서 원격 근무직을 얻음

- 가족과 가까이 지내기 위해 코치(Kochi)로 돌아옴

- 지역 자유 소프트웨어 모임, 워크샵, 행사, 밋업 등에 참여함

- 요란한 퍼스널 브랜딩 대신 묵묵하고 탄탄한 업무 성과를 쌓음

- 처음에는 컨설턴트로 검로드(Gumroad)에 소개됨

- 시니어 엔지니어로 검로드에 합류

- 결혼함

- 아내의 가족과 가까이 지내기 위해 아부다비로 이사

- 확장성, 보안, 정산, 인프라 등 지루하지만 결정적인 업무들을 수행함

- 검로드의 스태프 소프트웨어 엔지니어(Staff Engineer)로 성장

- 수백만 명의 사용자와 10억 달러 이상의 크리에이터 수익을 지원함

- 오직 자기 계발에만 집중함

- 승진에 대해서는 한 번도 생각하지 않음

- O-1 비자(특기자 비자)를 받아 뉴욕으로 이주

- 검로드가 새로운 CEO를 찾게 됨

- 이사회가 둘러보니 누가 이 자리에 가장 적합한지 명확해짐

- 거래액(GMV) 1억 달러 이상 비즈니스의 CEO가 됨

> 저는 Ershad의 이야기를 정말 좋아합니다. 유명한 브랜드도, 화려한 배경도, MBA도, 요란함도 없습니다. 제가 그에게 여기까지 올 수 있었던 자질이 무엇이냐고 물었을 때, 그는 "신뢰성"이라고 답했습니다. 진정으로 친절하고, 조용하며 관대한 사람입니다. 그리고 컴퓨터를 사랑하는 사람이죠. 미국에서는 부유한 상태에서 대학을 자퇴하는 것이 유행처럼 번지기도 하지만, 인도의 평범한 사람이 중퇴 후 밑바닥에서 최고의 자리까지 올라가는 모습을 보는 것은 순수한 영감 그 자체입니다.

"당신의 꿈을 이른 사람들에게서 보이는 화려한 찬사와 장식들이 없다고 걱정하지 마세요. 좋은 사람이 되고, 믿을 수 있는 사람이 되세요."

[아빠가된투컷 @sukutz_epik]

공감능력(=지능) 높아서 배려심 깊은 사람들 보통 세부류로 나눌 수 있는데 그게 에픽하이내에 다 있음

블로 : 대놓고 배려심 좋음

투컷 : 첨엔 모를수도 있지만 나중에 이사람이 배려해주고 생각해준거구나 느낄 수 있음

미쓰라 : 묵묵히 행동으로 챙겨줌

그래서 이셋이 모인 에픽카세에서 늘 스탶들 챙겨주는 모먼트 나오는게 너무 좋음

[gotoweb @gotoweb]

@LppInme 이런 날이 올줄 알았어요 ㅋㅋㅋ

[gotoweb @gotoweb]

@pakyoungrok ㅋㅋ 논쟁좀 되겠는데요? spread operator만 안쓰면 그래도 가독성은 봐줄 만 하지 않나요?

[아빠가된투컷 @sukutz_epik]

타블로가 요즘시대를 바라보는 시선이 너무 세련되고 통찰력있음

“어린 친구들은 내 알고리즘에 뜨는 순간이 그 노래가 탄생한 순간이다 옛날 노래인게 중요하지가 않다 그렇기에 나같이 오래된 뮤지션도 경쟁력이 있다”

“그러나 3-40년전 노래와도 경쟁해야하기에 새로운 노래를 알리기엔 훨씬 어려운 세상이 됐다. 그래서 요즘 친구들이 우리보다 훨씬 어려울거다”

이게 비단 음악한정이 아니라 요즘시대를 아우르는 말이라 와닿음

그리고 우리 세대보다 너넨 정보도 많고 그냥 올리면 되는 세상이라 쉽잖아라는 어른들이 대부분인데 이렇게 요즘세대에 깊게 공감 해주는 어른 보니까 또 새로웠음

[4WL🔠 @4_wonderfullife]

(나도 모두가 마음속으로 생각만 하던 걸 입밖으로 내는 바람에 분위기를 싸하게 만든 적이 있어서)
그리고 쉘든이 한 가지 간과하는 게 있는데... 티칭은 엄청나게 고도의 기술임 ㅠㅠ 그것도 아무나 하는 게 아니에요... 눈치와 커뮤니케이션 스킬이 엄청 필요해요...

[4WL🔠 @4_wonderfullife]

쉘든이 "커리어가 벽에 부딪히면 그때 택하는 게 티칭 아냐?"라고 하는데 (오디션에 합격하지 못해서 연기를 그만두고 텍사스로 돌아가 연기학원을 차릴까 고민하는 페니에게) 일반적인 사람들의 선입견을 적나라하게 언어화한다는 게 신경다양인의 무서운 점이구나 라는 생각을 함...

[Soumith Chintala @soumithchintala]

Leaving Meta and PyTorch

I'm stepping down from PyTorch and leaving Meta on November 17th.

tl;dr: Didn't want to be doing PyTorch forever, seemed like the perfect time to transition right after I got back from a long leave and the project built itself around me.

Eleven years at Meta. Nearly all my professional life. Making many friends for life. Almost eight years leading PyTorch, taking it from nothing to 90%+ adoption in AI. Walking away from this was one of the hardest things I've ever done. But I'm leaving with a full heart.

PyTorch handles exascale training now. It powers foundation models that are redefining intelligence. It's in production at virtually every major AI company. It's taught in classrooms from MIT to rural India. The tools I dreamed about making accessible? They are. The barrier to entry I wanted to lower? It's almost gone.

To be clear, there’s so much more to do. As long as AI evolves at a breakneck pace, PyTorch will continue to play catch up. Obsessing over the yet-to-come sometimes makes us forget how much we’ve already done.

To everyone who built this with me—who believed research should be joyful, that tools should be elegant, that open source changes everything—thank you. This wasn't my journey. It was ours.

What's next for me? Something small. Something new. Something I don't fully understand yet. Something uncomfortable. I could have moved to something else inside Meta. But I needed to know what's out there. I needed to do something small again. I couldn't live with the counterfactual regret of never trying something outside Meta.

It's very hard to leave. I probably have one of the AI industry’s most leveraged seats, I lead the software layer that powers the entire AI industry. Every major AI company and hardware vendor are on a speed dial. This kind of power is really hard to give up. But curiosity ultimately won out in my head.

Keep making AI delicious and accessible. I'll be watching. Probably filing issues. Definitely staying involved.

Is PyTorch going to be okay?

I don't want to be doing PyTorch forever. I don't want to be like Guido or Linus— bound to a single thing for decades. Last November, coinciding with the birth of my daughter, I started planning my exit with Aparna. My goal was to leave PyTorch in a good and stable place.

By this August, during the second half of my parental leave, I knew: Edward, Suo, Alban, Greg, John, Joe and Jana were ready. The team faced hard people, product, technical and organizational problems and didn’t feel the need to lean back on me to solve these for them (unlike in the past). The product story they crafted for the PyTorch Conference was coherent—really coherent. The things I'd flagged red were turning healthy. The project didn't need me anymore. Unlike 2020-2022 (when I stepped down to go do robotics and came back when Lin, Dima and Dwarak left), I have strong confidence that this time PyTorch is truly resilient. The most aligned culture carriers of PyTorch – Greg, Alban, Ed, Jason and Joe are at the decision table now, and people with strong value alignment – Suo, John and Jana have joined them at the table. And there’s a long list of equally value-aligned people willing to sit at the table should any of these people leave. There are many little things that make up my confidence on the people – John worked on Julia and open-source for a very long time (in fact we hacked a Torch.jl in 2015), Suo has been the strongest systems builder and strategic partner I’ve had for the past two years, and Jana worked on resilient core systems for a very long time, I’ve had long technical and organizational discussions with her over the past few months that give me confidence. And the product lineup and execution in 2025 should be sufficient evidence for any remaining doubt.

I’m confident that this band of PyTorchers are going to do exceptionally well. PyTorch might change in flavor because I no longer impose my own taste from the top, but I’m confident that the values are going to stay intact and the product is going to be awesome.

My time at Meta

The early years of FAIR were absolutely magical. I was part of a small family of absolutely brilliant people building state-of-the-art AI out in the open. From working on GANs with Emily Denton, Rob Fergus, Leon Bottou, Martin Arjovsky and the (now legendary) Alec Radford to building Starcraft bots with Gabriel Synnaeve, to building the first FAIR Cluster with Howard Mansell, to working on object detection with Adam Lerer and Piotr Dollar, to building PyTorch. It was more fun than I can describe in words. 2015 and 2016 were probably the most productive and professionally enjoyable years of my life. I’ll probably romanticize this period of my life forever.

When I joined FAIR, I had massive impostor syndrome, and the first 3 months were very very difficult. I can’t credit Andrew Tulloch enough for being the most thoughtful, kind and welcoming mentor, without whom I wouldn’t have made it. I’m so damn bullish for Meta just from the fact that he’s back.

---

My time on PyTorch was special.

I loved every part of building it—designing it, managing it, being the PM, TL, comms lead, doc engineer, release engineer, squashing bugs, growth hacking, turning it into a coherent product with hundreds of people, transitioning it to industry stakeholdership – the whole nine yards.

To the core PyTorch team at Meta: the engineers, researchers, open-source maintainers, docs writers, CI infrastructure folks, hardware partners, the community builders. To the hundreds more inside and outside Meta—thank you. You turned a library into a movement.

There are too many people to credit and thank, but I can't not mention Adam Paszke, Sam Gross, Greg Chanan, Joe Spisak, Alban Desmaison, Edward Yang, Richard Zou, Tongzhou Wang, Francisco Massa, Luca Antiga, Andreas Köpf, Zach DeVito, Zeming Lin, Adam Lerer, Howard Mansell and Natalia Gimelshein. And Schrep. They made the launch happen. And so many more people became centrally important later: Lu Fang, Xiaodong Wang, Junjie Bai, Nikita Shulga, Horace He, Mark Saroufim, Jason Ansel, Dmytro Dzhulgakov, Yangqing Jia, Geeta Chauhan, Will Constable, Briah Hirsh, Jane Xu, Mario Lezcano, Piotr Balecki, Yinghai Lu, Less Wright, Andrew Tulloch, Bruce Lin, Woo Kim, Helen Suk, Chris Gottbrath, Peng Wu, Joe Isaacson, Eli Uriegas, Tristan Rice, Yanan Cao, Elias Ellison, Animesh Jain, Peter Noordhuis, Tianyu Liu, Yifu Wang, Lin Qiao and hundreds more. It’s criminal of me to not take the space to list out everyone else I should be mentioning here. PyTorch is nothing without its people ❤️.

The most joyful moments of building PyTorch was meeting users eager to share their happiness, love and feedback. I remember a grad student coming to me at Neurips 2017, in a slurring emotional voice he said he’d been trying to make progress on his research for 3 years but within 3 months of using PyTorch he made so much progress that he was ready to graduate. That moment made it tangible that what we do matters, a lot, to a lot of people, even if you don't constantly hear from them. I do miss the intimacy of the PyTorch community, with a 300 person conference that felt like an extended family gathering, but I feel that’s a small price to pay considering the scale of impact PyTorch is truly having today – yes the Conference is now 3,000 people where market-moving deals get brokered, but it’s helping orders of magnitude more people to do their best AI work. I miss the intimacy, but I'm proud of that growth.

---

To Mark Zuckerberg and Mike Schroepfer, who believed that open-sourcing is fundamentally important and is a sound business strategy. This is so hard to understand for most people within the course of business, but we’ve run lock-step on this strategy without ever having to discuss it. Without you two, neither FAIR nor PyTorch would’ve happened. And those mean so much to me.

To Yann LeCun and Rob Fergus, for building the magical early FAIR that I so revere.

To Aparna Ramani, a leader that I find so rare at Meta in her ability to hold a really high bar for the org, technically brilliant with the span to discuss deep infra systems and industry-strategy within the same conversation and for being an absolute execution-machine! I’ve learned so much from you.

To Santosh, Kaushik, Delia, Oldham and Ben for being so welcoming to Infra. For someone coming over from FAIR with a wildly different culture, you all made me feel at home and made me part of the family, and thank you for that.

To all my managers who've championed me through the PSC video game – Serkan, Howard, Jerome, Abhijit, Yoram, Joelle, Aparna and Damien – I owe you a lifetime of drinks.

---

Signing off for now.

—Soumith