yoonhero

ai아이愛

[yoonhero @yoonhero06]

페르미의 역설을 아시나요?
'이 광활한 우주에 그들은 도대체 어디에 있는가?'

소설 <삼체>에서는 자신의 위치를 알리는 것은 문명의 자폭과 같이 묘사됩니다. 자연 선택된 고도로 발전된 문명의 생명체들은 살기 위해서 다른 행성 거주민에게 파괴적인 태도를 보일 것이라는 것이라는거죠.

[yoonhero @yoonhero06]

와~ 3주동안 GPT Pro를 정말 많이 썼는데 사용량이 점점 감소하는 것이 체감된다.
- 3주 전: 친구들학교크레딧뺏기20000크레딧은씀..
- 2주 전: 해커톤에서 24시간동안 사용 (이건 멍청하게 태워서..)
- 1주 전: Luna max을 7일 꽉꽉 씀.
- 오늘: 2시간 정도 쓰니까 10% 사라짐..

[yoonhero @yoonhero06]

수학이 가르쳐 준 세계 - 최정담

가족 여행 때 들린 서점에서 get했다. 읽는 내내 은은하게 퍼지는 수학의 냄새가
좋았다. 0과1이라는 소독된 언어, 공허에서 시작된 의미 찾기, 작은 세상 네트워크 등. 맨날 만나면 위상수학 이야기를 나누는 친구가 생각난 책이다.

[yoonhero @yoonhero06]

Chain of thoughts의 시작점.
목표: 하루에 좋은 글 하나 이상 읽고 기록하기

[yoonhero @yoonhero06]

Auto-research with codex - [https://t.co/cw5ZCbZ9Ro]

beam search를 하자.
unknown의 unknown = domain 지식이 필요한 이유

Encourage the model to take more risks and try ambitious ideas. You will not believe it but this worked.
→ 동기부여는 실존한다!!(인공지능의작심삼일)

[yoonhero @yoonhero06]

commutative diagram ㅋㅋ

[brandon wang @fluorane]

tfw deepseek hires a jane streeter to lead the harness team and suddenly there are commutative diagrams in the harness design

(for pl enjoyers theorem 5 states that something is a monoid homomorphism)

[yoonhero @yoonhero06]

Wow

[Alexander Panfilov @kotekjedi_ml]

We can finally talk about it:

We found a way to extract hidden reasoning of frontier models using a vulnerability in the APIs of every frontier AI company.

We verified that our reasoning token count matches billed API thinking tokens 1:1 for most of the prompts we queried.

[yoonhero @yoonhero06]

내가 만약에 인공지능 기업 입장이라면 cost-axis로 최적화를 진행할 것 같지는 않다. 뭐랄까, weight regularizer처럼 학습을 distort할 수 있지 않을까? "목표" 달성만을 축으로 잡더라도 사람들은 더 뛰어난 지능을 손에 넣기 위해 더 많은 돈을 쓰지 않을까? 이건 그냥 나의 얕은 추측이다.

[yoonhero @yoonhero06]

세상 모든 일의 난이도를 토큰 소비량으로 보기 시작했다. 음식 주문은 토큰 이정도.. 이정도 과제면 토큰 이거면.. 이 문제는 well-known이니 이정도 토큰으로..

[yoonhero @yoonhero06]

발상의 전환

너무 덥고 짜증나 → 내가 유럽에 왔구나!

[yoonhero @yoonhero06]

ㅋㅋ

[yoonhero @yoonhero06]

반응(좋아요) 받기 어려운 order:

인스타그램 스토리<피드 << 링크드인,유튜브 << X,Reddit << 깃허브 < 카톡

[yoonhero @yoonhero06]

Regularization/Normalization <- 생각보다 굉장히 중요함. 더 연구가 필요하다고 생각함!

구조적으로 loop, MoE, GNN 등을 시도할 수 있으나,
무한한 compute가 있다면 학습이 안정적으로 이어지면서 일반화를 해야한다. 이때 필요한건 저런 사소한 친구들?
(수학적으로도 rich함!, lasso등)

[yoonhero @yoonhero06]

딥러닝 대회에서 다른 팀들 점수 변화를 기록하면서, “수상권 예측 + 특별한 아이디어 존재 여부” 모니터링하는 전략을 봤는데 개인적으로 굉장히 맘에 듬!

PS에서는 ‘저 팀에서 이걸 푼다고?? 쉬운 문제나 보군‘ 같은 감성..

[yoonhero @yoonhero06]

최근 떠오른 바이브 코딩 거리

- Tibo 코덱스 리밋 초기화 알람 (상징적인 숫자 도달 시점 예측)
- 포켓몬 카드 등급 산출 카메라 (비젼으로?)
- 바이브코더 팀 컨텍스트 (a)sync (여러 명이 동일 작업 수행하지 않도록 + 에이전트 맥락 sync)

[yoonhero @yoonhero06]

chatgpt-work use case!

[yoonhero @yoonhero06]

그 이후로 면접, 수능 등으로 흐름이 끊기고 인공지능의 수학적 이해로 관심사가 이동한 것 같다.

다시금 생각해보면 그때만큼 행복했던 기억이 잘 떠오르지 않는다. 무언갈 같이 만들고, 공유하며 즐거움을 얻는 것.

그래서 다시 만들어보려고 한다. 목표는 위에 언급된 민간 벤치를 해결하는 것!

[yoonhero @yoonhero06]

과거 인공지능의 성능을 시연하는 데모 속 문제는 이해할 수 있는 것들이였다.

24년도
How many 'r's in strawberry
짜장면 테스트 / 자모 분리
9.9 vs 9.11

민간 데모들이 발견한 허점이 포화되면서 비슷한 발견들은 "세차 vs 걸어가기"처럼 가끔씩 바이럴 되고 있다. 발견 못한 축이 있을 것이다.

[yoonhero @yoonhero06]

운이 좋게 팀에는 좋은 친구들이 있었고. 방학 자습동안 모든 시간을 쏟아부어서 실제 서비스로 만들기도 했었다. 교내에서 1K이상의 채팅이 이루어지고 사람들이 멍청하지만, 우스운 이 친구들과의 대화를 즐기는 모습을 보는 것이 즐거웠다.