아둔 코딩계

CS 박사과정 / 컴공이지만 코딩보다 수학을 많이 합니다 / 프사는 100x100님 / 이 계정은 모든 팔로잉의 리트윗을 끄고 있어요

[아둔 코딩계 @AdunDebugging]

제목 좀 잘 지어봐...

[아둔 코딩계 @AdunDebugging]

그만 다시 생각해

[아둔 코딩계 @AdunDebugging]

7000개나 있는데 미리 봐서 뭣하냐 그냥 랜덤 인카운터를 하도록 같은 선언인가?

[아둔 코딩계 @AdunDebugging]

뉴립스 논문 리스트는 왜 안 올라오지? 숨겨진 링크로는 있는 것 같은데 검색이 안 되니...

[아둔 코딩계 @AdunDebugging]

졸업하면... 내 연구비로...!

[아둔 코딩계 @AdunDebugging]

클로드 울트라로 바꾸고 싶다... 이러저러 하는게 늘어나니 토큰이 아슬아슬하네

[아둔 코딩계 @AdunDebugging]

옛날에 대충 보고 음 말이 되는 소리로 말이 되는걸 했군... 하고 넘겼었는데 아널드 두세랑 이와이테 논문이었구나

[Hadi M. Dolatabadi @hmdolatabadi]

Recently, I've been missing the papers that made me fall in love with the field during my PhD. So I've decided to revisit a few of them in a "paper nostalgia" series of mine.

#3: "Augmented Neural ODEs" by Dupont et al from NeurIPS 2019. I love how much this paper explains with a few simple pictures. It finds a basic limit of neural ODEs, and the fix is just as simple as giving the dynamics extra dimensions.

1/20

[아둔 코딩계 @AdunDebugging]

트위터 번역이 sublinear- 를 아하로 번역하네 전혀 근거가 없는 번역 같은데...

[아둔 코딩계 @AdunDebugging]

너랑 같은 모델이야......

[아둔 코딩계 @AdunDebugging]

증명을 제안하는 에이전트가 있고 검증하는 에이전트가 있는 실험을 돌리고 있는데 제안은 넷이 하고 검증은 혼자하니까 얘네가 나한테 검증이 너무 오래 걸려요 하면서 짜증냄......

[아둔 코딩계 @AdunDebugging]

AI 리뷰가 사람보다 좋다고 환호하던 사람들이 ICLR 리뷰 나오자마자 AI 리뷰 때문에 짜증난다고 하는건 좀 웃긴듯

[아둔 코딩계 @AdunDebugging]

Exact-Solution Volume and Length Generalization in Transformers
3

아까 size의 length 비스무리한 것인데...

https://t.co/c8qyzrXHYS

[아둔 코딩계 @AdunDebugging]

ICLR 논문 구경하기 (아래 링크의 점수 순으로 봄)

https://t.co/iS3wvopipA

[아둔 코딩계 @AdunDebugging]

Language models recognize dropout and Gaussian noise applied to their activations
3

뭔가 activation monitoring을 하고 있으면 GPU 연산에 변화가 있고 그걸 LLM이 감지하게 훈련할 수 있다 같은 논문을 트위터에서 봤었는데 이게 먼저인건가?

https://t.co/t2kiLPG28D