Fred

Interested in Network Scince, GNN, Self-supervised learning, Python, Neuroscience, Science of Science, and Media

[Fred @isingmodel_fred]

그래프 엔지니어링 다음은 하이퍼그래프 엔지니어링인가 ㅋㅅㅋ

[율무커피 YulmuCoffee @yulmu_coffee]

Loop 이후의 엔지니어링에 대한 글이었습니다.
근데 쓰고 나니 Graph Engineering이라는 게 뜨네요?

[Fred @isingmodel_fred]

만약 악성 코드(악성-의도 라고 해야하나)가 weight에 심어져있으면 어떻게 찾지?!

[골빈해커 @golbin]

📰 세계 최대 AI 모델 저장소이자 커뮤니티인 허깅페이스가 AI 에이전트에게 공격당함.

공격자는 악성 데이터셋 하나를 업로드했고, 데이터셋 처리 과정에 존재하던 두 개의 취약점을 이용해 코드 실행에 성공.

수천~수만 개의 개별 행동이 연속적으로 실행된 것으로 보아 공격자가 AI 에이전트라고 판단.

이 사고에 대한 조사도 AI 에이전트로 했는데 사고 조사에 GLM 5.2를 사용했음.

그 이유는 Claude와 GPT는 보안을 이유로 분석 자체를 거부했기 때문에 사용할 수 없었다고.

모델에 공격 명령, 익스플로잇 코드, 악성 스크립트, C2 흔적등을 입력해야했기 때문. (아오.. 나도 오늘 우리 서비스 보안 검토하다가 당했... -_-)

이러한 문제가 있어서 오픈웨잇 모델인 GLM 5.2를 자체 서빙해서 조사를 진행함.

이번 사건은 단순한 해킹 사고라기보다 AI 시대의 보안 패러다임 변화를 보여준 사례인데,

우선 공격은 이미 사람보다 훨씬 빠르게 자동화되고 있어서, 방어 역시 AI 없이는 따라가기 어려워지고 있음.

특히 사고 대응 과정에서 보안 사고 분석 관련해서는 더더욱 자체 실행 가능한 모델의 중요성이 크게 부각되었는데,

가드레일이 없어서 민감한 부분까지 다룰 수 있는 것은 물론, 공격 로그와 자격증명이 외부 API로 전송되지 않아 민감한 사고 데이터를 회사 밖으로 내보내지 않아도 된다는 큰 장점이 있음.

또한 LLM 자체보다 Harness(에이전트 프레임워크와 실행 환경)가 실제 성능과 대응 능력을 좌우한다는 점을 발견하게 되었다는 것도 주목할만한 내용.

[Fred @isingmodel_fred]

@Alisvolatprop12 공간/시간 복잡도가 O^2로 유지되는 상황에서 2M windows가 큰 의미가 있나싶습니다. 아니면 이쪽 문제를 어느정도 푼 걸수도 있고요.

[BSPK @BSPK_]

@euphoria_707 저는 사람이 하는 일도 95%는 재무 성과를 보이지 못할거라 생각합니다. 괜히 ai 탓을 하는거죠.

[Jang-Ho Hwang @xrath]

요새 피드에 도는 그 10개월전 문샷 대표 인터뷰 중

"조직 관리 역시 RL로 접근해야 합니다. SFT 식으로 지나치게 세밀하게 지시하거나 통제하면 구성원들의 자율성이 떨어지므로 리더는 손가락질을 멈추고 보상 체계만 설계해야 합니다."

[Fred @isingmodel_fred]

현재 자율주행의 가장 큰 허들이 엣지케이스임을 상기해보면 얼마나 말이 안되는 건지 알 수 있다.

[BSPK @BSPK_]

특히 ‘작고 효율적인 모델로 에이전트를 만들 수 있다’는 말을 들으면 42dot 같은게 생각난달까.

[Fred @isingmodel_fred]

3D프린팅 현재와 휴머노이드의 미래가 비슷할 수도 있겠다는 생각을 함.

[Fred @isingmodel_fred]

영화라는 산업의 온톨로지를 논하게 될 날이 올까

[Floating Weeds @txtry]

호프 좀 안타깝다. 헐리우드 체급이라면 비교적 가뿐하게 찍을 영화인데 한국은 이런 장르적 경험 자체가 너무 없다보니 감독 배우 스태프 할 것 없이 갈피를 잡지 못하고 하지 않아도 될 고생까지 너무 하는데 결과물은 수고 대비 크게 뛰어나지도 않고..

[Fred @isingmodel_fred]

하지만 하드웨어 기반 산업 분야에서 이런 기업 뒤바뀜은 매우 느리게 진행될 수 밖에 없고, 이 시차로 인해 현재 LLM은 버블이라고 생각함.

[Fred @isingmodel_fred]

...가 성공적으로 진행되혀면 조직의 보수적인 관성 특성을 타파해야하는데, 상대적으로 맥락/레거시가 덜 쌓인 기업이나 SW 기업 등이 아니면 매우 어려워보임. 그래서 레거시 기업의 변화보다 신생 기업의 약진이 더 가능성 높다고 생각.

[Jerry @jerry0906]

그래서 AI를 도입해 성과를 내려면 마이크로엔터프라이즈를 여러개 만들고 제품별로 모든 기능이 한 부서에 들어가도록 해야한다. 실제로 Haier과 CATL이 그렇게 하고 있다.

[Fred @isingmodel_fred]

이거 그냥 재밌다 정도로 생각하고 있다가, 클로드 코드 베낀 qwen code 써보니 문구가 너무 싼티나서 클로드 코드의 디자인 감성에 대한 역체감을 하게 되었음..

[Bernard @FatTailLabs]

작은 부분일 수 있지만 클로드 만의 감성을 느낄 수 있는 부분.

Claude Code가 작업 중일 때는 스피너 옆에 뜨는 랜덤하게 뜨는 단어들이 있다. 이것들의 공식 명칭은 "Spinner verbs".

가만히 보면 기상천외하고 재미있는 단어들이 많은데, Tech Geek들에게는 제대로 취향 저격. 그저 아무것도 아닌 단어 선정처럼 보이지만, "우리는 당신과 같은 사람들이며 당신을 깊히 이해하고 있다"는 것을 사용자에게 보여주는 포인트.

커뮤니티가 리버스엔지니어링해본 결과 Spinner Verb는 180개가 넘는다고. 대략 재미있는 것들만 추려서 모아보면 다음과 같다.

Cogitating: 숙고하다
Ruminating: 반추하다
Contemplating: 심사숙고하다
Cerebrating: 두뇌 활동하다
Deliberating: 심의하다
Musing: 골똘히 생각하다
Philosophising: 철학적 사색하다
Marinating: 재우다/양념에 절이다
Simmering: 약불로 끓이다
Percolating: 스며들다
Fermenting: 발효시키다
Caramelizing: 캐러멜라이징하다
Whisking: 휘젓다
Flibbertigibbeting: 수다 떨다 정신 팔림
Lollygagging: 빈둥거리다/농땡이 부리다
Dilly-dallying: 꾸물거리다
Shenaniganing: 말썽 피우다
Tomfoolering: 바보짓하다
Razzle-dazzling: 현란하게 눈속임하다
Booping: 콕 찌르다(의성어 느낌)
Gallivanting: 놀러 다니다
Skedaddling: 후다닥 도망가다
Scampering: 허둥지둥 뛰어다니다
Moonwalking: 문워크하다
Waddling: 뒤뚱뒤뚱 걷다

[Fred @isingmodel_fred]

user data나 feedback이 정말 큰 이점이라면 oai가 anthropic보다 월등히 앞서나가야 하는 것 아닐까싶으면서도 엔터프라이즈 데이터는 b2c와 품질 격차가 큰 것 같기도 하네요.

[Emergence @PcIOvebbCbTdSTb]

인력, 자원, 데이터 3축을 접어두고 절대 오픈소스가 성공할수 없는 이유

[Fred @isingmodel_fred]

gpt 5.6은 시키지도 않은 일을 너무 많이 해서 인지부채가 어마어마하다. 증강-코딩 용도로는 쉽지 않아보임.

[Fred @isingmodel_fred]

@soterias2345 continual learning이 도입된다고 해도 attention, backpropagation 등등 매칭이 안 되는 게 많죠

[미탐 @gochugechu]

스마트폰이 인간을 24/7 소셜미디어와 인터넷쇼핑에 연동시키며 삶이 농담이 돼버렸다는 것을, 진지한 이야기가 불가능해져버렸다는 것을 모두 은연중에 직감하기 때문이다
사회관계 속에서 역사를 쌓아올리던 인간은 이제 개인화된 밈-소비-유희-기계로 전락해 역사의 주인공으로서 파산선고를 받았다

[Move78 @move78th]

옵시디언 거의 3년째 쓰는 중인데…..

약간 이제 현타오기도 함요

이렇게 엄청난 데이터를 내 로컬/클라우드에 모아놓은들, 사실상 그게 모두 내가 “아는” 정보가 아닐뿐더러

모아놓았다고해도
요새는 AI에게 리서치 시키면 또 금방 나와서
굳이 다 모아두고 한정적으로 내 옵시디언에서만 리서치 시키는게 오히려 제약이 많음…

아름다운 네트워킹 맵을 만들 수 있다는 쾌감 이외에
정말 옵시디언이 가져다 줄 수 있는 메리트가 뭔지 좀 고민하게 됨.

차라리 오픈에이아이나 앤트로픽에서
내가 대화했던 내용을 옵시디언같은 서비스로 다 받아두고 히스토리를 날리지 않는다면
그게 진짜 제2의 두뇌가 아닐까?

[슈리 @bookoko1]

지금 읽는책 존잼. 부동산을 국민에게 나누면 소유자들의 보수화로 공산주의를 이겨낸다는 현자들이 있었고 실제로 그렇게 됨. 70%가 주택을 소유하자 영국 보수당이 날라다님.

[구루 @xguru]

와 진짜 대단. 정부에 뭔가 신고하거나 할때 어떤 순서로 이뤄지는지를 일목요연하게 보여줌. 총 100개인데 궁금했던거 몇개만 보면

1. 전세사기 피해지원
2. 예비타당성 조사
3. 정보공개청구
4. 재건축·재개발 정비사업

AI 를 제대로 활용하는 공무원이신듯

[우시로미야 레나 @lena_______lena]

종종 하는 이야기인데, 의료법 17조 1항에 따르면 의사가 사망선고를 할 수 있고, 국회의원은 사망시 당연퇴직되므로, 의사 면허가 있는 국회의원이 국회 내에 있는 모든 다른 국회의원에게 사망선고를 내린 다음 국회를 마비 상태로 만들 수 있음 (아닙니다)

[홍명수 @Myeongsu_bean]

여러 번 말하지만
중국은 부동산 가격이 개똥으로 떨어졌기 때문에
지금의 제조업 부흥을 일궈낼 수 있었던 것이다.

만약 중국 부동산 가격이 서울과 같은 수준이었다면
기업들이 지금처럼 건물을 올리고 자동화 시설을
적극적으로 갖출 수 있었을까?

아니.
땅 값 지불하는데만 모든 돈을 다 썼을걸?

부동산 가격 상승은 땅 주인 및 일부 자산가 외
모든 경제주체에게 비용으로 돌아간다.
이건 내 의견이 아니라 경제학 통념이다.

물론 자본주의 시대에
통념과 현실은 다르게 흘러가지만 말이다.