민용 최

운영자.
오픈소스 / 오픈웨이트 로컬 LLM 시도에 관심많음.

[민용 최 @minyongchoe4]

@doplxyz 당신은 아모데이 유망주 입니다

[민용 최 @minyongchoe4]

@_ryu15_ 저도 아이폰에서 쓰기위해 최적화 하고있어요 ㅋㅋ 모델 써서 알아서 최적화하라고 일부러 이렇게 못나게 만든걸까요? 의문이네요 ㅋㅋ

[민용 최 @minyongchoe4]

@Hikari_07_jp https://t.co/0G1fccadd6

i use this for getting fully Abliterated DS V4.1 Flash 1017. try this one.

[민용 최 @minyongchoe4]

DeepSeek Harness(오픈소스 에이전트 하네스)를 한국어로 전부 번역했습니다. 언어 목록에 한국어를 내장 로케일로 추가하고 UI 문구 약 2,900개를 옮겼고, 누락은 타입체크·게이트에서 걸리게 했습니다. upstream에서 외부 PR을 아직 받지 않아 브랜치와 토론으로 공개했어요. https://t.co/UZm5E9mqRG

[민용 최 @minyongchoe4]

@_nodelay h200 한장인가요?

[민용 최 @minyongchoe4]

@xrath 네 맞아요. 이거 local inference lab rtx pro 6000 discord 참여자들이 만들고있는거 맞아요. 거기에 lukealonso라는 nvidia 직원이 있어요.

[민용 최 @minyongchoe4]

@xrath 캐시효율이 점점 좋아져서 프리페치속도도 매우 좋아졌습니다. dsv4.1 flash 같은 경우는 l3 prefetch할때 긴 컨텍스트도 1초이내로 될정도죠.

[민용 최 @minyongchoe4]

@TurrinaMartino @itsjustmarky come to local inference lab discord channel and study best inference option for your hardware

[민용 최 @minyongchoe4]

@mylifcc i can't wait.

[민용 최 @minyongchoe4]

@mylifcc oh. it will be shiped soon?

[민용 최 @minyongchoe4]

@ai_funss 왜 이런 차이가 발생하는걸까요?

[민용 최 @minyongchoe4]

@yulmu_coffee 실제로 써보면 kimi k3가 아직 1황입니다. 파라미터수가 깡패인것 같네요

[민용 최 @minyongchoe4]

@YourLocalAILab Congrat!!! nice work!

[민용 최 @minyongchoe4]

@xrath 로컬모델 kimi k3를 쓰고있는데 deepseek v4.1 flash 1017로 바꿀만하다고 생각하시나요? 아직 general coding task에서는 뒤쳐질까봐 억지로 k3 유지하고있었는데 고민되네요

[민용 최 @minyongchoe4]

@xrath 저도 로컬로 돌리지만 서버실에 두고 돌려서 집에서 맥으로 cloudflare를 경유해서 local llm api를 호출하면 ttft가 좀 튀더라고요. 그래봤자 길어야 1~2초긴하지만.. 한번 써볼게요. 감사합니다

[민용 최 @minyongchoe4]

@yulmu_coffee wonder도 공개해라 ㅠㅠ

[민용 최 @minyongchoe4]

@Hikari_07_jp 이런 섀시는 어디서 구매할수있나요?

[민용 최 @minyongchoe4]

@orenoa7 커널 문제.
스킬 이슈

[민용 최 @minyongchoe4]

@schnelle @digitalix rtx pro 6000 basically support p2p so that users doesn't need to patch.