As an AI Engineer. Please learn
>Harness engineering, not just prompt engineering
>Context engineering, not just long prompts
>Prompt caching vs. semantic caching tradeoffs
>KV cache management, eviction, reuse, and memory pressure at scale
>Prefill vs. decode latency and why they optimize differently
>Continuous batching, paged attention, and throughput optimization
>Speculative decoding vs. quantization vs. distillation tradeoffs
>INT8, INT4, FP8, AWQ, GPTQ, and when quantization hurts quality
>Structured output failures, schema validation, repair loops, and fallback chains
>Function calling reliability, tool contracts, argument validation, and idempotency
>Agent guardrails, loop budgets, tool budgets, and termination conditions
>Model routing, graceful fallback logic, and degraded-mode UX
>RAG architecture: chunking, embeddings, hybrid search, reranking, and freshness
>Retrieval evals: recall, precision, grounding, attribution, and citation quality
>Evals: golden sets, regression tests, adversarial tests, LLM-as-judge, and human evals
>LLM observability as a first-class discipline: traces, spans, tokens, latency, errors, and drift
>Cost attribution per feature, workflow, tenant, and user journey not just per model
>Safety engineering: prompt injection defense, data leakage prevention, and permission boundaries
>Multi-tenant isolation, cache safety, and cross-user context contamination prevention
>Fine-tuning vs. in-context learning vs. RAG vs. distillation and when each is the wrong tool
>Latency, quality, cost, and reliability tradeoffs across the full inference stack
>Production failure modes: hallucinated tool calls, malformed JSON, stale retrieval, runaway agents, and silent eval regressions
📗 AI시대 나의 전문성을 재설계하는 법 (PDF 165페이지)
너무 소중한 자료네요. 아마 다들 굉장히 많은 고민을 하고 계실텐데 이 내용이 여러 공감과 통찰을 주지 않을까 생각합니다!
https://t.co/tdzGibGN5Z
- AI, AX를 진행하는 회사들은 어떻게 바뀌어 나갈까?
- 기술부채, 인지부채, 의도부채
- AX 여정의 장애물과 극복
- AI시대 어떤 구성원들이 필요한가?
- 유달리 중요해지는 새로운 강점은?
- AI native 기업으로 변신할 때 주요 병목 포인트
- 전문성은 여전히 필요한가?
정말 많은 이야기를 담고 있네요!
로컬 설치 버전과 서버의 연동은 또 다른 세상이구나.
- 당초에 서버 버전으로만 동작하게 했던 솔루션을 로컬 설치 후 인증만 서버를 통해 진행하도록 구성.
- 로컬에 의존성 다 설치하고 그냥 돌리면 될 줄 알았는데, 계속 에러를 뱉어내면서 진행이 안된다.
- 이번 턴도 한번 돌아보면 뭔지 모르지만, 경험이 쌓이겠지.
- 터미널 창을 보면서 계속 무언가 머릿 속에 때려 넣고 있는데, 지루하고 복잡하네.
요즘 보안 사고 뉴스를 보면 예전하고 좀 달라졌다.
서버가 뚫렸다는 이야기보다, 개발자가 매일 쓰는 도구를 타고 들어온 사고가 많아졌다.
올해 3월엔 컨테이너 취약점 점검 도구로 유명한 Trivy의 GitHub Action이 공격당했다.
릴리스 태그 77개 중 76개가 조용히 바꿔치기됐고, 이걸 CI에서 쓰던 곳들은 클라우드 키랑 도커 설정, 쿠버네티스 토큰을 그대로 털렸다.
보안 점검하라고 만든 도구가 거꾸로 공격 통로가 된 거다.
지난달엔 npm 패키지 14개가 4시간 만에 뿌려져서 AWS 키랑 CI 시크릿을 긁어갔다.
이번 달엔 Red Hat이 배포하던 npm 패키지 32개에 설치 스크립트가 심겨서 개발자랑 CI의 비밀값을 빼냈다.
이런 사고들을 모아놓고 보면, 공격 대상이 바뀐 것 같다.
운영 서버가 아니라, 개발자가 npm install 하는 순간이랑 git push 하는 파이프라인 쪽으로.
그럴 만한 이유가 있다.
요즘은 데브옵스 조직이 제대로 갖춰진 곳이 많지 않다.
대부분 백엔드는 백엔드대로, 프론트엔드는 프론트엔드대로 각자 CI/CD를 직접 짠다.
파이프라인을 내가 짠다는 건, 공격자가 노리는 그 키들을 내가 들고 있다는 말이기도 하다.
그래서 DevSecOps가 보안팀만의 일은 아닌 것 같다.
파이프라인을 직접 만지는 개발자라면 한 번쯤 교양처럼 알아둘 만한 게 됐다.
별스러운 게 아니라, 내가 짠 파이프라인을 보안의 눈으로 한 번 더 들여다보는 일이다.
왜 하필 지금이냐면,
AI가 코드를 대신 짜주면서 배포 속도는 빨라졌는데, 그 코드랑 거기 딸려 온 패키지를 사람이 일일이 뜯어보는 건 오히려 줄었다.
AI가 가져온 라이브러리, AI가 만들어 준 Dockerfile을 별 의심 없이 그대로 올리는 일이 많아졌다.
공격하는 쪽에서 보면 점점 들어오기 좋아지는 거다.
실제로 올해 들어 이런 공급망 공격이 부쩍 늘었다.
다만 막상 DevSecOps를 혼자 공부해 보려고 하면 막막하다.
개발은 화면에 제대로 뜨면 끝난 걸 안다.
보안은 그런 신호가 없다.
"안 뚫렸다"는 걸 어떻게 확인하는지부터가 안 보인다.
SAST, SCA, DAST 같은 이름은 들어봤어도 각각 뭘 잡아주는지, 내 파이프라인 어디에 끼워야 하는지가 연결이 안 된다.
보안 자료는 대개 보안 전문가 기준으로 쓰여 있어서, 내 CI/CD에 그대로 가져다 붙이기도 쉽지 않다.
도구 하나하나 문서는 많은데, 그걸 내 파이프라인 하나로 꿰어주는 자료가 드물다.
마침 이걸 도커부터 보안까지 하나로 꿰어주는 강의가 있다.
CLOUD SECURITY LAB 최일선 님의 "도커 마스터즈! CI/CD, DevSecOps로 자동화 보안 실무까지!"
도커가 어떻게 도는지부터 시작해서, CI/CD 파이프라인을 짜고, 그 단계마다 보안 점검을 자동으로 끼워 넣는 데까지 간다.
코드의 보안 결함은 SonarQube로 걸러내고(SAST),
컨테이너 이미지 취약점은 Trivy로 점검하고(SCA),
배포한 서비스는 OWASP ZAP으로 직접 두드려본다(DAST).
앞에서 공격당했던 그 Trivy를, 이번엔 내 파이프라인을 지키는 쪽으로 제대로 쓰는 법을 배우는 거다.
결국 이 강의는
"내가 짠 파이프라인을, 공격자보다 먼저 들여다보는 법"을 알려준다.
데브옵스나 인프라 엔지니어는 물론이고,
도커로 백엔드 서비스를 띄우고 배포하는 백엔드 개발자분,
Next.js 서버를 직접 운영하고 모니터링하는 프론트엔드 개발자분들에게도 권하고 싶다.
내 파이프라인 보안을 남한테 미루지 않고 직접 챙겨두고 싶다면, 한 번 들어볼 만하다.
I've been a backend Engineer for 12+ years. Today, I'm a Principal Engineer at Atlassian.
I've designed systems that handle millions of requests. Sat on both sides of system design interviews.
Reviewed more architecture docs than I can count.
Starting today, I'm breaking down the fundamentals of scaling for the next 25 days.
If you're learning system design bookmark this thread, you're going to get a lot of learning from this.
요즘 개발자탐라 너무 재미없다 프로그래밍 순환떡밥이라도 보고싶다 대체 Opus 4.7이 박다라는 단어 쓴다는 얘기만 며칠동안 하는건지 이건 이제 코딩얘기조차도 아니다 차라리 맨날 돈얘기하던 시절이 좀더 지성이 느껴지는거같다 VRChat이 == 연산자 오버로딩 그지같이했다는 글이 1000배는 재밌다
Codex건 Claude건 순정이 최고다.
보통 SNS 등지에서 좋다고 회자되는 AGENTS,md 나 스킬들을 자세히 읽어보면 중언부언하는 장문의 글로 되어있는데 대부분은 모델을 혼란스럽게만 만들고 컨텍스트만 잡아먹을뿐인 내용이었음.
AGENTS,md 나 스킬을 어줍잖게 만들어두면 오히려 디버프 되는데, 특히 모델 성능이 향상됐을 때 디버프는 거의 확정. 근데 모델 성능은 매달 향상되고.
가장 좋은 방식은 AGENTS,md 는 해당 워크스페이스에 대한 정말 필수적인 제약과 정보 탐색 맵 정도만 남겨두고, 작업 가이드에 해당하는 지시문은 태스크마다 그에 맞게 만들고, 결과에 따라 후속 지시를 맞춰서하는 것이 최적.
그래서 나는 프롬프트 Snippet을 만들어두고 작업에 따라 상황에 따라 선택적으로 복붙해서 사용하는 방식을 사용하고 있는데, 일견 비효율적이어 보이지만 작업 성공률이 높아 작업을 빠르게 완수 할 수 있다.
더불어 이렇게 하면 모델간의 성능차를 쉽게 파악할 수 있고, 모델이 업그레이드 될 때마다 모델이 어떻게 좋아지고 나빠졌는지 즉시 알 수 있어 새 모델에 빠르게 적응할 수 있다.
This lawyer made $150,000 selling portable offline AI.
It analyzes docs that can’t legally be shown on the web.
The whole setup costs $50 and he sells it for $999.
Here's how to make one step-by-step:
You need 4 things:
→ Raspberry Pi 5 (8GB)
→ PiSugar 3 Plus battery
→ Whisplay HAT for the screen and mic
→ 64GB SD card.
Total cost on Ali is around $50 to $90 if you wait for the right deals.
1. Write Raspberry Pi OS Lite 64-bit to the SD card using Raspberry Pi Imager.
2. Stack the PiSugar battery underneath the Pi, snap the Whisplay HAT on top, insert the SD card, and boot the device.
3. Open the terminal and install Ollama with one command:
curl -fsSL https://t.co/5UVLVuIA5h | sh
4. Pull a model that actually runs on the Pi without choking:
ollama pull phi3:mini
5. Run the model and start chatting offline:
ollama run phi3:mini
The whole thing fits in your pocket, lasts 4 hours on battery, and never touches the internet once setup is done.
The lawyer wraps his version in a custom case, preloads it with legal document analysis prompts, and sells it to law firms that can't legally process client data in the cloud.
You can sell yours to doctors, accountants, government contractors, defense companies, or anyone else who handles data that legally cannot leave the building.
Hardware cost: $50 to $90.
Selling price: $500 to $1999
과거 똥코인에 원화를 날리기만 했기에 지금의 국장 포모는 전혀 없다. 차트와 가격등락은 내 인생을 갉아먹기만 한다는 걸 깨달았기 때문.
만약 어설프게 폭등해서 벌었다면 인생 조졌을지도.
그 나마 주제 파악을 빨리할 수 있는 성향이라 다행이다. 그런 면에서 비트코인 저축은 나 같은 놈에게 딱 맞는 인생전략이다.