이번에 마이크로소프트의 나름 초대형 장애 사태 이후 레딧에 올라온 글인데, 공감되는 관점이라서 번역글 올려봄
마이크로소프트 사건은 내가 AI에 대해 늘 생각해 왔던 것이 옳았음을 증명했다.
나는 시니어 엔지니어다. AI가 등장하기 전부터 등장한 이후까지 미국, 유럽, 한국의 여러 기업에서 대규모 프로젝트를 처음부터 구축해 본 경험이 있다.
AI는 코드 작성, 애플리케이션 개발, 테스트, 문서 작성 등 거의 모든 작업에서 매우 뛰어나다. 하지만 이런 것들은 소프트웨어 엔지니어링에서 매우 낮은 수준의 작업에 불과하다.
진짜 중요한 것은 시스템을 깊이 이해하는 능력이다.
내 경험상 시스템이 아무리 잘 설계되고 구현되었더라도 언젠가는 예상하기 어려운 극단적인 엣지 케이스(Edge Case)가 발생해 시스템을 망가뜨린다.
시스템이 그만큼 복잡하기 때문이며, IT 업계의 급여가 다른 업계보다 훨씬 높은 이유도 여기에 있다.
그런데 AI는 이러한 문제를 해결하는 데 상당히 취약하다. 복잡한 시스템에 대한 충분한 맥락(Context)을 갖고 있지 못하기 때문이다.
현실의 복잡한 시스템은 보통 여러 복잡한 시스템이 결합된 형태다.
마이크로소프트 사례를 보자. 데이터베이스, 인프라, 애플리케이션, 네트워크가 서로 얽혀 전체 시스템을 구성하고 있었다.
장애는 이 전체 시스템에 존재하는 수천 개의 지점 중 어디에서든 발생할 수 있었다.
심지어 롤백(Rollback)을 하려면 무엇을 롤백해야 하는지부터 알아내야 한다.
마이크로소프트는 이를 파악하는 데 무려 15시간이 걸렸고, 아마도 이 장애로 인해 해고된 직원 전체의 급여를 합친 것만큼의 비용을 잃었을 것이다.
시스템을 구축한 시니어 엔지니어들은 시스템이 실제로 어떻게 동작하는지에 대한 핵심 지식을 가지고 있다.
예를 들어 내가 직접 구축한 시스템에 문제가 발생한다면 원인을 파악하는 데 한 시간도 걸리지 않을 수 있다. 하지만 그 시스템을 개발해 본 적 없는 사람은 AI를 활용하더라도 하루 이상 걸릴 수 있다.
따라서 AI는 어디까지나 엔지니어를 보조하는 도구여야지, 개발자 자체를 대체해서는 안 된다.
안타깝게도 기업들은 이미 피해가 발생한 뒤에야 이 사실을 깨닫게 될 것이다.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
Mark Zuckerberg just described the death of human connection on the internet and no one flinched.
One sentence. Fifteen years of erosion in twelve words.
Mark Zuckerberg: “Social media started out as people primarily interacting with their friends. And now… at least half of the content is basically people interacting with creators.”
You used to open your phone to see what your friends were doing.
Now you open it to watch strangers.
You did not choose this. The algorithm chose it for you.
It tested your friends against optimized strangers.
Your friends lost. Every time.
A stranger with better lighting, better timing, and a better hook held your attention three seconds longer than someone who loves you.
So the algorithm buried your best friend’s wedding photos under a cooking video from someone in Dubai you have never met.
And you watched the cooking video.
That was the first replacement. Friends for strangers. You barely noticed.
The second one is already underway.
If the algorithm already proved strangers outperform your real relationships, and AI can now build a stranger more engaging than any human alive, the math finishes itself.
The AI does not have a bad week. It does not post something careless and lose the algorithm’s favor. It does not burn out.
Every word calibrated.
Every frame tuned.
Every pause placed at the exact interval that keeps your thumb from moving.
A human creator competing against that is carving stone tablets in a world that just built the printing press.
The economics are not even close.
A person needs rent, sleep, and motivation.
The machine needs electricity.
When the cost of generating perfect content hits zero, the feed fills with faces that do not exist.
Voices that feel familiar.
Opinions that mirror yours just enough to feel like trust.
Personalities built from scratch to feel like someone you have known for years.
You will not know when the switch happens.
That is the point.
The feed does not care whether the thing holding your attention has a pulse. It cares whether you stay.
And a machine that knows your patterns better than you know yourself will always keep you longer than a person ever could.
This is not a warning. Half of it already happened.
You lost your friends to strangers and did not notice.
You will lose the strangers to machines and call them friends.
Somewhere in a different app, in a different tab, in a room you are sitting in right now, someone who actually knows you is living a moment you will never see.
Not because they stopped sharing it.
Because you stopped being where it was.
#TuElección2024. Habrá recuento de votos en 60% de las casillas de la elección presidencial por inconsistencias entre actas y PREP, anuncia el INE.
#Latinus#InformaciónParaTi
https://t.co/jqG3DyvG7J
Abrí hilo… Anoche que pagaba mi celular en @Tiendas_OXXO el joven dependiente me dijo: “de qué compañía amiga”, a lo que de forma gentil le respondí: “Telcel, pero no soy tu amiga, solo soy una clienta”. Tristemente eso fue suficiente para que comenzara a hablar entre dientes…
Code Interpreter will be available to all ChatGPT Plus users over the next week.
It lets ChatGPT run code, optionally with access to files you've uploaded. You can ask ChatGPT to analyze data, create charts, edit files, perform math, etc.
Plus users can opt in via settings.