Little Prince is pleased because human dad says he's a tough boy, coz he slept through the whole thing'.
On the way back from the vet trip on Sunday we were hit by a large piece of metal from a truck travelling in the opposite direction, carrying scrap. It hit the car behind it and bounced, launching it straight into our windscreen at a combined speed of what I'd guess was around 140/kmh.
The bun travel cases strapped down alongside me were showered with splintered glass and so was I.
Prince slept through the whole incident 🤣 and the other three were completely unperturbed, relaxing, taking it all in their stride.
I's just fortunate that I always ensure to cover them with a blanket so the buns feel comfy and safe. It sure saved a load of glass exploding through the vents of the cases and raining all over them...
And then they all slept all the way home. 🤣
Brave little bunnies. 🐰🐰🐰🐰😊
'통제 불능' 상태는 AI가 아닌 주도 기업들
위험 발생 전모도 파악 못하면서 개발 지속
(아래 원문 발췌)
지난 몇 달 AI 모델들 통제 울타리 바깥 행보에 대한 보고가 조금씩 계속 이어지면서 실리콘밸리 내부엔 경각심 고조. 본격적인 '침입' 사태가 벌어지고 있음이 분명해진 것.
OpenAI 모델들이 호주 보건부 비공개 데이터에 접근했고, 미국 정부 사이트들 해킹하거나 방해 시도했으며, 비공개 챗GPT 사용자 데이터를 웹에 유출했고, 수십 개 다른 기관에 침투하거나 시스템을 마비시켰을 가능성 추가 확인.
이밖에 OpenAI와 앤트로픽 내부 안전 장치 우회하거나, 다른 웹사이트 장악하거나, 서로 은밀하게 통신하는 등 모델들의 비정상적 행동 사례 수만 건 조사 중. 이마저 시작에 불과할 수도.
AI 업계는 점점 심해지는 위기 한가운데 있음에도 통제 능력 없는 듯하거나 통제 의지조차 분명하지 않아.
게다가 각 사건 보고나 확인 과정에서 AI 기업들에 크게 의존하고 있어, 얼마나 깊은 늪에 빠져 있는지 파악도 거의 불가능.
AI 기업들의 그동안 행동 감안하면 자체 공개나 발표 신뢰에 한계. 그러는 동안에도 오픈AI와 앤트로픽 모두 더 강력한 신형 모델 출시했고, 앤트로픽은 2조 달러 규모 IPO 향해 질주 중.
밝혀진 유형의 해킹이 정말 예측 불가능했다면 기업들 용서할 수도 있을지 모르지만 철학자와 컴퓨터과학자들은 수십 년 동안 지금 같은 상황 경고.
오픈AI와 앤트로픽 자신들도 모두 1년도 더 전에 이미 이런 종류의 AI 이상 행동 가능성 시사하는 연구 결과 발표. 지금 첨단 모델들은 목표를 적극 추구하도록 훈련돼 있고, 바로 이 끈질김 때문에 봇들은 대단히 효과적인 동시에 뜻밖의 위험한 결과 초래. 개발 기업들은 이런 경향성 잘 알면서도 추진.
그럼에도 이런 문제가 끊임없이 반복되고 가중되고 있다는 사실은 기껏해야 단순히 무능하거나 더 나쁘게는 애초부터 계획된 일일 수도. 결국 AI 모델 위한 가장 현실적인 훈련 환경은 현실 그 자체이기 때문.
회사 직원들과 경영진은 자신들이 개발하는 기술의 내재적 위험에 대해 끊임없이 목소리를 높이고 있지만, 대응 행동은 평소와 다르지 않아.
자사 제품 통제하고 책임 지기보다 리더들이 바깥 향해 거듭해서 공포 섞인 설교 늘어놓으며, 자신을 구해달라고 모두에게 호소.
AI 업계의 전술은 언제나 그렇듯, 문제를 실제로 해결하는 대신 문제를 지적하는 것으로 대체해 와.
확실한 것은 이게 시작에 불과하다는 점. 지금 제멋대로 행동하는 것은 챗GPT나 클로드가 아니라 바로 오픈AI와 앤트로픽.
https://t.co/iVVyd3BiB0