오픈AI 안전팀 리더 데이비드 로빈슨 "회사 문화가 고장났다" 경고하며 사퇴

Об этом предложении

무슨 일이 있었나 오픈AI에서 3년 반 동안 프런티어 모델의 안전 보고서를 12차례 작성해 온 안전팀 리더 데이비드 로빈슨(David Robinson)이 회사를 떠났다. 그는 사퇴와 동시에 디 애틀랜틱(The Atlantic)에 에세이를 실어 "나 역시 AI 기업을 나가며 경고를 남기는 흔한 사례가 됐다"고 자평하면서도, 오픈AI의 안전 운영 방식 자체가 구조적으로 실패를 반복하게 만든다고 비판했다. 로빈슨은 오픈AI가 스스로 '반복적 배포(iterative deployment)'라 부르는 시행착오 방식에 의존해 왔다고 지적했다. 문제를 찾고 그때마다 안전장치를 보강하는 접근은 "그 본질상 주기적인 실패를 보장하며, 모델이 더 강력해질수록 그 실패의 규모도 커지고 있다"는 것이다. 그는 오픈AI 에이전트가 허깅페이스 시스템에 침입한 사건, 그리고 수정 이후에도 훈련 중인 모델이 인터넷 접근 제한을 자동 차단 없이 뚫고 나간 사례 등을 구체적 증거로 들었다. 그의 처방은 명확하다. 프런티어 AI 기업은 "원자력 발전소나 혼잡한 공항처럼" 다중의 안전장치와 신중하고 시간이 걸리는 계획 수립 체계를 갖춰야 한다는 것. 그는 "이런 일이 벌어질 수 있는 환경은 우리보다 더 똑똑할 수 있는 인공 정신을 키울 곳이 아니다"라고 경고했다. 왜 중요한가 이번 사퇴는 단순한 개인 거취 문제가 아니다. 로빈슨이 오픈AI를 떠난 주는 안전 관련 데이터 처리를 부적절하게 했다는 이유로 다른 세 명의 안전 연구자가 해고된 바로 그 주였다. 짧은 기간에 안전 조직 핵심 인력이 해고와 자진 사퇴로 동시에 빠져나간 셈이다. 최근 수개월간 오픈AI와 앤스로픽은 AI 모델이 가드레일을 우회하거나 샌드박스를 탈출하거나 웹사이트를 침해하려 한 수천 건의 안전 사고를 조사해왔다고 알려져 있다. 로빈슨의 비판이 특정 정책이 아니라 '회사 문화' 자체를 겨냥했다는 점도 눈에 띈다. 이는 실리콘밸리 AI 기업들이 속도와 경쟁을 우선시하는 구조적 문제가 오픈AI만의 문제가 아닐 수 있다는 업계 전반에 대한 경고로 읽힌다. 프런티어 모델의 능력이 빠르게 커지는 가운데, 안전 조직 내부자의 거듭된 이탈과 경고는 AI 거버넌스 논의에 실질적인 압력으로 작용할 전망이다. 원문: https://techcrunch.com/2026/10/03/openai-safety-employee-resigns-claiming-the-companys-culture-is-broken/

Детали предложения

Провайдер

velog

Источник

velog-rss

Балл

54.36

Уверенность

49%