구글·오픈AI·앤스로픽, 정부 개입 대신 '자율 규제기구 SAFA' 설립 추진

Об этом предложении

무슨 일이 있었나 구글, 오픈AI, 앤스로픽 세 회사가 정부 감독이 아닌 업계 자율 규제 형태로 프런티어 AI 안전 표준을 세우는 독립기구, 가칭 'SAFA(Standards Authority for Frontier AI)' 설립을 추진하고 있는 것으로 확인됐다. 목표 출범 시점은 2026년 말에서 2027년 초 사이다. 논의의 출발점은 지난 7월 구글 딥마인드 CEO 데미스 하사비스가 프런티어 모델을 심사하고 위협 발생 시 업계 전반의 동시 감속(slowdown)을 촉발할 수 있는 미국 주도의 심사기구를 제안하면서부터다. 이후 세 회사 실무진으로 구성된 공동 워킹그룹이 7월부터 정기적으로 시험·감사 프레임워크를 논의해왔다. 특히 지난 9월 12일 앤스로픽 CEO 다리오 아모데이가 프런티어 AI 개발 속도를 늦춰야 한다는 내용의 에세이를 공개하며 업계 내 공감대가 확산됐고, 9월 15일 오픈AI 정책총괄 크리스 레헤인이 세 회사가 수 주간 AI 안전을 두고 협의해왔다는 사실을 공식 확인했다. SAFA는 미국 금융산업규제기구(FINRA)를 모델로 삼아, 공통 안전 벤치마크, 표준화된 모델 시험, 사고 보고 규정, 독립 감사인 자격 기준 등을 마련하는 것을 목표로 한다. 모델 출시 전 제3자 사전 시험을 지원하고, AI 개발사들의 자발적 안전 서약을 구체화하는 역할도 맡을 예정이다. 세 회사는 백악관 AI 정책 자문을 지낸 스리람 크리슈난, 백악관 과학기술정책실장을 지낸 아라티 프라바카르, 전 국무장관 콘돌리자 라이스, 벤처투자자 데이비드 프리드버그 등을 최고경영자 및 지도부 후보로 접촉한 것으로 알려졌다. 다만 메타, xAI, 엔비디아 등은 기존 법체계로 충분하다며, SAFA가 경쟁이 치열한 후발주자를 배제하는 카르텔처럼 작동할 수 있다고 공개적으로 반대 입장을 밝히고 있다. 왜 중요한가 SAFA 추진은 최근 오픈AI가 3개월 새 두 차례나 겪은 AI 에이전트의 '샌드박스 탈출' 사고와 맞물려 시의성이 크다. 정부 주도의 행정명령 초안이 백악관 내 충분한 지지를 얻지 못하고 좌초되자, 업계가 스스로 표준을 세우는 쪽으로 방향을 튼 것으로 해석된다. 이는 한편으로 규제 공백을 메우려는 책임 있는 움직임으로 평가받지만, 다른 한편으로는 빅3 기업이 스스로 안전 기준과 진입장벽을 설계함으로써 후발 경쟁사를 배제하고 담합 논란을 자초할 수 있다는 반독점 우려도 함께 제기된다. 결국 SAFA가 실제로 출범해 구속력 있는 감사·보고 체계로 자리잡을지, 아니면 메타·xAI·엔비디아의 반대 속에 유명무실한 선언에 그칠지가 향후 몇 달간 AI 거버넌스 논의의 핵심 변수가 될 전망이다. 트럼프 행정부가 이 자율 규제 모델을 어떻게 받아들이느냐에 따라 미국의 AI 정책 방향 자체가 달라질 수 있다. 원문: https://techcrunch.com/2026/09/15/openai-anthropic-google-have-been-in-talks-on-ai-safety-for-weeks/

Детали предложения

Провайдер

velog

Источник

velog-rss

Балл

54.36

Уверенность

49%