오픈AI, ChatGPT 텍스트에 워터마크 삽입 시작...단 EU 지역에 한해 기본 적용

Об этом предложении

무슨 일이 있었나 오픈AI가 2026년 10월 6일(현지시간), ChatGPT가 생성한 텍스트에 워터마크를 삽입하는 기능을 EU 지역 사용자에 한해 기본으로 적용하겠다고 공식 발표했다. 오픈AI는 자사 공식 발표문에서 워터마크가 어떤 범위에 적용되는지, 탐지는 어떻게 이뤄지는지, 그리고 왜 탐지 권한을 일단 연구자 등 제한된 그룹에만 열어두는지를 설명했다. 이번 조치는 EU AI법(AI Act) 50조에 따른 것이다. 해당 조항은 생성형 AI 사업자가 AI로 만든 콘텐츠를 기계가 판독 가능한 형태로 표시하도록 의무화하고 있으며, 2026년 8월 2일부로 발효됐다. 다만 이미 시장에 나와 있던 서비스에는 2026년 12월 2일까지 유예기간이 주어진 상태다. 경쟁사인 앤트로픽은 이미 지난 8월부터 새로 출시하는 클로드 모델에 텍스트를 복사하거나 일부 편집해도 사라지지 않는 비가시 워터마크를 심어왔다. 반면 오픈AI는 2024년 한 차례 자체 연구에서 ChatGPT 이용자의 약 3분의 1이 워터마크 도입 시 사용을 줄이겠다고 답한 결과가 나오자 관련 계획을 보류한 바 있다. 이번 발표로 오픈AI도 결국 규제를 계기로 워터마크 도입에 나선 모양새다. 탐지 기능은 아직 전면 공개되지 않았으며, 규제당국·수사기관·언론·팩트체커·연구기관·EU 컴플라이언스 기업 등에 한해 비공개 프리뷰 형태로 제공된다. 왜 중요한가 텍스트 워터마킹은 이미지·음성 워터마킹과 달리 기술적 난도가 높다. 모델이 다음 단어를 고를 때 특정 단어를 통계적으로 더 자주 선택하도록 미세하게 편향을 주는 방식으로 구현되는데, 사람 눈에는 티가 나지 않지만 충분히 긴 글에서는 탐지기가 패턴을 잡아낼 수 있다. 문제는 이 패턴이 짧은 글이나 번역·편집을 거친 글에서는 쉽게 깨질 수 있어 완벽한 해법이 아니라는 점이다. 그럼에도 오픈AI의 이번 결정은 업계 전반에 신호를 준다. 세계 최대 AI 서비스 사업자가 규제가 없는 지역에서는 워터마크를 적용하지 않기로 한 것은, 결국 '어느 시장이 규제하느냐'가 AI 투명성 기능의 실질적 적용 범위를 좌우한다는 사실을 보여준다. 동시에 생성형 AI를 활용한 허위정보·표절·학술 부정행위 문제가 커지는 가운데, 콘텐츠 출처 판별 기술이 일부 기관에만 열려 있는 '비대칭 탐지' 구조가 당분간 이어질 전망이어서, 워터마크의 실효성과 공정한 접근성을 둘러싼 논쟁은 계속될 것으로 보인다. 원문: https://openai.com/index/eu-text-provenance

Детали предложения

Провайдер

velog

Источник

velog-rss

Балл

54.39

Уверенность

49%