(사진=AFP)
발표 직후 사회관계망서비스(SNS)에서는 “답변의 질이 떨어지는 것 아니냐”, “내가 직접 쓴 글을 교정만 맡겨도 AI가 만든 글로 찍힌다”는 등 곤혹스럽다는 반응이 잇따랐다. “다시는 쓰지 않고 해지하겠다”는 강한 반발도 일부 나왔다.
앤스로픽이 워터마크를 도입하는 것은 규제에 맞추기 위해서다. 유럽연합(EU) AI법은 투명성과 신뢰성을 확보한다는 취지로 콘텐츠가 AI가 만든 것임을 표시하도록 요구하고 있다. AI 개발사들은 신모델은 이달, 기존 모델은 오는 12월까지 이에 대응해야 한다. 어길 경우 최대 1500만유로(약 245억 6370만원) 또는 전 세계 연매출의 3% 가운데 큰 금액이 과징금으로 부과된다.
워터마크는 이미지 등에서는 AI가 만들었다는 표시를 자동으로 띄우거나 파일 정보에 심어두는 방식이 일반화됐지만, 글에서는 아직 보급이 더디다. 앤스로픽은 구체적인 기술 사양을 밝히지 않았으나, 글에 넣는 워터마크는 사람이 봐서는 알아채지 못하는 것으로 “글을 복사해 붙여넣어도 워터마크는 남으며, 손을 댄 뒤에도 지워지지 않는 경우가 있다”고 설명했다. 답변의 품질에는 영향을 주지 않는다는 것이다.
글에 넣는 워터마크의 현재 주류는 AI가 문장을 만들 때 단어를 고르는 방식에 사람이 부자연스럽게 느끼지 않을 범위에서 AI 특유의 ‘버릇’을 남기는 기법이다. 사람이 읽으면 자연스럽지만 시스템으로 분석하면 검출할 수 있는 통계적 특징을 심어두는 식이다.
미국 오픈AI 등 다른 기업들도 순차적으로 워터마크를 도입할 것으로 보인다. 다만 오픈AI는 이미지와 음성에는 관련 기술을 쓰면서도 글에 대해서는 아직 탐지 체계를 공개하지 않았다. 구글은 2024년부터 AI ‘제미나이’가 만든 글에 자체 개발한 ‘신스ID’ 워터마크를 적용하고 있다. 업계에서 워터마크 도입이 이미지와 영상에서 글과 음악 등 콘텐츠 전반으로 번지고 있다.
다만 글이 AI가 만든 것인지 높은 정확도로 가려내기는 어렵다. 부정 이용을 막는 데 얼마나 실효성이 있을지는 현시점에서 가늠하기 어렵다. 워터마크를 확인할 수 있는 탐지 도구조차 아직 나오지 않았다. 앤스로픽은 “워터마크 검출은 해당 콘텐츠에 클로드가 관여했을 가능성을 보여주는 단서일 뿐 완전한 뒷받침은 되지 않는다”고 밝혔다. 사람이 쓴 글을 클로드로 교정하거나 번역, 요약한 경우에도 AI가 만든 글로 판별될 수 있다.
실제로 이미지나 영상처럼 ‘파일’ 형태인 데이터와 달리, 글 자체에 AI가 만들었다는 증거를 심는 것은 기술적 문턱이 높다. 이 때문에 AI가 만들거나 손댄 분량이 적을 때, 크게 고쳐 썼을 때, 다른 AI가 쓴 글과 섞었을 때는 AI가 남긴 특징을 가려내기 어려워 정확도가 떨어지기 쉽다.
일부 대학 과제나 학술 논문에서는 AI 사용을 금지하는 움직임이 있다. 이런 용도에서도 이용자가 AI가 쓴 글에 손을 대면 워터마크의 효과를 흐릴 수 있다. 반대로 AI가 만든 것임을 잡아내기 쉬운 경우는 클로드 등으로 상당한 분량의 글을 통째로 만들었을 때, 그리고 파일 형태로 내보내 디지털 서명이 심어졌을 때다.
AI가 만든 것인지 가려내려는 움직임은 SNS 등 콘텐츠 유통 쪽에서도 나타나고 있다. 비즈니스 SNS 링크트인은 질 낮은 AI 게시물을 신고할 수 있는 기능을 시작했고, AI가 쓴 글을 높은 정확도로 잡아낸다고 내세우는 미국 신생기업 팡그램 같은 서비스도 등장했다.
