인공지능(AI) 산업 육성과 안전한 활용을 뒷받침한다는 목표로 AI 기본법이 시행된 지 2개월을 넘기면서 정보기술(IT) 업계에서는 서비스 운영정책을 AI 기본법 규정과 발 맞추려는 움직임이 속속 포착되고 있다.

특히 생성형 AI를 서비스에 활용했다는 사실을 이용자에게 사전 고지하는 '투명성 확보 의무'를 두고 사업자와 이용자 모두가 민감하게 반응하는 모양새다.

9일 네이버(035420)에 따르면 네이버 광고주센터는 13일부터 애드부스트(ADvoost) 소재를 통해 제작한 광고 전체에 'AI 활용'이란 워터마크를 자동 표기한다.

애드부스트는 AI를 기반으로 광고 제작과 집행을 돕는 네이버의 기술 설루션 브랜드다. AI가 데이터를 정교하게 분석해 광고 타기팅을 설정하고 소재 생성, 광고 캠페인 설정·운영, 광고 게재 위치 선정 등 전 과정을 자동화해 준다.

애드부스트가 AI 기능을 포함한 서비스인 만큼 해당 소재로 등록된 모든 이미지 광고에는 앞으로 AI 활용 마크를 자동 부착한다.

네이버 관계자는 "최근 제정된 AI 기본법 제31조에 따라 생성형 AI를 활용해 제작된 콘텐츠는 사용자가 명확히 인식할 수 있도록 AI 생성물임을 표시해야 한다"며 "투명한 광고 정보 제공과 소비자 보호를 위한 조치"라고 설명했다.


앞서 카카오톡에 생성형 AI 기능 '카나나 템플릿'을 새롭게 추가한 카카오(035720) 역시 해당 기능으로 제작한 영상에 '카나나'(kanana) 마크를 표시하고 있다.

카카오는 1월 카나나 템플릿 기능이 포함된 카카오톡 업데이트를 단행했다. 카나나 템플릿은 카카오의 이미지 기반 영상 생성 AI 모델 '카나나-키네마'를 기반으로 작동한다.

서비스는 사진 1장을 움직이는 영상으로 변환해 주는 'AI 템플릿'과 여러 사진을 조합해 슬라이드 영상으로 만들어 주는 '브이로그 템플릿'으로 구분되는데, 카카오는 이 중 AI 템플릿으로 생성한 영상에 카나나라고 쓰인 가시적 워터마크를 자동 표시한다.

반면 생성형 AI를 자사 서비스에 활용하고 이 사실을 이용자가 확인할 수 있도록 명시하지 않아 곤혹을 치른 경우도 있다.

펄어비스(263750)는 신작 '붉은사막'에 등장하는 일부 이미지를 생성형 AI로 제작했지만 이를 미리 알리지 않아 지난달 22일 붉은사막 공식 엑스(X)를 통해 사과문을 게재했다.

당시 논란이 된 이미지는 말 뒷다리가 3개이거나 관절 형태가 비정상적으로 표현되는 등 어색한 모양새로 이용자들의 반발을 샀다. 펄어비스는 실험용으로 사용한 생성형 AI가 의도와 다르게 최종 배포 버전에 포함됐으며, AI 활용 사실을 명확히 공개했어야 했다는 점을 인정한다고 밝혔다.


AI 활용이 빈번한 IT 업계는 AI 기본법이 규정하는 여러 가이드라인 중에서도 특히 AI 활용 사실을 명시해야 하는 투명성 확보 의무 정책을 강화하고 있다.

과학기술정보통신부가 지난달 30일까지 AI 기본법 지원데스크를 10주간 운영한 결과에서도 온라인 상담 접수된 내용 중 51%가 투명성 확보 의무 관련으로 가장 많은 비중을 차지했다.

투명성 확보 의무 조항(AI 기본법 제31조)은 AI 사업자가 고영향·생성형 AI를 이용한 제품이나 서비스를 제공할 경우 그 사실을 이용자에게 사전 고지하도록 규정한다. 해당 결과물이 생성형 AI로 만들어졌다는 사실도 명확히 인식할 수 있는 방식으로 표시해야 한다.

과기정통부가 발간한 상담 사례집에 따르면 많은 AI 사업자들이 투명성 확보 의무와 관련해 워터마크 표시 방식이나 기준 등을 모호해하는 것으로 나타났다.

사례집은 AI 생성물의 제공 형태에 따라 표시 방법이 달라진다고 설명했다. 앱이나 사용자 인터페이스(UI) 안에서만 서비스가 제공될 경우 이용 전 안내나 서비스 화면 로고·문구 표시로 충분하다.

반면 다운로드·공유 등 외부 반출 기능을 제공할 때는 생성물 자체에 메타데이터나 디지털 워터마크 등 표시를 포함해야 한다. 비가시적 방법을 이용하려면 다운로드 시점에 이용자에게 최소 1회 이상 별도 안내가 필요하다.

한편 AI 기본법은 최소 1년 이상의 계도기간을 두고 단계적으로 적용될 예정이다. 투명성 확보를 포함해 법이 규정한 AI 사업자의 의무를 이행하지 않을 시 집행하는 사실조사나 과태료 역시 계도기간에 따라 순차 적용된다.

bean@news1.kr