인공지능(AI) 개발 속도 조절론이 제기되고 있는 가운데, 국내 시민사회에서는 '금지 AI' 규제를 도입해야 한다는 주장이 나왔다. AI가 사회에 미치는 파급력이 커지는 만큼 인간의 기본권을 침해하는 AI 유형을 법으로 규정하고, 개발을 금지해야 한다는 것이다. 이에 대해 정부는 산업계 위축이 우려된다며 신중한 접근이 필요하다는 입장을 밝혔다.

4일 국회에서는 참여연대 주최로 '금지 AI 규제 마련을 위한 인공지능기본법 개정 토론회'가 열렸다.

이날 토론회를 공동 주최한 국회 과학기술정보방송통신위원회 소속 김선민 조국혁신당 의원은 "올해 1월 인공지능기본법이 시행됐지만, 이 법에는 중요한 것이 빠져 있다"며 "어떤 인공지능은 만들어서도 써서도 안 된다는 분명한 선이다"고 말했다.

김 의원은 유럽연합(EU)의 AI법(EU AI Act)에 금지 AI에 대한 규정이 있다는 점을 짚으며 "금지 규정은 혁신을 가로막는 벽이 아닌 기업에도 넘지 말아야 할 선을 미리 알려 주는 가드레일"이라고 덧붙였다.

"EU AI법처럼 '금지 AI' 명문화해야"
이날 발표에 나선 유승익 헌법학자 겸 참여연대 AI TF 위원도 EU의 AI법에 있는 '금지 AI' 조항을 참고한 AI 기본법 개정안을 제안했다.

유 위원은 금지할 AI의 유형으로 개인이나 집단의 행동을 왜곡하거나 차별을 초래하는 AI 시스템을 꼽았다.

△사람 또는 특정 집단의 연령, 신체적·정신적 장애, 사회적·경제적 취약성을 악용해 해당 개인이나 집단에게 상당한 피해를 초래하거나 행동을 중대하게 왜곡하는 AI 시스템 △인간의 심리, 사고 또는 행동을 왜곡하기 위한 의도로 사람의 인지능력을 초월한 잠재의식에 영향을 미치는 AI 시스템 △사람이나 집단의 사회적 행동 또는 인격적 특성에 기초해 개인의 신뢰도를 평가·분류하고, 이를 근거로 비례성을 결여한 차별적 처우나 불이익을 가하는 대규모 사회적 평점 AI 시스템 등이다.

또 생체 정보를 대규모로 수집해 사람을 추적하고 통제하거나 살상을 목적으로 하는 AI 시스템도 금지 대상으로 규정해야 한다고 주장했다.

△인터넷이나 영상정보처리기기 등을 통해 불특정 다수의 얼굴 이미지를 목적 없이 무단 수집해 안면 인식 데이터베이스를 생성하거나 확장하는 AI 시스템 △범죄 수사 및 법 집행을 위해 공개적으로 접근 가능한 공공장소에서 사람을 실시간으로 원격 생체 식별하는 AI 시스템 △의료 또는 안전상의 법정 사유를 제외하고, 직장 및 교육기관에서 사람의 감정을 인식, 추론 또는 예측하려는 목적의 AI 시스템 △민감정보를 추론할 목적으로 생체인식정보를 기반으로 사람을 개별적으로 분류하는 AI 시스템 △인간의 유의미한 실질적 통제 없이 무기의 타격 및 살상 결정을 자율적으로 수행할 목적의 AI 시스템 △인적 개입에 의한 객관적 검증 없이 사람의 특성이나 프로파일링만을 근거로 범죄 발생 가능성을 평가·예측하는 치안 및 수사 목적 AI 시스템 등이 여기에 속한다.

지난 1월 22일 세계 최초로 시행된 현행 AI 기본법은 사용자의 기본권·생명 등에 중대한 영향을 끼치는 '고영향 AI' 서비스 제공 기업에 강화된 책임을 부과하고 있다. 그러나 이 같은 규제가 AI 발전을 저해할 수 있다는 업계의 우려를 반영해 정부는 최소 1년 이상 규제 유예를 적용했다.

유 위원은 고영향 AI에 대한 관리 책임을 부과하는 방식만으로는 AI 기술의 오남용을 막기 힘들다며, EU의 AI법처럼 개발 및 배포를 원천 차단하는 금지 영역을 신설해야 한다고 주장했다.

유 위원은 "AI 기술이 창출하는 산업적·경제적 효용이 지대하다 할지라도, 인간의 존엄성과 기본권의 본질적 내용을 훼손하는 수용 불가능한 위험은 어떠한 공익적·산업적 명분으로도 정당화될 수 없다"며 "특히 파편적이고 사후적인 개별 실정법의 접근 방식이 지닌 규제 사각지대를 해소하기 위해선 일반법인 AI 기본법 내에 실체적·절차적 통제 장치가 즉각적으로 편입돼야 한다"고 말했다.


정부 "EU에서도 법 집행 사례 없어…국제적 공감대 필요"
이에 대해 AI 기본법 주무 부처인 과학기술정보통신부는 "금지 AI 제도의 취지에 대해서는 공감한다"면서도 산업계를 크게 위축시킬 우려가 있어 신중한 접근이 필요하다는 입장을 밝혔다. 어떤 AI 시스템이 금지 AI에 해당하는지 명확히 판단하기 어렵고, AI 개발 단계부터 특정 행위를 금지하기 때문에 산업계와 학계, 전문가들의 폭넓은 의견 수렴을 거쳐야 한다는 얘기다.

특히 정부는 금지 AI 규정을 EU를 제외한 다른 국가에서 도입하지 않고 있으며, EU에서도 아직 금지 AI 관련 법 집행 사례가 없다는 점을 들어 중장기적인 검토가 필요하다고 밝혔다. 금지 AI 규제의 필요성에 대한 국제적 공감대가 형성된 이후 규정 도입을 논의해야 한다고도 덧붙였다.

또한 개인정보보호법, 성폭력처벌법, 정보통신망법 등 개별법에서 기본권 침해 행위를 방지하고 처벌하기 위한 규정을 마련하고 있다며, 이를 토대로 AI 및 첨단 기술의 악용 행위를 제재하는 게 바람직하다는 입장이다.

이날 토론회에 참가한 심지섭 과기정통부 인공지능안전신뢰정책과 사무관은 "금지 AI와 관련해 제도 개선 연구반 통해 논의하고 있지만, 개념의 모호함에 대한 우려가 있다"며 "사회적 합의가 이뤄지고, 개념이 구체화된다면 금지 AI 규정이 필요하다고 본다"고 말했다.

이어 "다만 현시점에서 AI나 해킹, 카메라 등을 통해 개인정보가 침해된다고 했을 때 개인정보보호법상 규정이 있기 때문에 전문성을 갖고 집행력을 가진 개인정보보호위원회가 소관을 하는 게 맞는다고 보고 있다"고 밝혔다.

한편 정부는 오는 12월 중 AI 기본법의 규제 유예 기간을 연장할지 여부를 결정해 발표할 예정이다.

Ktiger@news1.kr