과학기술정보통신부 /뉴스1
인간중심성과 프라이버시 보호, 공정성·포용성 등 7대 원칙을 제시하되 법적 구속력은 두지 않았다. AI 혁신을 제한하는 규제보다는 개발·활용 과정에서 판단의 기준으로 삼을 수 있는 자율적 가이드로 운영한다는 방침이다.
과학기술정보통신부와 정보통신정책연구원(KISDI)은 24일 제12회 과학기술관계장관회의에서 '대한민국 인공지능 윤리원칙'이 심의·의결을 거쳐 확정됐다고 밝혔다.
윤리원칙은 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법'(AI 기본법) 제27조에 따라 마련됐다. AI를 개발·제공하고 이용하는 주체와 정부·사회가 함께 지켜야 할 공통의 가치와 원칙을 담았다.
사회 전 영역에서 분야별 AI 윤리기준과 지침을 마련할 때 토대가 되는 상위 원칙의 성격을 갖는다.
다만 법령을 대체하지 않으며 법적 구속력도 없다. 윤리원칙을 위반했다고 처벌이나 과징금 등의 제재를 받는 구조가 아니라 AI를 개발하고 이용하는 과정에서 각 주체가 자율적으로 참고하는 기준이다.
정부는 AI를 둘러싼 가치가 충돌하거나 판단이 필요한 상황에서 각 주체가 갈등을 줄이고 답을 찾아가는 실천 방향을 제시하는 데 초점을 맞췄다고 설명했다.
대한민국 인공지능 윤리원칙 주요 내용 (과기정통부 제공)
인간 존엄·공공선·지속가능성 3대 가치…7대 원칙 제시
윤리원칙은 3대 가치와 7대 원칙으로 구성됐다.
3대 가치는 △인간의 존엄성 △사회의 공공선 △인류의 지속가능성이다.
'인간의 존엄성'은 모든 사람이 수단이 아닌 목적 자체로 존중받고 AI 시대에도 존엄과 인권을 온전히 누려야 한다는 의미다.
'사회의 공공선'은 AI가 만들어내는 편익이 일부에 머물지 않고 사회적 신뢰와 공동의 이익으로 이어져야 한다는 가치다. '인류의 지속가능성'에는 AI의 혜택을 현재와 미래 세대가 함께 누리면서 환경과 사회적 기반을 지속해야 한다는 방향을 담았다.
이를 구현하기 위한 7대 원칙은 △인간중심성 △프라이버시 보호 △공정성·포용성 △책임성 △안전성 △신뢰성 △투명성이다.
AI의 개발부터 제공·이용까지 전 생애주기에 걸쳐 적용하는 공통 기준이다. 각 원칙에는 AI 공급자와 이용자, 정부·사회 등 주체별로 어떤 역할을 해야 하는지도 구체적으로 제시했다.
예컨대 AI를 활용하더라도 인간의 존엄성과 자율성을 우선하고 개인정보를 보호해야 한다. AI의 판단이나 서비스가 특정 집단에 불합리한 차별을 초래하지 않도록 공정성과 포용성을 고려하고, AI의 개발·활용에 따른 책임과 안전성도 확보하도록 했다.
AI 시스템이 목적에 맞게 안정적으로 작동할 수 있도록 신뢰성을 확보하고 AI가 활용되고 있다는 사실이나 작동 과정에 필요한 정보를 제공하는 투명성도 공통 원칙에 포함됐다.
대한민국 인공지능 윤리원칙 주요 내용 (과기정통부 제공)
정부가 국가 차원의 AI 윤리 기준을 다시 정비한 것은 2020년 '인공지능 윤리기준'을 마련한 지 6년 만이다.
그 사이 생성형 AI가 일상과 산업 현장으로 빠르게 확산했고 AI가 단순한 정보 제공을 넘어 사람의 판단과 업무를 대신하는 영역도 넓어졌다.
AI 활용이 생산성 향상과 기후변화·고령화·지역 격차 등 사회문제 해결에 기여하는 동시에 노동 감시와 과의존, 일자리 변화, 저작권 등 새로운 문제가 나타나고 있다는 게 정부의 판단이다.
특히 채용이나 평가처럼 개인의 삶에 직접적인 영향을 미치는 판단을 AI에 어디까지 맡길 것인지, 고도화된 AI가 의도하지 않은 행동을 할 경우 어떻게 통제할 것인지 등 안전과 신뢰를 둘러싼 문제도 커졌다.
정부는 이에 2020년 윤리기준을 계승하면서 기술 발전과 AI 기본법 시행 등 달라진 환경을 반영해 새로운 윤리원칙을 마련했다.
이번 윤리원칙에서 눈에 띄는 변화 중 하나는 AI를 개발·제공하는 공급자뿐 아니라 AI를 사용하는 이용자도 책임 있는 AI 활용의 주체로 명확히 설정했다는 점이다.
AI의 안전과 윤리 문제를 개발사만의 책임으로 보지 않고 AI를 업무나 일상에서 활용하는 개인·조직 역시 그 결과와 영향을 고려해야 한다는 취지다.
국제사회를 향한 원칙도 담았다. AI 역량과 자원을 많이 보유한 국가와 기업에는 영향력에 걸맞은 책임을 요구하고, AI가 가져오는 혜택이 특정 국가나 지역·집단에 편중되지 않아야 한다는 방향을 제시했다.
정부는 윤리원칙을 실제 현장에서 활용할 수 있도록 후속 작업에 착수한다.
사례 중심 해설서와 분야별 자율점검표, 대상별 윤리교육 교재 등을 마련해 보급하고 기술·사회 환경 변화에 맞춰 윤리원칙을 지속적으로 점검·보완할 계획이다.
배경훈 과기정통부 장관 겸 부총리는 "AI 혁신을 가속하는 것과 안전하고 신뢰할 수 있는 AI 환경을 조성하는 것은 서로 대립하는 과제가 아니다"라며 "AI 윤리원칙이 AI에 대한 사회적 신뢰를 높이고 바람직한 개발·활용과 혜택의 확산을 돕는 실천의 기준으로 자리 잡도록 뒷받침하겠다"고 말했다.
shushu@news1.kr
