"인공지능(AI) 기술이 사회 전반을 빠르게 재편하고 있지만, 법·제도는 그 속도를 따라가지 못하는 게 현실입니다. 이럴 때일수록 기본과 상식으로 돌아가 사회적 합의점을 찾아야 합니다." 이수정 한국IBM 대표이사 사장은 지난달 26일 서울 영등포구 국제금융로 threeIFC 6층 블루브리핑룸에서 진행한 뉴스1과 인터뷰에서 "EU AI 법(EU AI Act)이나 한국의 AI 기본법 등이 논의되고 있지만, 기업별로 적용할 수 있는 구체적인 조항이 없다. (기술 속도와 법·제도 간) 분명히 갭(Gap)이 크다"며 이같이 말했다.

이 사장은 "개발·배포자가 의도하지 않았는데 이용자가 AI를 악용할 때, 개발자가 개발 단계부터 좋지 않은 의도를 포함했을 때 등 다양한 케이스 연구가 필요하다"며 "AI 규제는 0과 1의 이분법적 규제가 불가능하다. 개발자와 배포자, 이용자 간 책임 소재를 디테일하게 정의해야 한다"고 진단했다.

이 사장은 향후 AI를 둘러싼 법적 체계가 각국 법원의 판례를 중심으로 구체화할 것으로 내다봤다.

이 사장은 "자율주행차로 예를 들면 새로운 유형의 사고와 분쟁이 발생할 때마다 쌓인 판례들을 기준점 삼아 정책과 법규로 발전시킬 것"이라며 "AI와 데이터가 통계적 합리성을 갖췄더라도 최종 거버넌스엔 윤리적인 판단을 할 수 있는 인간이 반드시 개입해야 한다"고 설명했다.


AI 에이전트의 통제 권한과 책임의 문제에는 "EU AI 법과 AI 기본법을 비롯한 국제적 기준, 글로벌 기업들이 선제적으로 시행 중인 사례들을 벤치마킹해 기준점을 마련해야 한다"고 했다.

최근 선도 AI 에이전트 모델 등이 쇼핑을 대행할 때 어디까지 허용할 것인지를 두고 기존 빅테크와 혁신 스타트업 간 '헤게모니' 논쟁이 벌어지고 있다.

전 세계 현행법은 사람이 직접 구매하는 것을 전제로 제정돼 AI 에이전트의 활동 범위에 명확한 기준이 없는 상태다.

이 사장은 "AI는 결국 인간이 만들고 인간이 사용하는 기술"이라며 "기술의 영향력 대비 규제가 미비한 현시점에선 기업 스스로가 시민 의식을 가지고 기술이 사회에 미칠 영향을 먼저 고민해야 한다"고 제언했다.

그는 특히 AI 윤리는 단순한 규제 대응이 아닌 기업이 시장의 신뢰를 바탕으로 성장하기 위한 '전략적 선택'이라고 강조했다.

그는 "자사 자체 연구에서 윤리 부문에 투자하는 상위 25% 기업들이 그렇지 못한 하위 25% 기업보다 약 30% 더 높은 수익을 낸 것으로 나타났다"며 "날이 갈수록 경쟁이 심해져 기업들이 윤리를 간과할 수 있지만, 기술 설계 단계부터 AI 윤리를 고려해야만 장기적으로 지속 성장할 수 있을 것"이라고 언급했다.


IBM은 '글로벌 AI 윤리 프레임워크'를 자체 도입해 제품 개발 초기부터 적용하고 있다.

이 사장은 "IBM은 2011년 왓슨 플랫폼 개발 당시부터 이러한 윤리적 토대를 선제적으로 고민해 왔다"며 "정부 규제에 반응적으로 대응하는 것이 아닌 기업 시민으로서 책임감을 가지고 AI 설계·디자인 단계부터 윤리를 기본 사상으로 내재화해야 한다"고 말했다.

마지막으로 "지금 당장은 치열한 경쟁 때문에 AI 발전 속도가 중요해 보일 수 있지만 신뢰할 수 있는 AI를 제공하는 기업만이 살아남는 건 시간문제"라며 "깊은 고찰 없이 설계한 AI는 결국 나중에 더 큰 문제를 초래할 것"이라고 경고했다.

이어 "윤리적 토대를 고민하는 것이 느리게 보일 수 있지만 결코 느린 것이 아니다"며 "윤리적 투자는 규제를 피하기 위한 비용이 아닌 기업의 핵심 경쟁력이 될 것"이라고 했다.

이 사장은 30여년간 IBM·오라클과 아마존웹서비스(AWS) 등 글로벌 기업을 두루 거친 후 2023년 다시 IBM에 합류해 부사장을 맡았다. 올해 7월 대표이사 사장으로 선임됐다.

이수정 한국IBM 대표이사 사장 약력
△1970년생 △연세대 생화학과 △연세대 생화학과 석사 △서울대 경영전문대학원 석사 △한국IBM 시스템 엔지니어 △한국IBM ITS 금융영업 총괄 △한국 오라클 ERP 컨설팅 사업 담당 △한국 오라클 전략 기획 전무(COO) △한국 오라클 삼성본부 영업 총괄 △AWS 교육 및 헬스케어 클라우드 사업 총괄 △한국IBM 부사장 △2025년 7월 한국IBM 대표이사 사장

ideaed@news1.kr