이러한 현장의 변화에도 불구하고 우리의 제도와 사회적인 인식은 실시간으로 진화하는 AI 속도를 따라가지 못해 혼란과 공백이 생기는 ‘AI 아노미(Anomie)’ 상태다. 생성형 AI 기술이 정교해지면서 사진이나 영상을 활용한 딥페이크 범죄나 목소리를 흉내 낸 보이스피싱이 급증하고 있다. 이미지 조작을 통해 사실을 왜곡하는 가짜뉴스의 폐해도 나타나고 있다. 산업현장에서는 AI를 업무에 활용하면서 시스템 오류나 데이터의 검증 문제, 신기술에 대한 안전 인증 및 검사 등의 시스템이 미비해 불안감을 떨치지 못하고 있다. AI 혁명은 개인 간, 기업 간의 격차도 키우고 있다. 대기업군에게는 AI가 경쟁력을 높이는 기회가 되지만 경영환경이 어려운 중소기업에는 상대적인 취약점이 되고 있다.
AI 시대를 안전하게 살기 위한 몇 가지 조언을 해본다.
첫째, 질문하고 검증하는 개인 역량을 키워야 한다. AI 시대는 자신이 원하는 답을 빠르고 정확하게 찾는 것이 경쟁력이다. AI는 어떻게 질문하느냐에 따라 답의 내용과 질이 달라진다. 자신이 가진 질문 역량이 경쟁력이 된다. 또한 질문을 통해 얻은 답이 오류나 편향 등이 섞여 있는 것은 아닌지 옥석을 가릴 수 있는 사실 확인과 교차 검증의 역량이 요구된다. 최근 인문학에 대한 관심과 수요가 증가하는 현상은 이와 무관하지 않다.
둘째, 안전한 AI 개발과 투명한 공개다. AI 기술을 개발하는 기업들은 설계단계에서 ‘만약’의 상황에 대비하는 ‘선제적 안전장치’를 마련해야 한다. 또한 자신들이 만든 AI가 어떤 데이터를 학습하고 어떤 알고리즘을 거쳤는지 사용자에게 투명하게 공개할 수 있어야 한다. 개발한 AI 기술은 주기적으로 점검하고 고도화해 이용자가 안심하고 사용할 수 있도록 해야 한다.
마지막으로는 AI 시대에 맞도록 법과 제도를 정비해야 한다. 정부는 AI를 안심하고 사용할 수 있도록 안전 관련 법과 제도를 신속하게 마련해 관련 산업을 지원하고 AI를 이용한 신종 범죄를 예방하기 위한 시스템을 구축해야 한다. 아울러 AI로 인해 일자리를 잃거나 소외되는 사람들이 없도록 정책을 수립하고 어려움을 겪는 계층에 대해서는 촘촘한 지원대책을 마련해야 한다.
AI 시대는 우리가 경험하지 못한 새로운 세상이다. 그러나 속도와 편리성 그리고 생산성에 주목하면서 시스템 오류나 휴먼 에러 등에 의한 사고에는 둔감한 상황이다.
새로운 기술은 필연적으로 새로운 위험을 생산한다. 얼마 전 교황 레오 14세는 즉위 후 처음으로 발표한 회칙 ‘위대한 인간성(Magnifica Humanitas)’을 통해 “AI가 인간을 돕는 도구를 넘어 인간 행동을 예측하고 유도하고 통제하는 권력으로 변질될 가능성이 있다”고 경고했다. 새로운 위험으로부터 사람을 지킬 수 있는 AI 안전대책 마련이 시급하다.
