국가 연구개발(R&D) 과정에서 인공지능(AI)을 활용하더라도 최종 연구 결과에 대한 책임과 권리는 연구자에게 귀속된다. 연구자는 AI가 생성한 정보의 사실관계를 검증하고 어떤 모델을 어디에 활용했는지도 투명하게 공개해야 한다.

과학기술정보통신부는 국가과학기술자문회의 운영위원회 심의·의결을 거쳐 '국가연구개발 AI 연구윤리 가이드'를 확정했다고 20일 밝혔다.

가이드는 최근 AI가 문헌 조사와 데이터 분석, 논문 작성 등 연구 전 과정에 빠르게 확산하면서 연구 생산성은 높아졌지만 부정확한 정보 생성과 편향, 보안·개인정보 유출, 출처가 불분명한 자료 인용 등 새로운 연구윤리 문제가 나타난 데 따라 마련됐다.

가이드에서는 국가연구개발에서 AI의 역할을 연구자를 돕는 '도구'로 한정했다. AI는 법적·도덕적 책임을 질 수 없는 만큼 논문 저자나 발명자로 인정하지 않으며, AI를 활용해 만든 최종 연구 결과물에 대한 책임과 권리는 연구자가 갖는다.

연구자가 지켜야 할 7대 권고사항으로는 △사실관계 검증 △주체적 판단 △투명성 확보 △결과 신뢰성 관리 △정책·규정 준수 △보안 확보 △개인정보 보호 등을 제시했다.

아울러 평가자도 연구계획서와 결과보고서, 논문 등 평가 대상 자료를 외부 AI 서비스에 입력해서는 안 된다고 강조했다. 보안 정보나 개인정보가 외부로 유출될 수 있기 때문이다.

연구자가 AI를 이용해 평가를 왜곡하는 행위도 금지된다. 사람에게는 보이지 않지만 AI가 읽을 수 있는 명령어를 문서에 숨겨 평가 결과를 유리하게 유도하는 '은닉 프롬프트' 등이 대표적이다. 정부는 이런 행위가 평가 신뢰성을 훼손하는 연구부정행위에 해당해 관련 법령에 따라 제재될 수 있다고 명시했다.

연구자가 스스로 AI 활용 과정을 확인할 수 있는 '연구자 자가진단표'도 마련했다. 허위 참고문헌이나 왜곡된 이미지가 없는지, AI 모델과 버전·활용 방법을 공개했는지 미발표 연구데이터나 특허 출원 예정 기술을 상용 AI에 입력하지 않았는지 등을 점검할 수 있다.

홍순정 과기정통부 성과평가정책국장은 "AI는 연구의 효율성을 혁신적으로 높일 수 있는 유용한 도구지만 그에 대한 최종 책임은 언제나 연구자에게 있다"며 "책임 있는 AI 활용 문화를 정착시키고 국가연구개발의 연구 진실성을 확보할 수 있는 계기가 되기를 기대한다"고 말했다.

minju@news1.kr