과학기술정보통신부는 국가과학기술자문회의 운영위원회 심의·의결을 거쳐 ‘국가연구개발 AI 연구윤리 가이드’를 확정했다고 20일 밝혔다.
이번 가이드는 AI 활용을 규제하기 위한 것이 아니라 국가R&D 전 과정에서 연구자가 AI를 책임 있고 윤리적으로 활용하도록 지원하기 위해 마련됐다. 생성형 AI 활용이 늘면서 허위 정보 생성과 기존 자료의 편향 답습, 보안·개인정보 유출, 출처가 불분명한 자료의 부적절한 인용 등 새로운 연구윤리 위험이 커지고 있어서다.
가이드의 기본원칙은 “국가R&D에서 AI의 역할은 도구로 제한되며, 최종 결과물에 대한 책임과 권리는 AI를 활용한 연구자에게 귀속된다”는 것이다.
AI는 문헌 조사·요약, 번역, 문법 교정, 기초 코딩, 데이터 정리, 시뮬레이션 등 연구 효율성을 높이는 보조도구로 활용할 수 있다. 하지만 AI 자체에 저자나 발명자로서의 지위와 권리는 인정하지 않는다.
연구자가 AI를 활용할 때 지켜야 할 기준은 △사실관계 검증 △주체적 판단 △투명성 확보 △결과 신뢰성 관리 △정책·규정 준수 △보안 확보 △개인정보 보호 등 7가지다.
우선 AI가 생성한 정보의 오류와 핵심 자료 누락, 출처의 존재·진위 여부를 검증해야 한다. AI의 환각으로 연구 결과가 왜곡되거나 부적절한 연구행위로 이어지는 것을 막기 위해서다.
AI가 만든 자료를 그대로 받아들여서도 안 된다. 연구자는 논리적 타당성과 전문지식을 바탕으로 내용을 검토하고 자신의 관점을 반영해 재구성해야 한다.
AI 활용 사실도 공개해야 한다. 연구 과정에서 AI를 사용했다면 최종 결과물 제출이나 발표 때 모델·버전과 활용 목적·범위 등을 투명하게 밝히도록 했다. 정보 수집, 데이터 추론, 연구데이터 정리, 문법·오타 점검, 번역 등 AI를 활용한 범위도 포함된다.
AI를 활용했더라도 연구개발 성과의 구현 과정을 연구자가 논리적으로 설명할 수 있어야 한다. 소속 연구기관이나 논문을 투고할 학술지·출판사별 AI 활용 정책과 관련 규정도 사전에 확인하고 준수해야 한다.
◇보안 연구는 허가된 AI만…개인정보 입력도 주의
보안과 개인정보 보호도 주요 권고사항에 포함됐다.
보안이 필요한 연구에 AI를 활용할 경우 연구개발기관이 허가한 보안 환경의 도구를 사용해야 한다. 특히 미출원 기술이나 기술이전 협상 중인 기술 등 비공개 정보가 외부 AI에 입력되면 연구 기밀과 지식재산권이 유출될 수 있다.
개인정보가 포함된 연구데이터 역시 AI 서비스에 입력하지 않도록 주의해야 한다. 불가피하게 개인정보를 활용할 경우에는 비식별화 등 보안 조치를 사전에 해야 한다.
◇과제 평가자료 외부 AI 입력도 금지
국가R&D 과제 평가와 논문 심사 과정에서의 AI 활용 기준도 제시했다.
평가자는 연구계획서와 결과보고서, 논문 등 평가 대상 자료를 외부 AI에 입력해서는 안 된다. 보안사항이나 개인정보 등이 외부로 유출될 수 있기 때문이다.
AI를 보조적으로 활용하더라도 평가자의 검토나 판단 없이 결과를 그대로 받아들여서는 안 된다. 전문성과 주체적 판단에 기반한 평가라는 취지가 훼손될 수 있어서다.
피평가자가 AI를 이용해 심사 기준을 회피하거나 평가를 왜곡하는 행위도 금지된다. 가이드는 은닉 프롬프트 등을 활용해 평가를 조작하려는 시도는 연구부정행위에 해당하며 관련 법령에 따라 제재 대상이 될 수 있다고 명시했다.
과기정통부는 연구 현장의 활용을 돕기 위해 ‘연구자 자가진단표’와 ‘AI 활용 여부 공개 서식’도 함께 제공한다. 연구자는 AI 활용 여부와 모델명·버전, 활용 기간·방법 등을 기록하고, 핵심 아이디어와 자료·분석·결론 및 최종 원고에 대한 책임이 연구자에게 있음을 확인할 수 있다.
홍순정 과기정통부 성과평가정책국장은 “AI는 연구의 효율성을 혁신적으로 높일 수 있는 유용한 도구지만 그에 대한 최종 책임은 언제나 연구자에게 있다”며 “이번 가이드가 연구현장에 책임 있는 AI 활용 문화를 정착시키고 국가연구개발의 연구 진실성을 확보하는 계기가 되기를 기대한다”고 말했다.
