이들은 특히 “구글이 이러한 해악과 연관되지 않도록 보장하는 유일한 방법은 기밀 군사 프로젝트를 거부하는 것”이라며 “그렇지 않을 경우 내부 구성원의 인지나 통제 없이 기술이 활용될 수 있다”고 경고했다.
이번 공개서한은 구글이 미국 국방부와 협력해 자사 AI 모델 ‘제미나이’를 기밀 작전에 활용하는 방안을 논의 중이라는 보도 이후 촉발됐다. 특히 일부 보도에서는 앤스로픽이 요구했던 수준의 안전장치 없이 계약이 추진될 가능성이 제기되면서 내부 반발이 커진 것으로 전해졌다.
이 같은 갈등 배경에는 최근 미 정부와 AI 기업 간 갈등이 자리하고 있다. AI 스타트업 앤스로픽은 자사 모델의 군사적 활용에 대해 엄격한 제한과 안전장치를 요구했으나 미 정부는 이를 받아들이지 않았다. 다리오 아모데이 앤스로픽 CEO는 정부에 대한 ‘무제한 접근’ 제공을 거부했고, 이후 회사는 공급망 리스크로 지정됐다. 도널드 트럼프 대통령은 모든 정부 기관에 앤스로픽 기술 사용 중단을 지시했고, 엔스로픽은 이에 대해 법적 대응에 나선 상태다.
빅테크 기업 내에서는 AI 기술이 국가 안보에 활용될 수 있다는 점에서 정부와의 협력이 불가피하다는 주장과 기술 오남용에 대한 윤리적 책임을 우선해야 한다는 입장이 정면으로 충돌하고 있다.
구글 내부에서는 특히 ‘감시’ 문제에 대한 우려가 크게 제기되고 있다. 서한 작성에 참여한 한 직원은 “AI 기반 대규모 감시는 미국 시민의 자유에 대한 직접적인 위협”이라며 “이미 현실 세계에서 벌어지고 있는 문제이며 더 이상 이론적인 위험이 아니다”라고 지적했다. 일부 직원들은 중국 등 권위주의 국가에서 AI가 감시와 통제 수단으로 활용되는 사례를 언급하며 우려를 표했다.
이번 서한은 구글 AI 연구 조직 딥마인드를 중심으로 조직적으로 추진된 것으로 알려졌다. 서명자의 약 40%는 AI 부문, 비슷한 비율은 클라우드 부문, 나머지는 알파벳 전반에 걸쳐 분포했다. 이 가운데 프린시펄, 디렉터, 부사장 등 고위 인력 18명 이상도 포함된 것으로 전해졌다.
제프 딘 딥마인드 수석 과학자는 앞서 소셜미디어를 통해 “대규모 감시는 수정헌법 4조를 침해하고 표현의 자유를 위축시킨다”고 밝히며, 2018년 회사가 약속했던 ‘치명적 자율무기 금지’ 원칙을 재확인한 바 있다.
구글은 과거에도 유사한 논란을 겪었다. 2018년 드론 영상 분석을 지원하는 군 프로젝트 ‘메이븐(Project Maven)’에 참여하면서 직원 수천 명이 반대 청원에 서명하고 일부는 퇴사했다. 결국 구글은 해당 계약을 갱신하지 않고, 무기 및 감시 목적 AI 개발에 관여하지 않겠다는 원칙을 발표했다.
하지만 지난해 구글은 AI 원칙을 개정하면서 “사람에게 해를 끼치거나 이를 촉진하는 무기 또는 기술을 개발하지 않는다”는 문구를 삭제했다. 이 같은 변화는 기술 환경 변화와 지정학적 경쟁 심화를 반영한 것이라는 설명이 뒤따랐다.
데미스 허사비스 공동창업자는 이에 대해 “딥마인드 인수 당시와 비교해 세계는 크게 달라졌다”며 “첨단 AI 기술이 확산된 상황에서 미국 기술 기업들은 국가 방어를 지원할 책임도 있다”고 말했다.
한편 오픈AI 역시 정부와 협력 계약 체결 이후 내부 반발을 겪은 바 있다. 샘 올트먼 CEO는 당시 상황을 두고 “기회주의적이고 성급한 판단이었다”고 인정하며 사과했다.
직원들은 이번 서한에서 “지금 잘못된 결정을 내릴 경우 구글의 명성과 사업, 그리고 글로벌 기술 기업으로서의 역할에 돌이킬 수 없는 피해를 줄 수 있다”며 “과거처럼 중요한 순간에 올바른 선택을 해야 한다”고 촉구했다.
