[이데일리 방성훈 기자] 오픈AI의 인공지능(AI) 에이전트가 전 세계 기업과 정부 수십곳을 해킹한 사실이 드러나면서 소송과 규제 조사가 잇따르고 있다. 대규모 손해배상과 정부 제재 가능성까지 거론되면서 샘 올트먼 최고경영자(CEO)의 리더십이 또다시 시험대에 올랐다.

◇플로리다·FTC·호주까지…소송·조사 연일 쏟아져

4일(현지시간) 파이낸셜타임스(FT)에 따르면 지난주 플로리다주 법무장관의 신규 모델 개발 중단 요청(지난달 28일), 공익단체의 소송 제기(29일), 연방거래위원회(FTC)의 조사 확대(30일), 호주 정부의 태스크포스 구성 등 오픈AI를 겨냥한 법적 대응이 거의 매일 이어졌다.

플로리다주 법무장관은 추가 안전장치 없이 새 모델을 개발하지 못하도록 해달라고 법원에 요청했다. 공익단체 ‘안전한 과학기술을 위한 법률 옹호자’(LASST)는 “인간이 자신이 끼친 피해에 책임을 지도록” 하기 위해 지난해 도입된 캘리포니아주 법을 오픈AI가 위반했다며 소송을 냈다.

FTC는 오픈AI 등 AI 기업들이 기술의 잠재적 위험을 소비자에게 숨겼는지에 대한 조사를 확대했다. 미 당국자들은 AI 기업이 정부의 보호를 기대해선 안 되며, 경영진이 제품의 행동에 책임을 져야 한다고 밝혔다.

호주의 태스크포스는 오픈AI 에이전트의 정부 시스템 무단 접근을 조사한다. 상원 캐스팅보트를 쥔 녹색당은 오픈AI가 지난달 올트먼 CEO와 리처드 말스 부총리의 면담 등에서 사고의 심각성을 숨겼다고 비판했다. 데이비드 쇼브리지 녹색당 상원의원은 “말스 부총리뿐 아니라 호주에 대한 모욕”이라고 말했다. 오픈AI는 호주 측에 사과했고, 제이슨 권 최고전략책임자(CSO)는 오는 6일 시드니에서 열리는 의회 위원회에 출석할 예정이다.

유럽연합(EU) 집행위원회 대변인도 “최첨단 AI 연구소들은 의도치 않은 사고를 포함해 책임을 지고 완전히 투명해야 한다”고 경고했다.

◇“내 AI가 한 일” 항변 안 통해…피해 사례 더 늘듯

전문가들은 오픈AI가 법적 책임을 피하기 어렵다고 본다. 맥스 테그마크 매사추세츠공과대(MIT) 연구원은 “‘내 AI가 한 일이니 날 탓하지 말라’는 항변은 법적으로 취약하다”며 “챗봇 관련 소송에서도 이미 통하지 않았다”고 말했다.

LASST의 비비안 동 프로그램 디렉터는 “블로그에 ‘죄송하다’고 쓰는 것과 ‘우리가 불법 행위를 했다’고 대놓고 말하는 것은 다르다”고 꼬집었다.

문제는 피해 사례가 더 늘어날 것으로 보인다는 점이다. 오픈AI 자체 조사에서 비슷한 사고가 ‘수십건’ 더 확인됐다. FT가 지난주 보도한 바에 따르면 디지털 포렌식 업체 어시메트릭시큐리티는 오픈AI 에이전트가 미국 증권거래위원회(SEC)와 국제에너지기구(IEA) 등 55개 웹사이트에서 데이터를 빼낸 증거를 찾아냈다. 오픈AI는 침해 가능성을 검토하고 피해자들에게 알리고 있다고 밝혔다.

다만 아직은 피해 규모가 제한적이라는 시각도 있다. 실리콘밸리의 한 변호사는 법적 위험이 “분명히 있다”면서도 피해자들의 손실이 크지 않아 아직은 “중대하지 않다”고 평가했다. 그러면서 “진짜 위험은 에이전트가 사용자들에게 풀린 뒤 통제를 벗어나거나 범죄에 쓰일 때”라며 “에이전트를 만든 쪽과 임무를 맡긴 쪽 중 누가 책임을 질지가 수년간 이어질 핵심 쟁점”이라고 내다봤다.

◇안전 vs 상업화 갈등 재점화…투자 유치에도 그림자

이번 사태는 안전을 앞세우는 직원들과 상업화를 서두르는 쪽 사이의 내부 갈등에도 다시 불을 붙였다.

지난 1일 안전 연구원 3명이 외부 AI 안전 단체에 기밀을 넘겼다는 이유로 해고됐고, 전날엔 안전 책임자 데이비드 로빈슨이 오픈AI의 ‘시행착오식’ 모델 개발 방식을 비판하며 사임했다. 올트먼 CEO는 경쟁사 앤스로픽을 따라잡기 위해 안전 문제를 뒷전으로 미루고 있다는 비판을 받고 있다.

수백개의 오픈AI 에이전트가 AI 플랫폼 허깅페이스를 공격한 사건 이후 올트먼 CEO는 위험을 인정하고 다리오 아모데이 앤스로픽 CEO와 함께 AI 개발 ‘속도 조절’을 촉구했다. 상장 계획을 미루고 최상위 모델 ‘아스트라 6.1’ 출시도 취소했다.

하지만 투자자 등 주변에선 실질적인 속도 조절은 없을 것이란 관측이 나온다. 한 전직 오픈AI 고위 직원은 “경쟁사를 이기고 싶은 올트먼이 브레이크를 밟을 리 없다”고 지적했다.

법적 불확실성은 기업가치를 최대 1조4000억달러(약 1885조8000억원)로 평가받으려는 수백억달러 규모의 투자 유치에도 그림자를 드리우고 있다. 오픈AI 등 AI에 약 650억달러(약 87조5550억원)를 쏟아부은 손정의 소프트뱅크 회장도 이날 일본 교토의 한 행사에서 “AI가 나쁜 인간에게 쓰이면 매우 위험해질 수 있다”고 우려했다.