(AFP)
앤스로픽은 지난 7일(미국 시간) 뉴스룸을 통해 페이블 5의 생물학 감시 분류 모델(Classifier)을 고도화해, 오작동으로 정상적인 질의까지 답변을 거부하거나 성능이 낮은 모델로 전환시키던 과도 차단 현상(False Positive)을 기존 대비 약 85% 감축했다고 밝혔다.
그동안 앤스로픽은 페이블 5의 고도화된 생물학 지식이 생화학 무기 개발 등 악의적 목적에 남용될 가능성을 우려해 매우 엄격한 안전 통제를 적용해왔다. 페이블 5는 복잡한 생물학적 과제에서 전문가 수준을 뛰어넘는 성능을 보이는데, 미 정보당국(IC)의 2026년 연례 위협 평가에서도 지적했듯 국가 주도의 생화학 무기 프로그램이나 신종 생물학적 위협에 악용될 경우 치명적인 결과를 초래할 수 있기 때문이다.
이로 인해 관련 질의가 입력되면 이전 세대 모델인 ‘오퍼스 5(Opus 5)’로 자동 전환(Fallback)되는 안전장치가 작동했으나, 증상 문의나 검사 결과 해석, 일반 교육 질의 같은 순수한 목적의 답변까지 과도하게 막히는 부작용이 지속돼왔다.
앤스로픽은 이러한 문제를 해결하기 위해 지난 수주간 외부 전문가들의 자문을 받아 분류 모델의 가이드라인에 해당하는 ‘규정집(Constitution)’을 정밀하게 다시 작성했다. 유해성이 없는 정상적인 사용 사례를 세부적으로 구분해낸 교육 데이터를 재학습시킴으로써, 악용 위험은 막으면서도 유용한 정보 제공의 물꼬를 텄다.
이번 개편에 따라 일상적인 건강 문의, 검사 결과 분석, 생물학 교육은 물론 의료 전문가들의 임상 업무 지원 영역까지 페이블 5의 최신 AI 기능을 제한 없이 활용할 수 있게 됐다.
다만 바이러스학, 독성학, 분자 설계 등 생화학 무기나 위험 물질 제작에 직접 연관될 수 있는 이중용도(Dual-use) 연구 분야에 대해서는 오퍼스 5로의 자동 전환 조치가 유지된다. 앤스로픽은 전문적인 바이오 연구 및 신약 개발 영역의 경우, 신원 검증을 거친 연구자에게만 제한적으로 최첨단 기능을 개방하는 ‘신뢰할 수 있는 접근 경로(Trusted Access Pathways)’를 별도로 구축해 단계적으로 개방할 계획이다.
앤스로픽 측은 “AI가 세상에 가장 긍정적인 영향을 미칠 수 있는 최고의 기회는 생물학과 의학 분야에 있다고 믿으며, 생물학자들에게 최고 수준의 기술 접근권을 안전하게 제공할 수 있는 책임 있는 방식을 구축하는 데 집중 투자하고 있다”고 강조했다.
