국내 대학 최초로 양자컴퓨터를 도입한 연세대학교가 IBM의 최신 양자 프로세서인 '퀀텀 나이트호크'를 설치해 기존 양자컴퓨터의 양자 회로 처리 속도를 25배 높였다.

연세대와 IBM은 4일 인천 송도 국제캠퍼스 양자컴퓨팅센터에서 열린 '차세대 양자컴퓨팅 플랫폼 가동식'에서 지난 2024년 국내 대학 최초로 도입한 양자컴퓨터 'IBM 퀀텀 시스템 원'(IBM Quantum System One)에 최신 프로세서 'IBM 퀀텀 나이트호크'를 탑재했다고 밝혔다.

이는 IBM 퀀텀 시스템 원에 설치된 프로세서를 처음으로 업그레이드 한 사례다. IBM은 이번 구축이 IBM 퀀텀 네트워크 참여 기관의 자체 시설에서 나이트호크가 운영되는 세계 최초 사례라고 설명했다.

IBM 퀀텀 나이트호크는 현재까지 IBM이 개발한 가장 빠른 양자 프로세서다. 양자컴퓨터의 기본 연산 단위인 '큐비트' 가운데 실제 연산에 활용되는 120개의 프로그래머블 큐비트를 갖췄다. 큐비트 간 연산과 빠른 초기화를 지원하기 위한 큐비트까지 포함하면 총 458개의 물리적 큐비트가 정사각형 격자 형태로 연결돼 있다.

제리 차우 IBM 펠로우 겸 양자중심슈퍼컴퓨팅 최고기술책임자(CTO)는 나이트호크의 빠른 양자 회로 실행 속도를 강조했다. 차우 CTO는 "나이트호크에서 가장 두드러지는 건 속도의 향상"이라며 나이트 호크가 초당 10만 개 이상의 회로를 실행할 수 있다고 밝혔다. 이는 연세대가 기존에 사용하던 IBM 퀀텀 이글 프로세서보다 25배 빠른 속도다. IBM은 물리적인 큐비트를 추가함으로써 회로 초기화에 걸리는 시간을 단축했다고 설명했다.

이번 프로세서 업그레이드로 큐비트 간 연결성이 강화돼 연산의 정확도도 높아졌다. 정재호 양자사업단장은 "기존 프로세서인 이글은 평균 2.5 정도의 큐비트 간 연결성을 지니지만, 나이트호크는 평균 4의 연결성을 갖는다"며 멀리 떨어져 있는 큐비트와도 연산을 수행할 수 있도록 하는 '스왑 게이트'를 여러 차례 할 필요 없어 에러가 줄었다고 설명했다. 실제 나이트호크의 2큐비트 게이트 기준 연산 정확도는 약 99.7%로, 1000번의 연산 중 약 3번의 오류가 발생하는 수준이다.


연세대는 새로운 프로세서를 대규모 양자 계산에 필요한 오류 정정 기술의 시험 환경으로 활용하고, 이를 기반으로 AI·바이오 분야의 연구를 수행한다는 계획이다. 정 단장은 "컴퓨팅 파워를 기반으로 기후변화와 에너지 위기, 우주 기술, 난치병 등 인류가 당면한 여러 난제를 해결하는 융합 다국가 과학연구를 진행할 것"이라 밝혔다.

특히 양자 알고리즘과 인공지능(AI)을 결합해 신약 개발 초기 단계의 계산 병목을 해소하겠다고 강조했다.

정 단장은 양자컴퓨터가 질병의 원인이 되는 단백질을 찾고, 해당 단백질에 결합하는 화합물을 발굴·최적화하는 과정에서 발생하는 계산 부담을 줄이는 데 크게 기여할 수 있다고 설명했다.

연세대 양자컴퓨팅 사업단은 신약 개발에 활용할 수 있는 양자 알고리즘과 인공지능(AI)을 결합한 하이브리드 계산 알고리즘 파이프라인을 구축했다. 정 단장은 해당 파이프라인을 통해 표적 탐색 기간을 기존 1~2년에서 5개월로, 선도물질 최적화 기간을 약 4년에서 2년으로 줄이는 알고리즘을 개발했다고 밝혔다.

정 단장은 "기존 AI 단독 알고리즘과 비교한 시뮬레이션에서는 40~50% 이상의 속도 향상이 가능할 것이라 생각한다"며 "이 점이 양자 컴퓨터가 신약 개발이나 바이오산업에 희망이 있다고 보는 이유"라 덧붙였다.

sumin02@news1.kr