IBM. (사진=로이터)
IBM은 12일 차세대 양자 프로세서 ‘IBM 퀀텀 나이트호크 r3’의 개발 계획을 공개했다. 새로운 프로세서는 520개의 프로그래머블 큐비트로 1만 회의 양자 연산을 정확하게 수행하도록 설계된다.
IBM은 내년 두 개의 나이트호크 r3 프로세서를 연결해 총 1040큐비트 규모의 단일 양자컴퓨터 시스템을 구축할 계획이다. 하나의 프로세서에 큐비트를 계속 추가하는 대신 여러 프로세서를 연결해 연산 규모를 키우는 방식이다.
이번 계획은 기존 나이트호크 r2에서 검증한 연산 속도와 품질을 바탕으로 한다. 지난 9월 공개된 r2는 120큐비트를 활용해 7500회 이상의 양자 연산을 수행할 수 있으며, 초당 최대 10만 개의 샘플을 처리한다.
양자컴퓨터는 같은 회로를 반복 실행해 얻은 결과를 바탕으로 답을 도출한다. 따라서 복잡한 문제를 풀기 위해서는 큐비트 수뿐 아니라 연산을 얼마나 빠르고 정확하게 반복할 수 있는지도 중요하다.
◇전력망 최적화·양자물질 분석서 처리 성능 입증
IBM에 따르면 에너지기업 E.ON과 알고리드믹, Q-CTRL 등 고객·파트너들은 나이트호크 r2에서 지금까지 340억 개 이상의 양자 회로를 실행했다. 이 과정에서 기존 IBM 양자 프로세서 대비 최대 19배의 성능 향상을 확인했다.
E.ON은 전력망 최적화를 위한 양자 머신러닝 작업에서 15배의 속도 향상을 달성했다. IBM과 미국 오크리지 국립연구소는 자성 물질 시뮬레이션 실험의 처리 속도를 12배 높였다.
알고리드믹과 진행한 양자 물질 시뮬레이션에서는 기존 헤론 프로세서보다 회로를 8배 빠르게 실행했다. IBM은 유사한 정확도를 고전컴퓨터의 텐서 네트워크 방식으로 구현하려면 약 240배 많은 메모리가 필요할 것으로 추산했다.
IBM 퀀텀 나이트호크 r3 프로세서 내부 레이어 렌더링. (사진=IBM)
핵심 기술은 서로 다른 양자 칩을 연결하는 ‘엘-커플러(L-coupler)’다. IBM은 올해 나이트호크 r1 프로세서를 연결한 실험에서 99.3%의 양자 상태 전송 충실도를 달성했다. 현재는 99.9%를 목표로 기술을 개선하고 있다.
또한 두 개의 극저온 모듈을 하나의 시스템으로 연결해 5일 이내에 작동 온도에 도달하고, 내부 온도를 15밀리켈빈 미만으로 낮추는 데 성공했다. 양자 프로세서를 여러 개 연결해 운영하기 위한 기반 기술을 검증한 것이다.
◇양자·슈퍼컴퓨터 결합…복잡한 연산 처리 효율 높여
양자컴퓨터와 기존 슈퍼컴퓨터를 결합하는 기술도 강화한다. IBM은 ‘IBM 퀀텀 플랫폼’을 통해 양자 연산과 고성능컴퓨팅(HPC)을 하나의 환경에서 활용하도록 지원하고 있다.
IBM과 일본 이화학연구소(RIKEN)는 이 플랫폼을 활용해 기존 연구보다 약 5배 빠르게 양자 계산을 수행하면서 연산량을 100배 늘렸다. 클리블랜드 클리닉과 RIKEN은 생물학적 구조 분석에 필요한 6억800만 개의 샘플을 처리하는 작업에서 자동화하지 않았을 때보다 33배 빠른 속도를 기록했다.
IBM은 AMD 및 오크리지 국립연구소와도 협력하고 있다. 나이트호크 양자컴퓨터와 AMD 인스팅트 MI355X GPU, 5세대 EPYC CPU가 탑재된 고성능컴퓨팅 시스템을 결합해 양자 연산 과정에서 발생하는 오류를 탐지하고 수정하는 기술을 개발하고 있다.
다만 1000큐비트 이상 시스템은 아직 구축 전인 개발 목표다. 양자컴퓨터의 실용성을 높이기 위해서는 큐비트 수 확대와 함께 연산 오류를 줄이고 안정적으로 결과를 얻는 기술도 발전해야 한다.
제이 감베타 IBM 리서치 총괄사장은 “유용한 양자컴퓨팅의 핵심은 정확하고 빠르게 결과를 제공할 수 있느냐에 달려 있으며, 두 요소 모두 필수적”이라며 “이 아키텍처를 더 크고 강력한 양자컴퓨터로 확장하고 고전컴퓨팅 자원과 더욱 긴밀하게 통합해 오류내성을 향해 나아감에 따라 양자컴퓨팅의 역량 역시 새로운 수준으로 도약할 것”이라고 밝혔다.
