IonQ와 Oak Ridge National Laboratory(ORNL), NVIDIA, 테네시대 연구진은 2026년 9월 16일 생성형 AI로 양자 최적화 회로를 직접 만드는 연구를 공개했다. 이번 결과의 핵심은 AI가 양자컴퓨터를 대신 계산했다는 데 있지 않다. 좋은 회로를 찾기 위해 반복하던 고전적 튜닝 단계를 학습 모델의 회로 생성으로 바꿔, 문제 크기가 커질 때 늘어나는 시간을 줄일 수 있는지 시험했다는 데 있다.
회로를 설계하는 모델
양자 최적화에서는 큰 문제를 작은 부분 문제로 나눠 각각 회로로 풀고, 결과를 다시 합친다. 기존 방식은 회로의 파라미터를 조금씩 바꾸며 여러 번 실행해 좋은 조합을 찾는다. 정확도를 높이는 데 도움이 되지만, 큐비트 수와 부분 문제의 복잡도가 올라가면 시도 횟수와 시간이 크게 늘어난다.
연구진은 기존 방식으로 여러 샘플 문제를 풀고, 그중 좋은 회로를 골라 트랜스포머를 훈련했다. 이 모델은 텍스트 대신 회로 구조와 파라미터 패턴을 배운다. 이후 새로운 부분 문제에 후보 회로를 직접 생성하고, 후보들을 시뮬레이션해 점수가 가장 좋은 것을 선택한다.
열 번의 후보와 한 번의 선택
보고된 방식은 각 부분 문제마다 10개의 후보 회로를 만들고, 모두 시뮬레이션·평가한 뒤 최선의 후보를 전역 해에 반영한다. AI가 ‘정답’을 한 번에 맞힌다기보다, 사람이 설계하던 탐색 공간을 더 빠르게 훑는 구조다. 이 차이를 이해해야 생성형 AI라는 표현이 과장으로 변하지 않는다.
arXiv에 공개된 논문과 IonQ 설명은 같은 연구의 방법과 결과를 연결한다. 이번 결과는 특정 벤치마크에서 확인한 결과이며 일반 목적 알고리즘으로 검증된 것은 아니다. 특정 문제 구조와 학습 데이터에 맞춘 모델이 다른 문제에서도 잘 작동하는지, 후보 수를 늘렸을 때 비용이 어떻게 변하는지는 별도 실험이 필요하다.
28초가 보여주는 것
100개 의사결정 변수를 가진 고차 밀집 벤치마크에서 기존 방식의 회로 찾기 시간은 4큐비트 약 34초에서 12큐비트 11분 이상으로 늘었다. 생성형 접근은 시험한 범위에서 약 28초 수준을 유지했다고 보고됐다. 두 방식 모두 같은 NVIDIA H200 GPU에서 시뮬레이션했기 때문에, 비교의 중심은 양자 하드웨어가 아니라 회로 생성 절차다.
여기서 ‘상수 시간’이라는 표현은 모든 크기의 문제에서 시간이 변하지 않는다는 뜻이 아니다. 연구가 시험한 범위에서 거의 같은 시간이 관찰됐다는 의미다. 더 큰 문제, 다른 그래프 구조, 다른 목적함수에서는 후보 생성과 평가 비용이 다시 커질 수 있다.
아직 양자 하드웨어의 결과는 아니다
이번 연구는 NVIDIA cuQuantum과 CUDA-Q를 이용해 모든 회로를 시뮬레이션했다. 실제 IonQ 양자컴퓨터에서 회로를 실행해 잡음과 게이트 오류를 겪은 결과가 아니며, 고전적 최적화 솔버보다 우수하다는 비교도 아니다. 따라서 양자 우위나 상용 최적화 서비스로 읽으면 안 된다.
다음 단계는 생성된 회로가 실제 장비의 연결 제약과 오류 모델에 맞는지 확인하는 일이다. 회로를 짧게 만드는 것과 실제 장비에서 더 좋은 답을 내는 것은 다르다. AI가 양자 회로를 잘 쓸 수 있다는 가능성은 보였지만, 유용한 계산으로 가는 마지막 구간은 아직 하드웨어와 문제 데이터가 결정한다.
참고자료
- IonQ, ORNL, NVIDIA, and UT Knoxville Show AI Method Reduces Quantum Optimization Trade Off (IonQ)
- DQAOA-GPT: AI-Accelerated Distributed Quantum Optimization for Combinatorial Problems (arXiv:2607.20225)
- IonQ and Partners Report AI Method for Scaling Hybrid Quantum Optimization (HPCwire)