양자컴퓨터 연구실에서는 레이저 한 대가 제 주파수를 잃는 것만으로 실험이 멈출 수 있습니다. 컴퓨터가 망가진 게 아니라 원자를 붙잡고 상태를 바꾸는 레이저가 기준에서 벗어난 겁니다. 이런 일이 밤에 생기면 결국 숙련자가 계측기를 보며 레이저를 다시 맞춰야 합니다.
미국 양자컴퓨터 회사 QuEra가 8월 27일 공개한 실험은 이 작업을 AI로 자동화해 본 사례입니다. 700번 고장을 일으켰더니 AI가 만든 제어 프로그램이 695번 복구에 성공했습니다. 사람이 5~10분씩 붙잡고 있던 일을 짧게는 1초 안팎에 처리했죠. 여기까지만 들으면 AI가 양자컴퓨터를 직접 운전한 듯하지만, 실제 구조는 조금 다릅니다. Claude가 한 일은 장애가 생길 때마다 레이저를 조종한 것이 아니라, 여러 복구 방법을 시험해 보고 나중에 장비에서 실행할 프로그램을 만든 것이었습니다.
레이저 한 대가 부르는 야간 호출
QuEra의 중성원자 양자컴퓨터는 레이저로 원자를 붙잡고 원하는 상태로 바꿉니다. 그러려면 레이저 주파수가 정해진 지점에서 흔들리지 않아야 해요. 장비는 평소 작은 오차를 계속 보정하지만, 온도나 진동, 압력이 크게 달라지면 전혀 다른 주파수에서 안정된 것처럼 굳어 버릴 수 있습니다. 이를 '모드 홉'이라고 합니다.
이때는 미세 조정 장치만 움직여서는 돌아오지 못합니다. 조절 범위가 큰 장치부터 순서대로 손본 뒤 주파수도 다시 확인해야 하죠. 숙련자는 계측값을 보고 이 순서를 판단합니다. 예상 가능한 고장 몇 가지는 기존 프로그램으로 처리할 수 있었지만, 여러 문제가 겹치면 사람이 다시 개입해야 했습니다. 레이저가 늘면 이런 야간 호출도 함께 늘어납니다.
Claude가 남긴 복구 프로그램
Claude가 장비와 대화할 수 있게 만든 통로가 '모델 하드웨어 표준', MHS입니다. 이름은 거창하지만 역할은 어렵지 않습니다. 장비에서 어떤 값을 읽을 수 있는지, 어느 설정을 바꿀 수 있는지, 어디부터는 건드리면 안 되는지를 AI가 이해할 수 있는 공통 형식으로 알려 주는 인터페이스입니다.
Claude는 약 70만 달러 규모의 전용 시험대에서 계측값을 읽고, 복구 코드를 짜고, 실행 결과를 확인하는 과정을 반복했습니다. 잘못된 방법은 고치고 제대로 작동한 방법은 프로그램에 남겼습니다. 시험이 끝난 뒤 실제 장애를 복구한 것은 이렇게 완성된 일반 제어 프로그램입니다. 같은 입력에는 같은 순서로 움직이고, 사람이 코드를 열어 동작을 확인할 수도 있습니다. AI가 매번 새 판단을 내려 레이저를 만지는 방식이 아니어서, 복구 시간과 행동 범위를 일정하게 묶어 둘 수 있었던 겁니다.
700번의 고장 시험
QuEra는 일곱 종류의 고장을 100번씩 일부러 만들었습니다. 목표 주파수 근처의 고장은 0.9~5.4초, 크게 벗어난 고장은 약 10~14초에 복구됐습니다. 다섯 번은 복구에 실패했지만 엉뚱한 상태를 정상이라고 보고하지는 않았습니다. 장비 제어에서는 이런 잘못된 성공 판정이 특히 위험합니다. 실제 운용 중 생긴 모드 홉 43건도 모두 자동으로 되돌렸다고 QuEra는 밝혔습니다.
레이저 상태를 더 안정적으로 맞추는 별도 튜닝 실험에서는 약 1만2,500번 설정을 바꿔 가며 잔류 주파수 잡음을 기존의 5분의 1로 줄였습니다. 약 19시간 동안 사람이 지켜보지 않은 시험에서도 잠금이 풀리지 않았고요. 꽤 좋은 결과지만, 아직은 QuEra가 자체 시험대에서 측정해 발표한 수치입니다. 최적화에 쓰지 않은 별도 계측기로 결과를 확인했어도 외부 연구팀의 재현까지 끝났다는 뜻은 아닙니다.
산업 기술이 되기 위한 다음 조건
이번 실험에서 당장 달라진 것은 양자컴퓨터의 계산 성능이 아닙니다. 몇몇 숙련자에게 묶여 있던 복구 절차를 프로그램으로 옮길 수 있다는 가능성을 확인한 겁니다. 장비가 여러 연구소와 데이터센터에 설치될수록 이 차이는 커집니다. 고장 때마다 전문가를 기다리는 시간과 운영 인력을 줄일 수 있기 때문이죠. MHS가 현미경이나 로봇 팔 같은 다른 과학 장비에도 통한다면, 장비마다 자동화 시스템을 처음부터 다시 만드는 비용도 낮아질 수 있습니다.
이 결과만 보고 상용화를 앞당겨 판단하기는 어렵습니다. MHS는 아직 제한된 연구 프리뷰이고 공개 표준도 아닙니다. 이번 제어 프로그램 역시 생산용 양자 프로세서에 옮겨지기 전입니다. 앞으로는 같은 성능이 생산 장비에서도 나오는지, 외부 연구팀도 재현할 수 있는지, MHS의 안전 규칙과 사양이 공개되는지를 확인해야 합니다. 그때가 돼야 연구실의 시연을 실제 운영 기술로 평가할 수 있습니다.