AI 모델에게 한 번 질문하는 일과 며칠 동안 일을 맡기는 일은 전혀 다릅니다. 긴 작업은 중간 결과를 저장하고, 도구가 실패하면 복구하고, 사람이 승인해야 할 지점에서 멈춰야 합니다. OpenAI가 2026년 9월 10일 공개 베타로 내놓은 Agents API는 바로 이 실행 기반을 API 한 번으로 빌려주는 서비스입니다. 모델 자체보다 그 주변의 ‘하네스’가 제품이 됐다는 점이 핵심입니다.
모델 밖의 일이 더 많아진 에이전트
일반 채팅 API는 입력을 보내고 답을 받으면 한 번의 호출이 끝납니다. 하지만 실제 업무 에이전트는 파일을 열고 코드를 실행하며 여러 도구를 오갑니다. 작업이 길어질수록 어떤 정보를 남길지, 실패 뒤 어디서 재개할지, 같은 행동을 두 번 실행하지 않을지를 결정하는 운영 코드가 커집니다.
Agents API는 장시간 세션과 컨텍스트 압축, 도구 사용, 하위 에이전트 조정을 관리형 하네스로 제공합니다. 개발자는 모델과 도구, 실행환경, 입력을 정하고 OpenAI가 에이전트 루프를 운영합니다. 제품의 차별점이 프롬프트 한 줄에서 상태 관리와 복구 설계로 옮겨간 셈입니다.
실행환경은 맡길 수도 직접 고를 수도 있다
코드와 파일을 다루는 에이전트에는 계산 공간이 필요합니다. OpenAI 관리형 샌드박스를 쓰거나 자체 인프라를 연결할 수 있고, 여러 샌드박스 사업자와의 통합도 제공됩니다. 편리함만 보면 관리형이 앞서지만, 민감한 데이터가 어디에 머무는지와 네트워크가 어디까지 열리는지는 환경마다 달라집니다.
공개 예시에서는 파일·패키지·스킬·플러그인을 넣은 샌드박스에서 에이전트가 결과물을 저장합니다. 이는 단순 함수 호출보다 운영체제에 가까운 권한을 갖는다는 뜻입니다. 기업은 모델 선택 못지않게 비밀 관리, 외부 통신, 로그 보존과 삭제 정책을 먼저 정해야 합니다.
하위 에이전트의 속도는 공짜가 아니다
OpenAI는 일부 고객이 하위 에이전트 지원으로 지연시간을 크게 줄였다고 소개했습니다. 서로 독립적인 조사를 동시에 처리하면 전체 대기시간이 짧아질 수 있습니다. 다만 이 수치는 고객이 고른 사례이며 여러 산업과 작업에서 반복된 독립 시험은 아닙니다.
병렬 실행은 호출량과 도구 사용량도 함께 늘립니다. 공개 베타에서 Agents API 자체 추가 요금은 없지만 모델 토큰, 도구와 컨테이너 비용은 별도입니다. 따라서 팀은 완료시간만 보지 말고 성공률, 재시도 횟수, 사람 검수시간과 작업 한 건당 총비용을 함께 측정해야 합니다.
좋은 에이전트의 기준은 오래 도는 것이 아니다
며칠 동안 멈추지 않는다는 사실만으로 좋은 에이전트가 되지는 않습니다. 잘못된 목표로 오래 움직이면 비용과 위험도 커집니다. 중요한 것은 중간 결과가 검증 가능하고, 외부 시스템을 바꾸기 전에 사람에게 묻고, 중단 뒤 같은 지점에서 안전하게 이어가는가입니다.
Agents API는 이런 기반을 직접 구축할 부담을 낮춥니다. 동시에 핵심 운영층을 공급사에 맡기는 선택이기도 합니다. 공개 베타 동안 확인할 지표는 화려한 데모보다 장시간 실패율, 환경별 데이터 경계, 비용 예측 가능성, 버전 변경 때의 재현성입니다.