Agent의 GPU 작업은 결과 파일을 회수해야 끝난다

Об этом предложении

Hermes Agent나 OpenClaw에 GPU 작업을 맡길 때, 완료 메시지에 무엇이 있어야 할까? 실행 로그만으로는 부족하다. 내려받은 결과 파일의 경로, 파일을 검사한 결과, 이번에 빌린 인스턴스가 해제됐다는 조회 결과가 필요하다. Vast.ai를 사용하면 CPU 서버에서 실행되는 Agent도 별도의 GPU 머신을 빌려 SSH로 작업할 수 있다. Agent를 GPU 서버로 옮기는 방식이 아니라, 작업에 필요한 동안 외부 머신을 사용하는 방식이다. 여기서는 자체 호스팅 환경에서도 쓸 수 있는 공식 CLI를 기준으로 설명한다. 실행 요청을 파일 기준으로 적기 “렌더링해 줘”라는 요청만으로는 결과를 확인하기 어렵다. 입력 파일의 위치, Blender 버전, 프레임 범위, 해상도, 샘플 수, 결과 형식을 함께 지정한다. 학습 작업이라면 모델, 데이터셋, 설정과 회수할 체크포인트를 정한다. 처음에는 한 프레임이나 작은 입력으로 확인한다. 설치와 전송이 되는지, 애플리케이션이 GPU를 선택하는지 확인한 뒤 전체 작업으로 넘어간다. 작은 시험도 비용이 발생하므로 견적 승인은 필요하다. Agent에는 다음 조건도 전달한다. GPU를 생성하기 전에 오퍼 ID, GPU와 VRAM, 필요한 디스크, 예상 실행 시간과 비용을 보여 주고 승인을 기다린다. 정해진 시간 안에 작업과 결과 회수를 마친다. 결과 파일을 검사한 다음 이번 인스턴스만 해제한다. 실패하면 파일이 남아 있는 위치와 인스턴스 상태를 보고한다. 다른 인스턴스는 변경하지 않는다. 이런 요청이 Vast.ai 계정의 강제 결제 한도를 설정해 주지는 않는다. 시간과 예산을 지키려면 실행 상태를 확인하고, 제한에 도달했을 때 작업을 중단하거나 자원을 해제하는 처리가 필요하다. 읽기부터 연결 확인하기 Agent가 실행되는 머신에 CLI를 설치한다. 아래 키와 경로는 실제 값으로 바꿔야 한다. pip install vastai vastai --help vastai set api-key YOUR_VAST_API_KEY vastai show instances API 키는 신뢰할 수 있는 로컬 터미널이나 비밀정보 설정 화면에서 입력한다. 채팅에 붙여 넣지 않는다. 이 키는 해당 머신에 저장되므로 필요한 권한만 부여한다. 목록 조회와 인스턴스 생성·삭제는 권한을 구분해서 확인한다. 조회 결과에서 기존 작업과 이번 작업을 구별한다. 이후 생성 결과로 받은 인스턴스 ID를 기록하고, 변경 작업은 그 ID에만 적용한다. 작업용 SSH 키를 따로 준비하면 나중에 다른 연결에 영향을 주지 않고 제거할 수 있다. 등록할 것은 공개키다. vastai create ssh-key /path/to/task_key.pub vastai search offers 'gpu_ram>=12 num_gpus=1 rentable=true' 검색 조건은 VRAM 12GB 이상, GPU 한 장을 찾는 예시다. 실제 조건은 모델이나 장면에 맞춰 정한다. 시간당 GPU 요금 외에도 디스크와 전송 비용을 확인한다. 이미 견적에 포함된 항목을 다시 더하지 말고, 확인할 수 없는 비용은 따로 표시한다. 소프트웨어와 호스트 드라이버의 호환성도 확인해야 한다. 생성 응답과 실제 실행은 다르다 승인한 오퍼로만 생성한다. 다음 명령은 작업 흐름의 예시이며, 렌더링이나 학습을 실행하는 완성 스크립트는 아니다. vastai create instance OFFER_ID --image nvidia/cuda:12.8.0-runtime-ubuntu24.04 --disk 20 --ssh vastai show instances OFFER_ID 는 승인한 견적의 ID다. 이미지 역시 CUDA 환경의 예시이므로 작업 소프트웨어와 맞는지 확인한다. 오퍼가 사라지면 다른 머신을 임의로 빌리지 말고 견적을 다시 승인받는다. 생성 요청이 시간 초과됐다고 바로 재시도하면 인스턴스 두 개가 생길 수 있다. 먼저 목록을 조회해 실제 생성 여부를 확인한다. running 상태도 SSH 연결 가능 여부를 보장하지 않으므로 연결 대기 시간을 제한한다. 연결 후 nvidia-smi 로 GPU와 드라이버를 확인한다. GPU가 보이는 것과 프로그램이 GPU를 사용하는 것은 다르다. Blender라면 Cycles의 장치 설정과 실행 로그를 확인한다. 입력 파일을 올린 뒤에는 크기나 SHA-256을 비교해 전송이 온전히 끝났는지 검사한다. 해제 전에 검사할 것 작업이 끝나면 결과를 Agent의 작업 디렉터리로 회수한다. 공식 CLI의 전송 형식은 다음과 같다. vastai copy INSTANCE_ID:/workspace/results/ local:./results/ 이미지는 열리는지와 해상도를, 영상은 재생과 길이를, 모델 파일은 형식과 로딩 여부를 검사한다. 필요한 경우 원격 파일과 로컬 파일의 해시를 비교한다. “다운로드 완료”만으로 검사를 대신하지 않는다. 검사가 끝난 후 이번 인스턴스를 삭제하고 목록을 다시 조회한다. vastai destroy instance INSTANCE_ID vastai show instances destroy 는 인스턴스 안의 데이터를 없앤다. 필요한 파일을 먼저 내려받아야 한다. stop 은 디스크를 유지하므로 저장 비용이 계속 발생할 수 있다. 별도 볼륨 등은 따로 확인한다. 인스턴스 하나가 사라졌다고 계정의 모든 비용이 끝난 것은 아니다. 완료 보고에는 결과 파일의 실제 경로와 검사 내용, 작업 인스턴스 ID와 해제 후 조회 결과, 임시 SSH 공개키 처리 상태를 남긴다. 비용이 아직 확정되지 않았으면 그렇게 적는다. 청구 반영이 늦어질 수 있으므로 잠정 금액을 최종 비용으로 단정하지 않는다. 다운로드한 파일을 사용할 수 있고, 이번 렌탈의 종료 상태를 확인할 수 있어야 요청한 작업을 끝냈다고 말할 수 있다. 필자는 OpenClaw Launch의 Agent 호스팅 서비스를 운영한다. 이 글의 공식 CLI 흐름은 자체 호스팅한 Hermes Agent나 OpenClaw에서도 사용할 수 있다. 참고: Vast.ai 공식 CLI 시작하기 Vast.ai 인스턴스 관리