agent-substrate/substrate

★ 1,275오늘 +26Go

AI 에이전트 수백 개를 서버 몇 대에 욱여넣어 돌리는 구글의 오픈소스 인프라

Agent Substrate는 AI 에이전트 같은 대부분 '멈춰 있는' 프로그램들을 소수의 서버에 몰아 넣어 자원을 아끼는 시스템이다. 쿠버네티스 위에서 동작하며, 에이전트를 1초 이내에 멈추고 다시 깨울 수 있어 실제로는 훨씬 더 많은 워커가 있는 것처럼 보이게 만든다. 데모에서는 물리 파드 8개로 상태를 가진 에이전트 250개를 돌려 보였다.

무엇을 하는 레포인가

에이전트(actor)를 실제 작업 서버(worker)보다 훨씬 많이 등록해 두고, 평소엔 대부분 놀고 있다는 특성을 이용해 소수 서버에 몰아 배치한다
microVM이나 gVisor 같은 격리 기술로 에이전트를 담아, 1초 이내에 일시정지(suspend)와 재개(resume)를 수행하고 메모리·파일 상태를 스냅샷으로 보존한다
에이전트 코드 자체를 만드는 SDK가 아니라, 이미 만들어진 에이전트(ADK, LangChain, Claude Code, MCP 서버 등 무엇이든)를 대규모로 '운영'하는 하부 시스템이다
쿠버네티스의 Pod·오토스케일링 위에 에이전트 전용 스케줄링을 얹어, 실제 물리 파드 8개로 상태를 유지하는 액터(actor) 250개를 동시에 돌리는 데모를 공개했다
현재는 초기 개발 단계로 API가 계속 바뀔 수 있으며 프로덕션 사용은 권장하지 않는다고 명시하고 있다

왜 중요한가

LLM 기반 에이전트를 실제 서비스로 운영하려면 각 에이전트마다 서버 자원을 계속 점유해야 해서 비용이 크게 늘어나는데, 이 프로젝트는 '대부분 놀고 있다'는 에이전트 특유의 패턴을 이용해 그 비용 구조를 바꾸려는 시도다. 특정 에이전트 프레임워크에 종속되지 않고 컨테이너 단위로 작동하기 때문에, 여러 에이전트 스택을 함께 대규모로 운영해야 하는 회사에 실질적인 참고가 된다.

이 레포의 용어

gVisor · 구글이 만든 컨테이너 샌드박스 기술, 커널 수준에서 실행을 격리한다
microVM · 일반 가상머신보다 훨씬 가볍고 빠르게 뜨는 경량 가상머신
actor(액터) · 이 시스템이 관리하는 개별 에이전트/애플리케이션 인스턴스
worker(워커) · 실제로 액터를 실행하는 물리적 자원 단위(쿠버네티스 Pod)
오버서브스크립션(oversubscription) · 실제 자원보다 더 많은 작업을 등록해 놓고 필요할 때만 배정하는 방식

레포 원문 소개 (영문)

Agent Substrate: the core system

GitHub에서 보기

주목받는 레포

레포 전체 보기 →

agent-substrate/substrate

무엇을 하는 레포인가

왜 중요한가

이 레포의 용어

주목받는 레포

METAL MEDIA 최신 기사