pile·
AI / ML·vercel-blogVercel Blog·

에이전트 스택 — Vercel의 프로덕션 AI 에이전트 인프라

Vercel이 프로덕션 AI 에이전트 구축을 위한 통합 인프라 스택을 공개했다. 모든 에이전트가 공통으로 필요로 하는 세 가지 기능(모델 연결, 워크플로우 실행, 데이터/도구 통합)을 하나의 플랫폼으로 묶어 제공한다. 지원 티켓 자동화부터 코드 작성 에이전트까지, 에이전트 유형과 무관하게 동일한 인프라 블록이 필요하다는 관찰에서 출발한 설계다.

핵심 포인트
  • AI Gateway가 단일 엔드포인트에서 수백 개 LLM을 라우팅, 공급자 장애 시 자동 페일오버를 처리한다
  • Workflow SDK는 각 단계를 체크포인트로 저장해 실패 시 마지막 정상 단계부터 재개, 장기 실행 에이전트를 안전하게 만든다
  • Vercel Sandbox는 에이전트별 격리된 마이크로VM 환경을 제공, 필요 시에만 자격증명을 주입한다
  • Vercel Connect는 단기 스코프 토큰으로 Slack, GitHub, Snowflake 등 외부 서비스에 보안 접근한다
  • Chat SDK 하나로 15개 이상 채널(Slack, Discord, GitHub 등)에 동일 에이전트를 동시 배포할 수 있다
상세 정리
  • 배경: 지원 티켓 자동화부터 코드 작성까지 모든 에이전트가 동일한 3가지 기반 기능을 필요로 한다는 관찰에서 설계 출발
  • AI SDK: 텍스트, 이미지, 음성, 비디오 생성을 포함한 모든 모델 공급자에 대한 단일 API 인터페이스 제공
  • AI Gateway 실사례: SERHANT.가 단일 키로 Claude(시장 분석), GPT(마케팅 콘텐츠), Gemini(이미지 생성) 세 모델을 동시 운영
  • Workflow SDK 실사례: FLORA가 단일 세션으로 50개 이상 이미지 모델에 걸쳐 분산 실행, 각 단계 체크포인트로 실패 시 자동 재시도
  • Vercel Sandbox: 완전한 Linux 환경(파일시스템, Docker 지원)을 에이전트별 마이크로VM으로 격리 제공, 호스트와 완전 분리
  • Vercel Connect: OAuth 또는 API 키 기반으로 Slack, GitHub, Snowflake, Salesforce, Notion, Linear 등 통합, 사용자-에이전트-서비스 전체 감사 추적
  • Chat SDK 실사례: NanoClaw가 하나의 에이전트 구현으로 Slack, GitHub, Linear 등 15개 이상 채널에서 동시 운영
  • eve 프레임워크: agent.ts + instructions.md + tools/ + skills/ + subagents/ + channels/ + schedules/ 디렉토리 트리로 에이전트를 정의하는 오픈소스 구현체
  • Vercel Connect 보안 모델: 장기 공급자 토큰 없이 각 작업별 임시 자격증명 발급, 스코프 제한 접근
왜 읽나AI 에이전트를 프로덕션에 구축하려는 엔지니어에게 실제 운영 인프라 선택지와 아키텍처 패턴 및 실사례를 제공한다.
vercel-blog
Vercel Blog 블로그
원문은 여기서 이어서 읽을 수 있어요
원문 읽기
읽음 (0)

이 글과 비슷한

  1. AI / ML·인프랩 (인프런)인프런 (인프랩)·

    학습 에이전트 — AI 두뇌 구축하기

    인프런이 강의 학습 에이전트를 구축하며 겪은 기술 스택 선정, 컨텍스트·도구 설계, LLM-as-a-Judge 품질 개선, 비용 최적화 전략을 다룬다. LLM SSE 스트리밍 처리를 위해 Spring MVC + Virtual Thread + Spring AI를 선택하고, 명시적 프롬프트 캐싱으로 입력 토큰을 90% 절감하는 과정까지 실전 경험이 담겨 있다.

    #ai-agent#llm#llm-as-a-judge+2
  2. AI / ML·네이버 D2네이버 D2·

    AI 에이전트 회사 차리기: 설립부터 어디서든 동기화까지

    네이버 ENGINEERING DAY 2026 발표. Claude Code를 매일 쓰지만 매번 초기화되는 문제를 해결하기 위해 NaverMadCat이라는 다중 AI 에이전트 조직 프레임워크를 구축한 경험을 다룬다. 비서실장 역할의 에이전트가 10개 부서 에이전트를 조율하며, 어느 환경에서 접속해도 동일한 컨텍스트로 동작하도록 동기화 메커니즘을 구현했다.

    #claude-code#multi-agent#ai-agent+2
  3. AI / ML·vercel-blogVercel Blog·

    AI Gateway에서 실시간 음성 에이전트 구축하기

    Vercel AI Gateway가 음성·오디오 기능을 정식 지원한다. 실시간 대화 음성(Realtime Voice), 텍스트→음성(TTS), 음성→텍스트(STT) 세 가지를 기존 텍스트/이미지 모델과 동일한 라우팅·인증·모니터링 체계 위에서 사용할 수 있다. OpenAI gpt-realtime-2·Whisper와 xAI Grok 오디오 모델을 지원하며, AI SDK 7 베타로 제공된다.

    #llm-app#ai-sdk#realtime-voice+2