API 게이트웨이의 컨트롤 플레인과 데이터 플레인

구성 관리와 실시간 API 요청 처리를 분리하기 위한 짧고 실용적인 아키텍처 가이드입니다.

목차

pi 的agent 架构

API 게이트웨이는 구성 관리와 요청 처리를 서로 다른 책임으로 다룰 때 운영하기 쉬워집니다.

두 플레인, 두 역할

플레인주요 역할대표 데이터
컨트롤원하는 상태 관리라우트, 공급자, 가격, 정책
데이터실시간 요청 처리인증, 라우팅, 사용량 측정, 응답

컨트롤 플레인은 완전한 구성을 검증해 버전으로 게시합니다. 데이터 플레인은 승인된 버전을 읽고 트래픽 처리를 계속합니다.

안전한 업데이트 순서

  • 후보 구성 전체를 검증합니다.
  • 변경 불가능한 버전으로 게시합니다.
  • 활성 포인터를 원자적으로 전환합니다.
  • 영향을 받은 캐시만 무효화합니다.
  • 실제 요청을 확인하고 이전 버전을 롤백용으로 유지합니다.

모니터링과 결정

구성 버전, 라우팅 오류, 공급자 지연, 롤백 상태를 별도로 관찰해야 합니다. 작성과 검토는 컨트롤 플레인에 두고 인증, 라우팅, 할당량, 스트리밍은 데이터 플레인에 두면 배포 결합을 줄일 수 있습니다.

LLM 워크플로를 최적화할 준비가 되셨나요?

하나의 API로 모델을 연결하고 키와 AI 비용을 관리하세요.

무료로 시작하기