API Gateway와 AI Gateway & Routing: 멀티 모델 시대의 인프라 전략
핵심 정의와 스코프Route Gateway(라우트 게이트웨이)광의의 개념. L7(HTTP) 기준으로 호스트/경로/헤더/메서드/쿠키/Geo/IP 등 조건에 따라 백엔드 서비스로 트래픽을 분기하는 컴포넌트.예: NGINX/Envoy/Kong/APISIX, Kubernetes Ingress/Gateway API, 클라우드 API 게이트웨이 등.API Gateway“비즈니스 API”를 외부/내부에 제공하기 위한 전면 게이트웨이.인증/인가, 레이트리밋, WAF, 로깅, 버저닝, 라우팅, 재시도/타임아웃/회로차단, 트랜스폼(헤더/본문) 등 API 관리 기능을 제공.AI GatewayLLM/멀티 모델 호출을 표준화·프록시화.프로바이더(예: OpenAI, Gemini, Bedrock, OpenRouter, DeepSe..
2025. 8. 29.
