본문 바로가기

분류 전체보기3408

728x90
API Gateway와 AI Gateway & Routing: 멀티 모델 시대의 인프라 전략 핵심 정의와 스코프Route Gateway(라우트 게이트웨이)광의의 개념. L7(HTTP) 기준으로 호스트/경로/헤더/메서드/쿠키/Geo/IP 등 조건에 따라 백엔드 서비스로 트래픽을 분기하는 컴포넌트.예: NGINX/Envoy/Kong/APISIX, Kubernetes Ingress/Gateway API, 클라우드 API 게이트웨이 등.API Gateway“비즈니스 API”를 외부/내부에 제공하기 위한 전면 게이트웨이.인증/인가, 레이트리밋, WAF, 로깅, 버저닝, 라우팅, 재시도/타임아웃/회로차단, 트랜스폼(헤더/본문) 등 API 관리 기능을 제공.AI GatewayLLM/멀티 모델 호출을 표준화·프록시화.프로바이더(예: OpenAI, Gemini, Bedrock, OpenRouter, DeepSe.. 2025. 8. 29.
AI 프롬프트 엔지니어링 종합 가이드: ChatGPT·Claude·Gemini·LLaMA·Mistral 프롬프트 엔지니어링의 핵심 원칙명확한 목표 설정원하는 결과(요약, 번역, 코드, 글쓰기)를 구체적으로 명시합니다.예: "Python으로 팩토리얼 함수 작성해줘."컨텍스트 제공모델이 더 정밀한 답변을 하도록 배경과 상황을 설명합니다.예: "보안팀 내부 사용자 교육용으로, 초보자도 이해할 수 있게 설명해줘."예시 활용 (One-shot / Few-shot)원하는 입력과 출력을 프롬프트에 직접 포함해 안내합니다.예: "입력: 5 → 출력: 25 (제곱), 입력: 7 → 출력: 49"출력 형식 지정목록, 표, 마크다운 등 원하는 결과 형식을 정하면 일관성이 높아집니다.예: "결과를 표 형식으로 정리해줘."복잡한 작업 분할큰 문제를 단계별로 나눠 질문합니다.예: "먼저 아키텍처를 설명하고, 이후 보안 점검 포인트.. 2025. 8. 29.
AI 에이전트 개발 A to Z 체크리스트 및 실전 구축 아키텍처 종합 매뉴얼 0) 무엇을 만들 건가요? (용어 정리)AI 에이전트: 목표를 받고 → 계획을 세우고 → 도구/지식을 사용해 → 결과를 내며 → 스스로 개선(기억/성찰)하는 시스템필수 구성요소: LLM(추론) · 도구(툴) · 메모리(단/장기) · 지식(RAG) · 계획(Planner/State) · 안전장치(Guard) · 관측(로그/모니터링)1) 목표·요구사항 정의핵심 미션: “무엇을 자동화/대체/가속화할 것인가?”SLO/KPI: 응답시간, 정답률/사실성, 사용자 만족도(CSAT), 월간 비용(원/세션), 실패율리스크: 오조작(잘못된 실행), 데이터 유출, 비용 폭주예시(리서치 에이전트)미션: “주제 키워드 → 10개 신뢰 소스 검증 → 2p 요약 리포트 + 참고 링크”KPI: 60초 내 완료, 허위 인용 0건, 월.. 2025. 8. 28.
Woodpecker 기반 K8s·API·LLM 다계층 통합 레드팀 자동화 플랫폼 1. 목적과 범위목적: 프로덕트·플랫폼·AI 서비스 전반의 공격 시뮬레이션 자동화로, 취약점 빠른 탐지 → 우선순위화 → 시정 → 재검증(회귀) 를 CI/CD에 내재화합니다.대상K8s: 권한·격리·네트워킹·스토리지·이미지·시크릿API: 인증·인가·입력검증·데이터 노출·레이트리밋·MisconfigAI/LLM: 프롬프트 인젝션·데이터 포이즈닝·출력 유출·도구 오남용원칙: 스테이징 우선, 운영은 Change 승인 하 비파괴·저충격 범위로 제한.2. 도구 개념과 구성Experiments: 실제 공격 행동을 YAML/JSON 시나리오로 정의, 실행해 증거를 남깁니다.Verifiers: 실행 결과를 기준(상태코드/패턴/메트릭)으로 판정(성공/실패/심각도).Components: 특정 실험이 의존하는 K8s 배포물/보.. 2025. 8. 28.
AI 기반 선언적 로그 분석 플랫폼: 보안 인텔리전스 자동화의 새로운 접근 “정규식·파서 없이 결과 스키마만 선언하면, LLM이 보안 이벤트/이상징후를 구조화 JSON으로 변환 → SIEM 대시보드/알림/IR까지 자동화”“Declarative Log Analysis with LLM — 보안 이벤트 자동 탐지와 SIEM 통합”“LLM-Powered Log Analysis: 구조화된 보안 이벤트 추출과 운영 자동화”“로그는 말한다, AI가 해석한다 — Declarative Security Log Analyzer”“Regex 없는 로그 분석, 선언만 하면 AI가 처리한다”“Log Analysis Reinvented: Declarative Extraction + LLM”“보안 로그 분석의 패러다임 전환 — LLM 선언적 추출과 SIEM 연동”“LLM 기반 SOC 자동화: Wazuh, .. 2025. 8. 27.
728x90
728x90

티스토리툴바