본문 바로가기

분류 전체보기3630

728x90
Human-in-the-Loop: 안전한 AI 에이전트 자동화와 인간 검증 설계 원칙 AI 에이전트는 “효율성”과 “위험”을 동시에 증폭시킵니다. 따라서 안전한 운영을 위해서는 워크플로우 자동화(Deterministic), AI 추론(Probabilistic), 사람의 검증(Human-in-the-loop) 이 세 축을 결합해야 합니다. 또한 권한·감사·검증·모니터링이 설계 초기에 반영되어야 합니다.AI Agent 운영 아키텍처 (Enterprise reference architecture)구성 요소 (상위 레벨)외부 트리거 레이어: Webhook, 메시지 큐, 스케줄러, SIEM 알람 등Orchestration 레이어: Workflow 엔진 (n8n, Airflow, Argo Workflows 등)AI 추론 레이어: LLM / ML 모델 (내부 모델 또는 외부 API)Tooling / .. 2026. 3. 11.
AI 사용자·프롬프트·에이전트 환경 보안 모니터링 및 대응 체계 설계와 POC 전체 개념과 목표 — 무엇을 왜 보호하는가목표: AI를 사용하는 모든 접점(사용자 프롬프트, 애플리케이션, 에이전트, API/게이트웨이, 모델/데이터·학습 파이프라인)을 대상으로 가시성 → 탐지 → 분석 → 자동/수동 대응 → 보안정책 적용의 순환을 만들고 위험(프롬프트 인젝션, 데이터 유출, 모델·데이터 포이즈닝, 비정상 에이전트 행위 등)을 낮추는 것입니다.핵심 원칙: 최소권한, 방어 심층화(Defense-in-depth), 적응형 탐지(행위·콘텍스트 기반), 검증 가능한 대응(감사·무결성), 프라이버시 보호(마스킹·Pseudonymization).보호 대상(공격 표면) — 구체 항목사용자 프롬프트 레이어: 브라우저/클라이언트에서 모델로 전송되는 텍스트(멀티턴 포함)AI 에이전트(Non-human i.. 2026. 3. 10.
조직의 ‘AI 동료’ 설계 Devin 사례로 보는 자율 에이전트 한계와 실무 대책 한눈에 보는 핵심 요약AI 에이전트란? — 단순한 대화형 모델이 아니라 목표를 받아 스스로 계획을 세우고 여러 도구(코드 에디터·셸·브라우저 등)를 사용해 작업을 수행하는 ‘자율작업 에이전트’입니다.Devin(데빈) — Cognition(또는 Cognition Labs)이 발표한 ‘AI 소프트웨어 엔지니어’ 사례로, 자연어로 요청받아 코드 작성·테스트·디버깅·배포까지 일련의 개발 업무를 수행하는 에이전트 형태입니다.효용과 한계 — 반복적·표준화된 개발 업무에서 효율을 크게 올릴 수 있으나, 복잡한 설계 판단·안전성·정확성·윤리 문제에 대한 검증과 인간 감독(검토)이 반드시 필요합니다.AI 에이전트(Autonomous Agent)의 구조와 동작 원리구성 요소(단순화된 계층)LLM (언어모델): 목표 해석,.. 2026. 3. 9.
macOS Colima에서 Docker 네트워크(브리지·NAT·정적IP 등) 실사용 개념 정리 — 왜 상황이 복잡한가?macOS는 리눅스처럼 Docker가 네이티브로 동작하지 않습니다. 대신 Colima(Lima)나 Docker Desktop이 VM을 띄우고 그 안에서 Docker가 돌아갑니다. 그 결과 네트워크가 최소 2계층(호스트 ↔ VM ↔ 컨테이너)으로 구성되어 IP/포트/헤더 관련 동작이 달라집니다.기본 모드: user-mode NAT — Colima는 기본적으로 VM 내부에서 NAT를 사용해 외부와 통신합니다. VM 내부에 docker0(예: 172.17.x.x)와 Lima NAT 네트워크(예: 192.168.5.0/24)가 존재합니다.브리지(bridged) 모드: VM을 호스트 LAN에 연결해 VM이 LAN IP를 받게 하는 모드입니다. 하지만 macOS에서는 특히 Wi-F.. 2026. 3. 8.
맥미니(Mac mini) 환경 Colima + Docker + Kubernetes 서버 구성 목적: macOS에서 Docker 데스크탑 없이 Colima로 컨테이너/쿠버네티스(k3s) 환경을 안정적으로 운영하고, 데이터(볼륨)를 안전하고 관리하기 쉬운 호스트 디렉토리 구조에 보관핵심 아이디어: Colima VM(리마/Lima 기반)에 호스트 디렉토리 마운트를 미리 지정하면, Docker bind mount나 Compose 볼륨을 통해 컨테이너가 호스트 파일을 읽고 쓸 수 있음. (Colima의 --mount / mounts 옵션 활용)사전 준비macOS (권장: Ventura/Monterey 이상; virtiofs 사용 시 macOS 13+ 권장)Homebrew 설치기본 도구:(Colima docs 및 명령어 참조).brew install colima docker docker-compose ku.. 2026. 3. 7.
728x90
728x90

티스토리툴바