LLM36 728x90 AI Agent 시대의 보안: 권한을 가진 AI를 어떻게 통제할 것인가 “모델 경쟁 → 에이전트 경쟁”으로 전환핵심 변화는 단 하나입니다LLM 성능 경쟁 → 실제 업무를 수행하는 “Agent 시스템 경쟁”으로 이동과거: GPT vs Claude vs Gemini “누가 더 똑똑한가”현재: “누가 더 복잡한 일을 자동으로 수행하는가”주요 트렌드단순 텍스트 생성 → 툴 사용 + 실행 + 피드백 loop단일 모델 → 멀티 에이전트 협업 구조Prompt → 워크플로 / 시스템 설계➡️ 즉, 이제는 모델보다 “운영 구조”가 더 중요LLM 자체 변화: “파라미터 → 추론 능력” 중심주요 모델 업데이트GPT-5.4Claude 4.6Gemini 3.1Llama 4 등 (Renovate QR)핵심 변화단순 성능이 아니라“Cognitive Density (인지 밀도)” + 추론 능력 강화긴 .. 2026. 3. 31. RAG 이제 끝났다? Neo4j GraphRAG Python으로 진화하는 AI 검색 구조 Neo4j의 공식 GraphRAG for Python 패키지는 Neo4j가 직접 제공하는 1st-party 패키지이며, 현재 neo4j-genai의 이름을 이어받은 후속 패키지입니다. 공식 문서는 neo4j-genai가 deprecated 되었고 더 이상 유지보수되지 않는다고 명시하며, 최신 설치 방법은 pip install neo4j-graphrag입니다. 또한 문서 기준으로 지원 버전은 Neo4j 5.18.1 이상, Neo4j Aura 5.18.0 이상, Python 3.10~3.14입니다. GraphRAG가 왜 필요한가기존 RAG는 대체로 “질문 → 임베딩 검색 → 관련 문서 조각 반환 → LLM 생성” 흐름으로 동작합니다. 이 방식은 단순하고 강력하지만, 문서 간 관계나 엔티티 간 연결이 중요한 .. 2026. 3. 30. LLM 생성 코드 실행의 위협 모델과 방어 설계: 탈출·유출·DoS 통제 LLM이 만든 코드는 “우리 코드”가 아니라 외부 입력(External Input) 과 동일하게 취급해야 합니다.즉, LLM 생성 코드를 실행하는 순간부터는 서버가 ‘코드 실행 플랫폼’이 되며, 공격자 관점에서 아래가 모두 가능합니다.악성 코드 실행: 파일 삭제/변조, 데이터 유출, 채굴 등샌드박스 탈출: 커널/런타임/설정 실수로 호스트·클러스터 권한 획득리소스 고갈(DoS): 무한 루프/메모리·디스크 폭주로 노드/네임스페이스 장애네트워크 악용: 내부망 스캔, C2 통신, 데이터 외부 반출따라서 핵심은 단일 기법이 아니라 “다단계 격리 + 최소권한 + 정책 강제 + 감시/증적” 조합입니다.(A) LLM/에이전트→ 코드/입력/리소스 한도/필요 권한(capabilities)을 “선언”(B) Code Exec.. 2026. 2. 25. AI 에이전트 샌드박스 아키텍처: just-bash 기반 실행 통제 게이트웨이 에이전트가 생성한 Bash 명령을 그대로 OS에 실행하지 않고, “게이트웨이”를 거쳐 다음을 보장합니다.안전성: 실제 디스크/네트워크/바이너리 실행 위험 최소화정책 준수: 명령 허용/차단/승인(HITL) + 접근제어 + 감사지원재현성: 동일 입력에 동일 결과(가상 FS, 실행 한도)운영성: 로깅/알림/리포트/사고조사(포렌식) 가능한 형태로 구조화just-bash를 게이트웨이 실행 엔진으로 쓰는 이유just-bash는 애초에 AI 에이전트용 “샌드박스 bash”로 설계되어,제공된 파일시스템만 접근 가능네트워크 기본 차단, 필요 시에도 URL prefix + HTTP method allowlist로 제한바이너리/WASM 실행 비지원(풀 VM 필요하면 Vercel Sandbox 권장)무한루프/재귀 방지(단, .. 2026. 2. 24. 내부망 LLM 기반 Internal AI Agent Platform (OpenClaw + MCP) 구축 목표 정의: “완전하게 활용”의 범위부터 딱 잡기내부 LLM + OpenClaw를 제대로 쓰려면, 목표를 아래 4개로 분해해 설계하는 게 안정적입니다.모델 계층: 내부망에서 LLM 추론(서빙) 제공에이전트 계층(OpenClaw): 대화/업무흐름/툴 호출/멀티에이전트 라우팅툴 계층(MCP 서버들): 사내 시스템(티켓/CMDB/로그/DB/웹자동화/파일) 기능을 표준 인터페이스로 제공운영·보안 계층: 권한/감사/네트워크/비밀정보/샌드박스/확장 코드 검증/관측성권장 아키텍처(레퍼런스)논리 구성LLM Inference(내부)선택지 A: Ollama(간편)선택지 B: vLLM/TGI(고성능/대규모)OpenClaw Gateway/Agent Workspaces워크스페이스(에이전트 단위) + 인증/라우팅/채널(메신저/웹.. 2026. 2. 14. 이전 1 2 3 4 ··· 8 다음 728x90 728x90
