ai 보안3 728x90 Human-in-the-Loop: 안전한 AI 에이전트 자동화와 인간 검증 설계 원칙 AI 에이전트는 “효율성”과 “위험”을 동시에 증폭시킵니다. 따라서 안전한 운영을 위해서는 워크플로우 자동화(Deterministic), AI 추론(Probabilistic), 사람의 검증(Human-in-the-loop) 이 세 축을 결합해야 합니다. 또한 권한·감사·검증·모니터링이 설계 초기에 반영되어야 합니다.AI Agent 운영 아키텍처 (Enterprise reference architecture)구성 요소 (상위 레벨)외부 트리거 레이어: Webhook, 메시지 큐, 스케줄러, SIEM 알람 등Orchestration 레이어: Workflow 엔진 (n8n, Airflow, Argo Workflows 등)AI 추론 레이어: LLM / ML 모델 (내부 모델 또는 외부 API)Tooling / .. 2026. 3. 11. Prompt Injection과 코드 취약점 방어를 위한 통합 방화벽, LlamaFirewall LlamaFirewall: 생성형 AI를 위한 다계층 보안 프레임워크AI 보안 위협 탐지·차단을 위한 실시간 스캐너 아키텍처 Prompt Injection과 코드 취약점 방어를 위한 통합 방화벽 PromptGuard부터 CodeShield까지, LLM 보안의 모든 것다음은 LlamaFirewall 프레임워크 및 관련 도구들(Purple Llama 생태계 포함)입니다.Purple Llama와 LlamaFirewallPurple Llama 프로젝트주도: Meta (Facebook)목표: 생성형 AI(특히 LLM 기반)의 신뢰성과 보안 확보를 위한 오픈소스 생태계 조성구성: 다양한 보안 도구, 가이드라인, 평가 도구, 벤치마크 통합LlamaFirewall이란?Purple Llama의 핵심 보안 프레임워크LLM.. 2025. 8. 13. 경계를 넘는 위협, 경계를 허무는 방어: K-CTI 2025 컨퍼런스 핵심 인사이트 K-CTI 2025는 급변하는 사이버 보안 환경에서 최신 위협 동향과 대응 전략을 공유하는 한국의 대표적인 사이버 보안 컨퍼런스입니다. 이번 컨퍼런스는 사이버 위협 인텔리전스(CTI), 인공지능(AI), SASE(Secure Access Service Edge), 데이터 보호 등 현대 보안 환경의 핵심 주제를 다루며, 국내외 전문가들의 심도 있는 발표와 네트워킹 기회를 제공합니다.K-CTI 2025 프로그램시간주제08:20등록시작09:15~9:50[1] 최근 국내 사이버공격 사례 및 대응방안-KISA 박용규 단장- 다운로드9:50~10:25[2] 다크웹 계정 유출 무엇이 중요한가?-레코디드퓨쳐 윤광택 본부장 다운로드10:25~11:00[3] Know Your Attacker-NetWitness 박지원 부.. 2025. 5. 10. 이전 1 다음 728x90 728x90
