데이터 마스킹2 728x90 AI Agent를 위한 안전한 DB 접근 계층 API로 제한하는 실무 보안 설계 AI Agent의 DB 직접 접근을 막고 API로만 통제하는 설계AI 에이전트에게 DB 접속 권한을 직접 주면 편해 보이지만, 실제 운영에서는 다음 문제가 생깁니다.1) 과도한 행위 발생 위험AI는 의도와 다르게 쿼리를 넓게 만들 수 있습니다.너무 많은 row 조회불필요한 JOIN 확장민감 컬럼 포함 조회잘못된 UPDATE / DELETE 실행대량 export 성격의 쿼리 생성즉, 사람이 “이 정도만 조회하겠지”라고 생각해도, 모델은 맥락상 과하게 동작할 수 있습니다.2) 통제와 감사가 어려움SQL 직접 실행은 유연하지만, 그만큼 통제가 어렵습니다.어떤 사용 목적이었는지 추적이 어려움결과적으로 어떤 데이터를 노출했는지 추적이 어려움쿼리 한 번에 여러 테이블을 엮어 민감정보를 재구성할 수 있음악의적 프롬프.. 2026. 5. 28. LLM 데이터 유출, 보내기 전에 보호하라: OpenAI Privacy Filter 보안 전략 OpenAI Privacy Filter 전체 구조개념 재정의 – “오픈소스” vs “오픈웨이트”먼저 정확히 짚고 가야 할 포인트입니다.용어 구분구분의미오픈소스코드 + 모델 + 학습 방식 공개오픈웨이트모델 가중치만 공개OpenAI Privacy Filter는 오픈웨이트 모델 + Apache 2.0 라이선스즉실행 가능수정 가능상업적 사용 가능❗ 하지만 학습 데이터/전체 파이프라인은 미공개모델 구조 및 기술적 특징핵심 구조Token Classification 기반 PII 탐지 모델입력 텍스트 → 토큰 분할 → 각 토큰에 PII 라벨링 → span 재구성 → 마스킹주요 스펙총 파라미터: 1.5B활성 파라미터: ~50M (MoE 구조)최대 컨텍스트: 128K tokens성능: F1 ≈ 96% (PII-Maskin.. 2026. 5. 1. 이전 1 다음 728x90 728x90
