왜 입력 통제가 필요한가
직원이 업무 효율을 위해 챗봇에 문서를 붙여 넣는 일은 이제 흔합니다. 문제는 그 입력값이 어디로 가고, 얼마나 남고, 누가 볼 수 있는지를 회사가 모른 채 쓰이는 경우입니다. ISMS-P 관점에서 보면 외부 서비스로 전송되는 정보도 개인정보와 기밀의 흐름에 포함되므로, 수집·이용·제공·파기 단계에 맞춰 기준을 두어야 합니다.
허용 범위와 금지 데이터 유형 정하기
기준은 쓸 수 있는 것보다 넣으면 안 되는 것을 먼저 명확히 하면 현장에서 판단이 쉽습니다. 최소한 아래 항목은 금지 목록에 넣는 것을 권합니다.
- 고객 및 임직원의 성명, 연락처, 주민등록번호 등 식별 가능한 개인정보
- 미공개 재무 자료, 계약서 원문, 소스코드, 인증키·비밀번호 같은 기밀 정보
- 보안 점검 결과, 취약점 상세, 네트워크 구성도 같은 시스템 내부 정보
허용 범위는 공개 자료 요약, 문장 교정, 일반 기술 질문처럼 특정 개인이나 시스템과 연결되지 않는 업무로 한정합니다. 애매한 경우에는 익명화한 뒤 입력하도록 절차를 붙이고, 판단이 어려우면 보안 담당자에게 묻는 경로를 열어 둡니다.
로그 보관 조건 정하기
대화 기록은 업무 증적이면서 동시에 개인정보일 수 있으므로, 남기는 범위와 기간을 함께 정합니다.
- 수집 항목: 사용자 계정, 접속 시각, 입력 길이와 분류 결과 등 필요한 최소 항목
- 보관 기간: 사내 규정에서 정한 기간을 두고, 기간이 지나면 자동 삭제
- 접근 권한: 로그 조회 권한을 보안 담당자로 한정하고 조회 이력을 다시 남김
원문 대화 전체를 무기한 보관하는 방식은 피하는 것이 좋습니다. 로그 자체가 새로운 개인정보 유출 지점이 되기 때문입니다.
플랫폼 정책 변경을 점검하는 주기
생성형 AI 서비스는 약관, 데이터 학습 사용 여부, 저장 위치, 보관 기간이 예고 없이 바뀔 수 있습니다. 기준을 한 번 만들고 끝내면 실제 위험과 어긋나기 쉽습니다. 서비스 약관과 설정 화면을 분기마다 확인하고, 변경이 있으면 금지 목록과 로그 설정을 함께 재검토하는 절차를 문서에 넣어 두세요.
한 줄 정리: 입력 금지 목록, 로그 보관 조건, 정책 변경 점검 주기를 한 문서에 묶어 두면 사내 생성형 AI 사용 기준의 뼈대가 됩니다.
댓글