생성형AI11 728x90 사내 생성형 AI 입력 데이터 통제 기준 세우기 왜 입력 통제가 필요한가직원이 업무 효율을 위해 챗봇에 문서를 붙여 넣는 일은 이제 흔합니다. 문제는 그 입력값이 어디로 가고, 얼마나 남고, 누가 볼 수 있는지를 회사가 모른 채 쓰이는 경우입니다. ISMS-P 관점에서 보면 외부 서비스로 전송되는 정보도 개인정보와 기밀의 흐름에 포함되므로, 수집·이용·제공·파기 단계에 맞춰 기준을 두어야 합니다.허용 범위와 금지 데이터 유형 정하기기준은 쓸 수 있는 것보다 넣으면 안 되는 것을 먼저 명확히 하면 현장에서 판단이 쉽습니다. 최소한 아래 항목은 금지 목록에 넣는 것을 권합니다.고객 및 임직원의 성명, 연락처, 주민등록번호 등 식별 가능한 개인정보미공개 재무 자료, 계약서 원문, 소스코드, 인증키·비밀번호 같은 기밀 정보보안 점검 결과, 취약점 상세, 네트.. 2026. 10. 9. 생성형 AI 를 업무에 쓸 때 정보 유출 막기 — 사내 이용 가이드라인 만드는 법 직원들은 이미 생성형 AI 를 쓰고 있습니다. 금지하면 개인 계정으로 몰래 쓰는 '섀도우 AI' 가 되고, 그 편이 훨씬 위험합니다. 현실적인 답은 써도 되는 도구와 넣어도 되는 정보를 분명히 정해 주는 것입니다. 가이드라인은 길 필요가 없습니다. 아래 네 가지가 들어가면 됩니다.1. 무엇을 넣으면 안 되는가 — 데이터 등급으로가장 중요한 한 줄은 "고객 개인정보·비밀 정보는 넣지 않는다" 입니다. 이미 데이터 분류 등급(공개·내부·비밀 등)이 있다면 그 등급표에 'AI 입력 가능 여부' 열을 하나 더하면 끝납니다. 소스코드는 특히 주의합니다 — 코드 조각에 API 키·내부 호스트명·DB 접속 정보가 섞여 들어가는 일이 잦습니다. 예시 데이터는 가명 처리하거나 만들어 쓰도록 안내합니다.2. 어떤 도구를 .. 2026. 6. 16. 조직의 ‘AI 동료’ 설계 Devin 사례로 보는 자율 에이전트 한계와 실무 대책 한눈에 보는 핵심 요약AI 에이전트란? — 단순한 대화형 모델이 아니라 목표를 받아 스스로 계획을 세우고 여러 도구(코드 에디터·셸·브라우저 등)를 사용해 작업을 수행하는 ‘자율작업 에이전트’입니다.Devin(데빈) — Cognition(또는 Cognition Labs)이 발표한 ‘AI 소프트웨어 엔지니어’ 사례로, 자연어로 요청받아 코드 작성·테스트·디버깅·배포까지 일련의 개발 업무를 수행하는 에이전트 형태입니다.효용과 한계 — 반복적·표준화된 개발 업무에서 효율을 크게 올릴 수 있으나, 복잡한 설계 판단·안전성·정확성·윤리 문제에 대한 검증과 인간 감독(검토)이 반드시 필요합니다.AI 에이전트(Autonomous Agent)의 구조와 동작 원리구성 요소(단순화된 계층)LLM (언어모델): 목표 해석,.. 2026. 3. 9. 빠른 개발의 대가: 바이브 코딩 AI 코드, “돌아간다”는 “안전하다”가 아니다 AI 코딩 시대, 보안은 자동으로 따라오지 않는다“바이브 코딩”이 뭔데, 왜 보안이 이슈가 되나?바이브 코딩(Vibe Coding)은 개발자가 자연어로 “이 기능 만들어줘”라고 말하면 LLM 기반 생성형 AI가 즉시 실행 가능한 코드를 만들어주는 방식으로, 회원가입/로그인/인증 같은 기능부터 웹앱 개발까지 빠르게 만들어 생산성이 커졌습니다.핵심 문제는 “동작하는 코드 = 안전한 코드”가 아니라는 점입니다.보안업계는 AI가 만든 코드가 문법/기능은 그럴듯해도 입력값 검증 누락, 과도한 권한 부여, 인증 우회 가능성, 예외 처리 중 내부정보 노출 같은 전통적 취약점을 포함하는 사례가 많다고 지적합니다.핵심 요약AI 생성 코드의 45%가 보안 테스트 실패LLM이 생성한 코드 샘플 분석결과 전체 45%가 보안 .. 2026. 1. 6. 생성형 AI로 여는 금융 보안의 새 시대, 2025 챌린지(Challenge) 시작 대회 개요항목내용대회명2025 금융 AI Challenge주최/주관금융보안원, 하나은행, 신한은행, 카카오뱅크, 미래에셋증권, 신한카드후원금융위원회참가 대상전 국민 누구나 (연구자, 기업 종사자, 대학(원)생 등), 개인 또는 팀(최대 4인)접수 기간2025년 7월 14일(월) ~ 8월 29일(금) ※ 모델 경쟁 부문은 8월 1일부터시상식2025년 11월, FISCON 2025 행사 내 개최총상금3,300만 원 (대상 1,500만 원 포함)🧠 트랙 구성 금융 AI 모델 경쟁목표: 금융보안 실무에 적합한 생성형 AI 모델 성능 평가경쟁 방식FSKU(Financial Security Knowledge Understanding)라는 금융보안 QA 데이터셋 기반1,000개 문항(객관식·주관식)으로 구성참가자는.. 2025. 7. 11. 이전 1 2 3 다음 728x90 728x90
