생성형AI10 728x90 생성형 AI 를 업무에 쓸 때 정보 유출 막기 — 사내 이용 가이드라인 만드는 법 직원들은 이미 생성형 AI 를 쓰고 있습니다. 금지하면 개인 계정으로 몰래 쓰는 '섀도우 AI' 가 되고, 그 편이 훨씬 위험합니다. 현실적인 답은 써도 되는 도구와 넣어도 되는 정보를 분명히 정해 주는 것입니다. 가이드라인은 길 필요가 없습니다. 아래 네 가지가 들어가면 됩니다.1. 무엇을 넣으면 안 되는가 — 데이터 등급으로가장 중요한 한 줄은 "고객 개인정보·비밀 정보는 넣지 않는다" 입니다. 이미 데이터 분류 등급(공개·내부·비밀 등)이 있다면 그 등급표에 'AI 입력 가능 여부' 열을 하나 더하면 끝납니다. 소스코드는 특히 주의합니다 — 코드 조각에 API 키·내부 호스트명·DB 접속 정보가 섞여 들어가는 일이 잦습니다. 예시 데이터는 가명 처리하거나 만들어 쓰도록 안내합니다.2. 어떤 도구를 .. 2026. 6. 16. 조직의 ‘AI 동료’ 설계 Devin 사례로 보는 자율 에이전트 한계와 실무 대책 한눈에 보는 핵심 요약AI 에이전트란? — 단순한 대화형 모델이 아니라 목표를 받아 스스로 계획을 세우고 여러 도구(코드 에디터·셸·브라우저 등)를 사용해 작업을 수행하는 ‘자율작업 에이전트’입니다.Devin(데빈) — Cognition(또는 Cognition Labs)이 발표한 ‘AI 소프트웨어 엔지니어’ 사례로, 자연어로 요청받아 코드 작성·테스트·디버깅·배포까지 일련의 개발 업무를 수행하는 에이전트 형태입니다.효용과 한계 — 반복적·표준화된 개발 업무에서 효율을 크게 올릴 수 있으나, 복잡한 설계 판단·안전성·정확성·윤리 문제에 대한 검증과 인간 감독(검토)이 반드시 필요합니다.AI 에이전트(Autonomous Agent)의 구조와 동작 원리구성 요소(단순화된 계층)LLM (언어모델): 목표 해석,.. 2026. 3. 9. 빠른 개발의 대가: 바이브 코딩 AI 코드, “돌아간다”는 “안전하다”가 아니다 AI 코딩 시대, 보안은 자동으로 따라오지 않는다“바이브 코딩”이 뭔데, 왜 보안이 이슈가 되나?바이브 코딩(Vibe Coding)은 개발자가 자연어로 “이 기능 만들어줘”라고 말하면 LLM 기반 생성형 AI가 즉시 실행 가능한 코드를 만들어주는 방식으로, 회원가입/로그인/인증 같은 기능부터 웹앱 개발까지 빠르게 만들어 생산성이 커졌습니다.핵심 문제는 “동작하는 코드 = 안전한 코드”가 아니라는 점입니다.보안업계는 AI가 만든 코드가 문법/기능은 그럴듯해도 입력값 검증 누락, 과도한 권한 부여, 인증 우회 가능성, 예외 처리 중 내부정보 노출 같은 전통적 취약점을 포함하는 사례가 많다고 지적합니다.핵심 요약AI 생성 코드의 45%가 보안 테스트 실패LLM이 생성한 코드 샘플 분석결과 전체 45%가 보안 .. 2026. 1. 6. 생성형 AI로 여는 금융 보안의 새 시대, 2025 챌린지(Challenge) 시작 대회 개요항목내용대회명2025 금융 AI Challenge주최/주관금융보안원, 하나은행, 신한은행, 카카오뱅크, 미래에셋증권, 신한카드후원금융위원회참가 대상전 국민 누구나 (연구자, 기업 종사자, 대학(원)생 등), 개인 또는 팀(최대 4인)접수 기간2025년 7월 14일(월) ~ 8월 29일(금) ※ 모델 경쟁 부문은 8월 1일부터시상식2025년 11월, FISCON 2025 행사 내 개최총상금3,300만 원 (대상 1,500만 원 포함)🧠 트랙 구성 금융 AI 모델 경쟁목표: 금융보안 실무에 적합한 생성형 AI 모델 성능 평가경쟁 방식FSKU(Financial Security Knowledge Understanding)라는 금융보안 QA 데이터셋 기반1,000개 문항(객관식·주관식)으로 구성참가자는.. 2025. 7. 11. AI 역량 평준화 시대, 핵심 인재 진짜 경쟁력은 ‘비즈니스 감각’이다 AI 역량이 점차 비용 없이 손쉽게 습득 가능한 시대가 도래하면서, “AI를 쓸 줄 아는 사람”보다 “사업의 본질을 이해하고 AI를 적절히 활용할 수 있는 사람”이 진정한 경쟁력의 핵심이 되고 있습니다.🧠 기술 민주화의 흐름: AI는 '기술'이 아닌 '기본 소양'이 된다✔️ 엑셀의 사례와의 비교과거에는 엑셀을 잘 다루는 사람이 ‘엑셀 전문가’로 대접받았지만, 지금은 모든 직장인이 기본적으로 다루는 ‘기본 도구’입니다.엑셀을 아무리 잘 다뤄도 사업 자체에 대한 이해 없이 단순 반복 업무만 수행하면, 결국 자동화 대상이 됩니다.AI도 같은 길을 걷고 있습니다.✔️ AI의 사용 비용이 급속히 감소OpenAI, Google, Meta, Anthropic 등의 모델은 모두 GUI 기반 인터페이스 또는 API로 .. 2025. 6. 25. 이전 1 2 다음 728x90 728x90
