인공지능 (AI,GPT)98 728x90 대형 언어 모델(LLM) 환경 애플리케이션 권한 최소화 및 보안 아키텍처 1. 주제 정의대형 언어 모델(LLM) 기반 애플리케이션은 단순 대화형 챗봇을 넘어 내부 데이터 검색, 자동화 에이전트, 외부 API 연동 등 점차 업무 핵심 도구로 확산되고 있습니다. 그러나 LLM은 예측 불가능성, 프롬프트 조작(prompt injection), 자동화 속도로 인해 인간 사용자보다 훨씬 높은 보안 리스크를 가집니다. 따라서 LLM 권한 최소화 및 통제 관리란,LLM이 처리하는 모든 요청에서사용자 권한 ∩ LLM 권한 ∩ 태스크 권한의 교집합만 허용하는 실효 권한(effective permissions) 모델을 기반으로리소스 단위까지 권한을 제어하고,인증/인가 체계(OAuth 등)의 한계를 보완하는 보안 아키텍처를 설계하는 것을 의미합니다.2. 주요 원칙2.1 최소 권한 원칙 (Leas.. 2025. 8. 22. AI 엔지니어링 스택 3계층: 애플리케이션·모델·인프라 프롬프트 ~ 파인튜닝 원문 맥락: Chip Huyen, 『AI Engineering』를 기반으로 실무 관점에서 재구성했습니다.대상: 보안 관점이 강한 서비스 프로바이더(웹호스팅/클라우드/대고객 SaaS) 조직AI 엔지니어링 3계층 한눈에 보기1. 애플리케이션 개발 (Application Dev)핵심: 프롬프트 설계, UX/UI, 피드백 루프, 평가 자동화산출물: 대화 시나리오, 안전 정책, 평가 대시보드, 로그·메트릭빠른 시작 코드 (FastAPI + 스트리밍 응답 예시)# pip install fastapi uvicorn httpxfrom fastapi import FastAPIfrom fastapi.responses import StreamingResponseimport httpx, jsonapp = FastAPI()SY.. 2025. 8. 20. Managing Up 2.0: 인공지능(AI)을 리드하는 컨텍스트 설계 기술 “인간이든 AI든, 똑똑하게 일하려면 먼저 ‘관리(Managing Up)’부터 잘해야 합니다”Managing Up은 단순한 '눈치 보기'가 아닙니다. AI도 결국 “나의 동료처럼 활용 가능한 지능 존재”입니다.즉, 인간의 협업 원칙 그대로 AI와의 컨텍스트 설계(Context Engineering), 프롬프트 디자인, 대화 흐름에 적용됩니다.15가지 원칙: 인간 관계 + AI 컨텍스트로 확장 정리인간과의 협업 원칙AI 협업에서의 적용 (LLM 관점)협업을 내 일로 받아들이기AI 성능은 프롬프트 설계와 컨텍스트 구성의 질에 달려 있음. LLM이 똑똑해 보이려면, 내가 먼저 구조를 잘 설계해야 함.결론부터 명확하게 말하기프롬프트도 두괄식 구조로. 예: "요약해줘. → 요약해야 할 문서 첨부"내 생각의 흐름을.. 2025. 8. 17. AI는 암기, 사람은 창의, 진짜 사고력을 기르는 블룸 6단계 활용법 블룸(Bloom)의 교육 학습 6단계는 교육 심리학자 벤자민 블룸(Benjamin Bloom)이 1956년에 제안한 인지적 영역(Cognitive Domain)의 학습 목표 분류 체계로, 학습자의 사고 수준을 단계별로 나눈 교육 이론입니다. 이 체계는 교육 목표를 더 명확하고 구체적으로 설정하고, 학습자의 인지 능력을 점진적으로 향상시키는 데 목적이 있습니다.블룸의 교육 학습 6단계 개요단계명칭(한글)명칭(영문)설명1단계지식Knowledge정보를 기억하고 암기하는 단계 (기억 중심)2단계이해Comprehension정보를 해석하고 설명할 수 있는 단계3단계적용Application배운 지식을 새로운 상황에 적용하는 단계4단계분석Analysis정보를 구성 요소로 나누어 관계를 이해하는 단계5단계종합Synthe.. 2025. 8. 16. 보이스피싱 AI로 잡는다, 실시간 통화 탐지 서비스 및 금융 AI 플랫폼 동향 최근 정부에서 AI 기술을 활용한 보이스피싱 탐지 서비스들을 본격적으로 도입하고 있는 동향입니다.1. 정부의 AI 보이스피싱 탐지 서비스 도입 배경최근 보이스피싱 범죄가 급증하면서 정부와 민간이 협력하여 AI 기술을 활용한 대응 체계를 구축하고 있습니다. 경찰청에 따르면 보이스피싱 피해액은 2021년 7744억원에서 2022~2023년 사이 일시 감소했으나, 지난해 85% 증가하는 등 심각한 사회문제로 대두되었습니다. 특히 최신 기술을 악용한 보이스피싱이 증가하면서 다음과 같은 문제들이 발생했습니다.AI 딥보이스 기술을 이용한 가족 사칭검찰·경찰 등 공공기관 사칭가상자산과 연계된 신종 금융사기스미싱과 결합된 복합적 범죄2. 실시간 통화 기반 보이스피싱 탐지 서비스2-1. 서비스 개요과학기술정보통신부는 3.. 2025. 8. 11. 이전 1 2 3 4 ··· 20 다음 728x90 728x90
