본문 바로가기

분류 전체보기3557

728x90
다중모달 AI 모델 사용하기 — Docker Model Runner 중심 가이드 다중모달(multimodal) AI의 개념부터 Docker Model Runner(DMR)로 텍스트·이미지·오디오 입력을 처리하는 실전 방법, 내부 운영/보안 가이드, 점검 포인트까지 한 번에 볼 수 있습니다.개요 & 배경다중모달 AI는 하나의 모델이 텍스트·이미지·오디오 등 서로 다른 입력을 동시에 이해하고 결합해 답을 생성하는 기술입니다. 예를 들어 “이 사진에 뭐가 보여?”(이미지+텍스트), “이 오디오를 한 단어로 받아써”(오디오+텍스트) 같은 작업을 한 모델에서 수행합니다.Docker는 Model Runner로 로컬에서 이런 모델을 간단한 CLI와 OpenAI 호환 API로 실행/제공할 수 있게 했습니다. Gemma3, Moondream2, SmolVLM 등 이미지+텍스트 입력을 받는 모델 예시.. 2025. 11. 5.
Kafka 클라우드 전환 전략: 오브젝트 스토리지 시대의 보안과 안정성 Apache Kafka의 “디스크리스(Diskless)” 또는 “직접 S3(오브젝트 스토리지) 적용” 설계 방향의 기술 배경 및 고려할 점입니다.개요 및 배경최근 Kafka 커뮤니티에서는 여러 KIP (Kafka Improvement Proposal) 가 동시다발적으로 제안되었고, 그 중심 주제는 바로 클라우드 가용영역(AZ) 간 복제 비용 및 오브젝트 스토리지 활용입니다.단순히 기술적 선택지로만 다루는 것이 아니라, Kafka가 앞으로 “어떤 시스템이 될 것인가?”라는 방향성 차원에서 접근하고 있습니다.요약하자면전통적으로 Kafka는 디스크 기반 로그 세그먼트를 이용해, 리더-팔로워 복제 모델로 데이터를 보관하고 높은 처리량/낮은 지연(latency)을 확보해 왔습니다.그러나 클라우드·멀티 AZ 환경에.. 2025. 11. 4.
공급망 위협을 차단하는 gVisor 기반 GitHub Actions 샌드박스 전략 왜 샌드박스가 필요한가문제: GitHub Actions는 기본적으로 같은 VM 안에서 여러 step이 실행됩니다. 한 단계에서 악성 코드가 실행되면 다음 단계나 캐시, 러너 환경까지 영향을 줄 수 있습니다. 또한 캐시 토큰 오용(포이즈닝)과 체크아웃 토큰 노출 등 공급망(Supply Chain) 리스크가 현실적인 위협입니다.해결: 각 명령을 gVisor 샌드박스 안에서 실행합니다.루트 파일시스템: Ubuntu 24.04 유사 환경.툴 디렉터리(RUNNER_TOOL_CACHE): 읽기 전용 마운트.워크스페이스(GITHUB_WORKSPACE): 오버레이(기본 비영속, 변경사항이 호스트에 자동 반영되지 않음).효과: 단계 간 격리 강화, 캐시/토큰 남용에 따른 피해 확산 억제, 외부 PR/오픈소스 의존성 검증.. 2025. 11. 3.
AI 리터러시 실행 로드맵: 문제정의→프롬프트→검증→운영 “기본 → 개념 → 배경 → 흐름 → 실전 → 보안/윤리 → 실행 계획”AI 리터러시는 AI를 이해하고(개념), 일에 쓰고(활용), 결과를 검증하며(비판적 사고), 책임 있게 운영(보안·윤리·거버넌스)하는 전체 능력입니다. “왜/무엇/어떻게”를 체계적 로드맵으로 정리해 바로 적용할 수 있게 돕습니다.왜 지금 AI 리터러시인가?업무 생산성의 기본기: 문서 작성, 요약, 번역, 데이터 분석, 코드 리뷰까지 모두 AI로 가속.위험 관리의 필수기: 환각(hallucination), 저작권/개인정보, 프롬프트 유출, 자동화 실수.조직 경쟁력의 분기점: “개인이 잘 쓰는 수준”을 넘어 팀/조직 표준 운영이 성패를 가릅니다.핵심 정의(기본/개념)AI 리터러시 =① 이해(Understanding): AI의 원리·한계 .. 2025. 11. 2.
AI의 새 물결 — 인프라·창작·로봇까지 진화한 한 주 정리 엔비디아 × 한국 — “AI 인프라 시대의 서막”젠슨 황 CEO가 APEC CEO Summit에서 한국에 26만여 대의 GPU 공급 계획을 발표.삼성전자, SK, 현대차 등과의 협력으로 국가 단위 AI 인프라 구축이 본격화됩니다.정부와 기업이 함께 AI 데이터센터·전력·인재를 묶은 주권형(Sovereign) AI 전략을 강화하는 모습입니다.👉 핵심 의미한국이 글로벌 AI 생태계의 ‘훈련 허브’로 부상.앞으로 더 많은 초대형 모델과 맞춤형 AI 서비스가 국내에서 직접 학습·운영될 가능성이 큽니다.OpenAI — “2028 완전 자동화 연구원”샘 알트만이 2028년까지 AI가 스스로 연구하는 시스템을 만들겠다고 발표했습니다.동시에 안전 추론 모델 gpt-oss-safeguard(20B·120B 규모)를 공.. 2025. 11. 1.
728x90
728x90

티스토리툴바