AI22 Ray Serve와 FastAPI 결합하여 웹서버 표준기능과 ML서빙 특화기능 동시활용 현대 기업에서 인공지능(AI)은 중요한 역할을 담당하고 있습니다. AI 모델을 실제 비즈니스 환경에 효과적으로 적용하는 것, 즉 MLOps(기계 학습 운영)와 프로덕션 환경에서의 모델 배포는 복잡한 과제로 남아 있습니다. AI의 중요성을 강조하면서, 동시에 MLOps와 프로덕션 배포의 어려움을 탐구합니다. Ray와 Ray Serve 소개 Ray의 역할: 데이터 전처리, 학습, 조정 등을 단일 스크립트를 통해 효율적으로 수행할 수 있는 도구입니다. Ray Serve의 기능: 실시간 데이터 파이프라인을 개발하고 배포하는 과정을 간소화하고, 기술 스택을 단순화합니다. 이는 팀 간의 협업을 원활하게 하여 생산성을 높입니다. Python 웹 서버 (FastAPI)와 특화된 ML 서빙 Python: 데이터 과학에서.. 2024. 1. 14. 맞춤형 GPTs Instructions 통한 AI 보안 및 사생활 보호 GPT 모델의 안전성을 유지하고 부적절한 내용을 생성하지 않도록 하려면 GPT 모델 사용 시 지켜야 할 몇 가지 지침이 있습니다. 이러한 지침은 OpenAI에서 제공하는 GPT 모델 사용 지침에 기반하며, 안전하고 적절한 사용을 보장하기 위한 것입니다. 다음은 몇 가지 중요한 지침입니다. 불법적이거나 악의적인 활동 금지: GPT 모델을 사용하여 불법적이거나 악의적인 목적으로 활동하는 것은 엄격히 금지됩니다. 불법 활동, 폭력, 혐오 발언, 성적으로 음란한 내용 등을 생성하거나 유도해서는 안 됩니다. 차별 금지: GPT 모델을 사용하여 인종, 성별, 종교, 출신 국가 등을 기반으로 차별적인 내용을 생성하거나 유도해서는 안 됩니다. 모든 사용자에게 공평하고 존중받을 수 있는 환경을 유지해야 합니다. 개인 정.. 2023. 12. 20. 벡터(Vector) DB 로컬환경 Docker 구성하고 데이터 추가 및 쿼리 벡터 DB를 로컬 환경에서 Docker를 사용하여 설정하고 데이터를 쿼리하는 과정을 단계별로 설명하겠습니다. 단계 1: Chroma DB GitHub 저장소 복제 Chroma DB를 로컬 머신으로 가져오기 위해 GitHub 저장소를 복제합니다. 이 저장소는 Chroma DB의 소스 코드를 포함하고 있습니다. 아래 명령어를 사용하여 저장소를 복제합니다. git clone https://github.com/chroma-core/chroma 이 명령어를 실행하면 현재 작업 디렉토리에 "chroma" 디렉토리가 생성되고 그 안에 Chroma DB 소스 코드가 복제됩니다. 단계 2: Docker를 사용하여 Chroma 실행 Chroma DB를 Docker 컨테이너로 실행합니다. Docker를 사용하면 Chroma.. 2023. 11. 10. 생성형 AI(인공지능) 챗봇 서비스 보안 활용사례 공모전 한국침해사고대응팀협의회, 한국CPO포럼, 한국정보보호학회, 한국정보보호산업협회와 협력하여 과학기술정보통신부와 한국인터넷진흥원이 함께 주최하는 '생성형 인공지능 챗봇 서비스' 보안 활용사례 아이디어 공모전이 열립니다. 이 공모전은 생성형 AI 기술을 활용하여 정보보호 분야를 강화하고 혁신적인 아이디어를 발굴하고 공유하기 위한 목적으로 개최됩니다. [참가 대상]: 정보보안에 관심 있는 대학생 및 일반인 등 전 국민 [공모 기간]: 접수기간: 2023년 8월 7일(월)부터 10월 31일(화) 18:00까지 공모심사: 1차 예선(서류심사), 2차 본선(발표심사/온라인) [공모 주제]: 생성형 AI 챗봇 서비스를 활용하여 '보안 분야에서 활용 가능한 어떤 아이디어든' 환영합니다. [참가 방법]: 공식 홈페이지: .. 2023. 9. 10. 2023년 AI+Security 아이디어 공모전 참가자 모집 과학기술정보통신부와 한국인터넷진흥원에서는 'AI의 안전한 사용 또는 AI를 이용한 안전 수준 제고' 아이디어를 발굴하기 위해 「2023년 AI+Security 아이디어 공모전」 참가자를 모집하고 있습니다. 아래는 공모전에 관한 주요 정보입니다. 공모주제: AI의 안전한 사용(Safety for AI) 또는 AI를 이용한 안전 수준 제고(AI for Safety) 접수기간: 9월 1일(금)부터 10월 13일(금) 18시까지 접수방법: 제출서류를 작성한 후 이메일(plan@planinfinit.com)로 제출 제출서류: 1) 신청서 2) 개인정보 수집·이용 동의서 3) 서약서 4) 서비스 기획서 (PPT 형식, 30장 이내, 자유양식, PDF 파일) 문의처: plan@planinfinit.com / 02-2.. 2023. 9. 6. 이전 1 2 3 4 5 다음 728x90
