인공지능 (AI,GPT)24 Generative AI 시스템 보호를 위한 도구 PyRIT 툴킷 MS 출시 Microsoft가 PyRIT(Python Risk Identification Tool)라는 새로운 오픈 소스 자동화 프레임워크를 출시했습니다. 이 도구는 생성 인공지능(AI) 시스템 내의 위험을 사전에 식별하기 위해 설계되었으며, 모든 조직이 최신 인공지능 발전을 책임 있게 활용할 수 있도록 지원하는 것을 목표로 합니다. PyRIT는 특히 큰 언어 모델(LLM) 엔드포인트의 강건성을 다양한 해로운 카테고리, 예를 들어 조작(예: 환각), 오용(예: 편견), 금지된 내용(예: 괴롭힘)에 대해 평가하는 데 사용될 수 있습니다. 또한, 맬웨어 생성에서 탈옥에 이르기까지 보안 해로움, 그리고 신원 도용과 같은 개인정보 해로움을 식별하는 데에도 사용할 수 있습니다. PyRIT는 다섯 가지 인터페이스를 제공합니다.. 2024. 3. 30. 슬랙 채널로 데이타 관리 및 유사사례 검색 활용 AI 대응 슬랙 채널에 새로운 스레드가 등록될 때 유사 내용에 대한 이전 내역을 추출하여 정리하는 슬랙봇을 만드는 과정을 구현하기 위한 가이드입니다. 1. 슬랙 API 사용을 위한 준비 Slack API 사용 등록: 먼저 Slack API 웹사이트에 접속하여 새로운 앱을 생성합니다. 이 과정에서 생성된 앱을 원하는 슬랙 워크스페이스에 설치해야 합니다. 앱 권한 설정: 앱이 슬랙 채널의 메시지를 읽고, 메시지를 포스팅할 수 있도록 필요한 권한을 설정합니다. 일반적으로 channels:history, groups:history, im:history, mpim:history, chat:write, chat:write.public 권한이 필요할 수 있습니다. Bot User OAuth Access Token: 슬랙 앱 설.. 2024. 3. 14. 다양한 형태의 데이터를 이해하고 생성하는 AI 멀티모달 기능 멀티모달 시스템과 관련하여, 이러한 접근법이 기계 학습 및 인공 지능 분야에서 어떻게 활용되고 있는지 일반적인 개요입니다. 멀티모달 시스템이란? 멀티모달 시스템은 두 가지 이상의 다양한 유형의 데이터(예: 텍스트, 이미지, 오디오 등)를 처리하고, 이를 통합하여 정보를 분석하고 예측하는 기술을 말합니다. 이러한 시스템은 데이터의 다차원적 특성을 활용하여 보다 정확하고 깊이 있는 인사이트를 제공할 수 있습니다. 멀티모달 시스템의 주요 접근법 Early Fusion: 서로 다른 유형의 데이터를 모델의 입력 단계에서 미리 통합합니다. 이 방법은 복합적인 특성을 모델에 전달하기 위해 전처리 과정에서 데이터를 결합합니다. Late Fusion: 각 데이터 유형을 별도로 처리한 후, 모델의 출력 단계에서 결과를 합.. 2024. 3. 10. OpenAI의 Assistants API 활용한 GPT 모델 사용 예제 예제를 통한 Assistants API의 사용 방법과 관련 코드를 설명하겠습니다. OpenAI의 Assistants API 소개 Assistants API란? OpenAI에서 제공하는 API 도구로, 개발자들이 AI 기반 애플리케이션을 쉽게 구축할 수 있도록 도와줍니다. GPT 모델을 사용하여 다양한 기능을 구현할 수 있습니다. Playground 활용 Playground 이용: 코드 설치 전에 Playground에서 에이전트를 만들고 테스트할 수 있습니다. 기능 실험, Code Interpreter, Retrieval, File Upload 등이 가능하며, 로그 확인도 할 수 있습니다. Assistants API의 기본 원리 Assistant 시작: 스레드(사용자와의 대화 또는 세션을 관리하는 단위)를.. 2024. 2. 13. llamafile 프레임워크로 LLM 단일 파일 빌드 및 실행 GN⁺에서 소개한 llamafile 프로젝트에 대한 Hacker News의 의견과 사용자 경험을 정리하면 다음과 같습니다. 프로젝트 개요 llamafile은 AI 개발자들이 어디서나 손쉽게 LLM을 빌드하고 실행할 수 있도록 하는 프레임워크입니다. llama.cpp와 Cosmopolitan Libc를 결합하여 여러 플랫폼과 아키텍처에서 실행 가능한 단일 빌드를 지원합니다. 사용 방법과 경험 macOS에서 LLaVA 모델을 테스트하는 방법이 안내되었습니다. Hugging Face에서 llamafile-server 파일을 다운로드하고 터미널에서 실행하여 웹 서버를 시작하고, 브라우저를 통해 모델과 대화를 시작할 수 있습니다. macOS 앱 개발자는 llama.cpp를 SwiftUI 프론트엔드와 결합하여 자체.. 2024. 1. 25. 이전 1 2 3 4 5 다음
