LLM4 Generative AI 시스템 보호를 위한 도구 PyRIT 툴킷 MS 출시 Microsoft가 PyRIT(Python Risk Identification Tool)라는 새로운 오픈 소스 자동화 프레임워크를 출시했습니다. 이 도구는 생성 인공지능(AI) 시스템 내의 위험을 사전에 식별하기 위해 설계되었으며, 모든 조직이 최신 인공지능 발전을 책임 있게 활용할 수 있도록 지원하는 것을 목표로 합니다. PyRIT는 특히 큰 언어 모델(LLM) 엔드포인트의 강건성을 다양한 해로운 카테고리, 예를 들어 조작(예: 환각), 오용(예: 편견), 금지된 내용(예: 괴롭힘)에 대해 평가하는 데 사용될 수 있습니다. 또한, 맬웨어 생성에서 탈옥에 이르기까지 보안 해로움, 그리고 신원 도용과 같은 개인정보 해로움을 식별하는 데에도 사용할 수 있습니다. PyRIT는 다섯 가지 인터페이스를 제공합니다.. 2024. 3. 30. llamafile 프레임워크로 LLM 단일 파일 빌드 및 실행 GN⁺에서 소개한 llamafile 프로젝트에 대한 Hacker News의 의견과 사용자 경험을 정리하면 다음과 같습니다. 프로젝트 개요 llamafile은 AI 개발자들이 어디서나 손쉽게 LLM을 빌드하고 실행할 수 있도록 하는 프레임워크입니다. llama.cpp와 Cosmopolitan Libc를 결합하여 여러 플랫폼과 아키텍처에서 실행 가능한 단일 빌드를 지원합니다. 사용 방법과 경험 macOS에서 LLaVA 모델을 테스트하는 방법이 안내되었습니다. Hugging Face에서 llamafile-server 파일을 다운로드하고 터미널에서 실행하여 웹 서버를 시작하고, 브라우저를 통해 모델과 대화를 시작할 수 있습니다. macOS 앱 개발자는 llama.cpp를 SwiftUI 프론트엔드와 결합하여 자체.. 2024. 1. 25. 언어 모델 기반 애플리케이션 개발 프레임워크 LangChain LangChain은 언어 모델을 기반으로 하는 애플리케이션을 개발하기 위한 프레임워크입니다. 이를 통해 다음과 같은 특징을 갖는 애플리케이션을 개발할 수 있습니다. 문맥 인식: 언어 모델을 문맥 소스에 연결하여 응답을 생성합니다. (프롬프트 지시사항, 몇 가지 예시, 응답을 기반으로 하는 콘텐츠 등) 추론: 주어진 문맥을 기반으로 답변 방법이나 취해야 할 조치 등을 추론하는 데 언어 모델을 활용합니다. 이 프레임워크는 여러 구성 요소로 구성되어 있으며 다음과 같은 상호 작용을 확인할 수 있습니다. LangChain 패키지: Python 및 JavaScript 패키지로, 다양한 구성 요소에 대한 인터페이스 및 통합, 이러한 구성 요소를 연결하여 체인과 에이전트로 결합하는 기본 실행 시간 및 고성능 작업을 .. 2023. 11. 28. LLM(언어모델) 기반 챗봇을 통해 비공개 정보를 효과적으로 소통하는 방법 "LLM"은 "Large Language Model"의 약어로, 큰 규모의 언어 모델을 가리킵니다. 언어 모델은 인간의 언어를 이해하고 생성하는 인공지능 시스템으로, 텍스트 데이터를 학습하여 문장, 문단 또는 문서를 생성하거나 이해할 수 있습니다. LLM은 특히 대량의 텍스트 데이터를 기반으로 학습되어 높은 수준의 언어 이해와 생성 능력을 가지고 있습니다. LLM은 기본적으로 통계적인 방법이나 규칙 기반의 접근 방식보다 데이터 주도(data-driven) 방식으로 작동합니다. 이러한 모델은 큰 양의 텍스트 데이터를 분석하여 문법, 의미, 맥락 등을 학습하고, 이를 기반으로 새로운 문장을 생성하거나 주어진 문장을 이해하려고 합니다. GPT (Generative Pre-trained Transformer)는.. 2023. 8. 26. 이전 1 다음
