Jailbreaking2 Generative AI 시스템 보호를 위한 도구 PyRIT 툴킷 MS 출시 Microsoft가 PyRIT(Python Risk Identification Tool)라는 새로운 오픈 소스 자동화 프레임워크를 출시했습니다. 이 도구는 생성 인공지능(AI) 시스템 내의 위험을 사전에 식별하기 위해 설계되었으며, 모든 조직이 최신 인공지능 발전을 책임 있게 활용할 수 있도록 지원하는 것을 목표로 합니다. PyRIT는 특히 큰 언어 모델(LLM) 엔드포인트의 강건성을 다양한 해로운 카테고리, 예를 들어 조작(예: 환각), 오용(예: 편견), 금지된 내용(예: 괴롭힘)에 대해 평가하는 데 사용될 수 있습니다. 또한, 맬웨어 생성에서 탈옥에 이르기까지 보안 해로움, 그리고 신원 도용과 같은 개인정보 해로움을 식별하는 데에도 사용할 수 있습니다. PyRIT는 다섯 가지 인터페이스를 제공합니다.. 2024. 3. 30. 아이폰 Jailbreaking 기술 분석 먼저, 프로세스는 PDF 파일 압축 폰트 포맷 취약점(CVE - 2010-1797)을 이용합니다. 놀랍게도, 그것은 간단한 스택 기반의 버퍼 오버플로입니다. 이 취약점을 통해 지나치게 긴 CFF charString 항목으로 공격자가 $PC를 제어할 수 있다. 많은 사람들은 ROP의 다소 미숙한 기술로 복잡한 작업을 사용할 것으로 생각한다. 하지만 jailbreakme shellcode는 총 150회 이상 API를 호출하여 ROP를 실행한다. 이것은 메모리 손상과 같은 공격에 대해 방어하지 않은 실행 메모리를 의미한다. 이처럼 아이폰의 착취에 대한 현재 ROP 기법은 매우 성숙하고 안정적이다. Apple IOSurface 구성 요소의 공개되지 않은 커널 취약점으로 ROP payload를 남용한다. 그 취약.. 2010. 8. 10. 이전 1 다음 728x90
