본문 바로가기

분류 전체보기3269

728x90
llamafile 프레임워크로 LLM 단일 파일 빌드 및 실행 GN⁺에서 소개한 llamafile 프로젝트에 대한 Hacker News의 의견과 사용자 경험을 정리하면 다음과 같습니다. 프로젝트 개요 llamafile은 AI 개발자들이 어디서나 손쉽게 LLM을 빌드하고 실행할 수 있도록 하는 프레임워크입니다. llama.cpp와 Cosmopolitan Libc를 결합하여 여러 플랫폼과 아키텍처에서 실행 가능한 단일 빌드를 지원합니다. 사용 방법과 경험 macOS에서 LLaVA 모델을 테스트하는 방법이 안내되었습니다. Hugging Face에서 llamafile-server 파일을 다운로드하고 터미널에서 실행하여 웹 서버를 시작하고, 브라우저를 통해 모델과 대화를 시작할 수 있습니다. macOS 앱 개발자는 llama.cpp를 SwiftUI 프론트엔드와 결합하여 자체.. 2024. 1. 25.
Linux Network Manager 설정 관리 명령어 nmcli 기본 옵션 nmcli는 NetworkManager Command Line Interface의 약자로, Linux 환경에서 네트워크 관리를 위한 명령행 도구입니다. nmcli를 사용하면 네트워크 연결, 프로파일 관리, 디바이스 설정 등을 쉽게 수행할 수 있습니다. 여기에는 nmcli의 대표적인 용도와 몇 가지 일반적인 옵션에 대한 설명이 포함되어 있습니다.대표적인 용도연결 관리네트워크 연결을 관리할 때 nmcli를 사용할 수 있습니다.nmcli connection up/down 을 사용하여 연결을 활성화 또는 비활성화할 수 있습니다.프로파일 관리nmcli connection show를 사용하여 현재 설정된 연결 프로파일을 표시할 수 있습니다.nmcli connection add 및 nmcli connection mo.. 2024. 1. 24.
AI 기술 발전에 따른 전문성 역할과 활용측면 역량의 중요성 AI의 발전과 함께 미래에는 전문성뿐만 아니라 AI 기술을 잘 활용하는 역량이 더욱 중요해질 것으로 예상됩니다. 몇 가지 관련된 측면들을 살펴보겠습니다. AI의 활용과 전문성 AI는 특정 분야에서 빠르고 정확한 데이터 분석, 패턴 인식, 예측 등의 작업을 수행할 수 있습니다. 따라서, 일부 분야에서는 AI가 특정 전문성을 갖추는 데에 높은 수준의 성과를 보일 것으로 기대됩니다. 예를 들어 의료 분야에서는 AI가 의학 영상 해석이나 진단에 사용되고, 이로써 의료 전문가들은 보다 정확하고 효율적인 결과를 얻을 수 있습니다. 인간 중심의 역량 강조 AI는 여전히 인간의 창의성, 도덕적 판단, 감정적 지능 등에서는 제약이 있습니다. 따라서, 미래에는 인간 중심의 역량이 더욱 강조될 것으로 예상됩니다. 문제 해결.. 2024. 1. 23.
GitLab Image Importer 저장소에 도커 이미지 저장 및 사용 GitLab의 Image Importer 저장소에서 Docker 이미지를 가져와서 저장하고, 해당 이미지를 사용하여 운영 시스템에서 컨테이너를 실행하는 과정을 단계별로 설명하겠습니다. 이를 위해서는 다음 단계를 따르면 됩니다. Image Importer 저장소에서 Docker 이미지 가져오기 GitLab의 Image Importer 저장소에서 원하는 Docker 이미지를 가져옵니다. 아래 명령어는 이미지를 클론하는 예시입니다. git clone https://gitlab.com/.git 저장소로 이동합니다. cd Docker 이미지 빌드 저장소 내에 있는 Dockerfile을 사용하여 이미지를 빌드합니다.여기서 은 원하는 이미지의 이름이고 는 이미지의 버전 또는 태그입니다. docker build -t .. 2024. 1. 22.
Docker Swarm 클러스터 환경변수(configs)와 시크릿(secrets) 정보 관리 Docker에서는 configs와 secrets를 사용하여 설정 데이터 및 민감한 정보를 관리할 수 있습니다. 이들은 Swarm 모드에서 사용되며, 일반적으로 docker-compose.yml 파일을 사용하여 구성됩니다. Docker Configs configs는 설정 데이터를 관리하는 데 사용됩니다. 예를 들어, Nginx 설정 파일, Apache 설정 파일 등을 configs로 관리할 수 있습니다. docker config 명령을 사용하여 config를 만들고 관리할 수 있습니다. Docker Swarm 모드에서만 사용 가능하며, 각 서비스에서 해당 설정을 사용할 수 있습니다. 예: version: '3.8' services: web: image: nginx:latest configs: - sourc.. 2024. 1. 21.
728x90
728x90

티스토리툴바