본문 바로가기

SQL18

728x90
FastAPI + DuckDB로 만드는 가볍고 유연한 Webhook 큐잉 처리 시스템 DuckDB 기반 Webhook Gateway 구성과 Prometheus/Grafana 연계 모니터링을 포함한 종합적인 구현입니다.시스템 구성도 및 데이터 흐름┌─────────────────┐ ┌──────────────────┐ ┌────────────────────┐ ┌───────────┐│ External APIs │────▶│ Webhook Gateway │────▶│ Internal Processor │────▶│ 내부 시스템 │└─────────────────┘ │ (FastAPI) │ └────────────────────┘ └───────────┘ │ │.. 2025. 7. 5.
Pandas보다 빠르고, SQL만큼 쉬운 실시간 분석 DB, DuckDB 강력 도구 DuckDB: 데이터 분석의 판도를 바꾼 혁신적인 분석형 데이터베이스DuckDB는 내장형 분석 데이터베이스(embedded analytical database)로, SQLite의 철학을 분석 워크로드에 적용한 오픈소스 프로젝트입니다. 2019년 네덜란드의 CWI(Centrum Wiskunde & Informatica) 연구소에서 시작되어, 현재는 DuckDB Labs를 통해 개발되고 있습니다.핵심 특징1. 컬럼 지향 저장 구조행 단위가 아닌 컬럼 단위로 데이터를 저장하여 분석 쿼리에 최적화압축률이 높고 메모리 효율적2. 벡터화된 쿼리 실행CPU의 SIMD(Single Instruction, Multiple Data) 명령어를 활용한 번에 여러 데이터를 병렬 처리3. 제로 카피 통합Pandas DataFr.. 2025. 6. 20.
Osquery Augeas 렌즈 활용 시스템 설정을 SQL 쿼리로 조회 분석 자동화 Osquery는 다양한 시스템 정보를 SQL 형태로 조회할 수 있도록 지원하는 오픈소스 도구입니다. 그중 Augeas를 활용하여 시스템 설정 파일을 구조화된 데이터로 변환하고 SQL 쿼리로 조회할 수 있습니다.Augeas란?Augeas는 Linux 및 Unix 시스템의 구성 파일을 파싱, 수정, 검증하는 라이브러리입니다. 시스템의 다양한 설정 파일을 구조화된 데이터 형태로 변환하고, 이를 안전하게 수정할 수 있도록 지원합니다.1. Osquery에서 Augeas는 기본 활성화인가?Osquery는 기본적으로 내장된 Augeas 렌즈를 사용하여 주요 설정 파일을 파싱할 수 있습니다. 하지만, /usr/share/osquery/lenses/ 폴더에 있는 렌즈 파일들은 자동으로 로드되지 않으며, 필요할 경우 설정.. 2025. 3. 5.
SSMS(SQL Server Management Studio) 20 다운로드 및 설치 가이드 1. SSMS란 무엇인가요?SQL Server Management Studio(SSMS)는 SQL Server와 Azure SQL Database를 포함한 SQL 인프라 전반을 관리하기 위한 통합 환경입니다. SSMS를 통해 다음과 같은 작업이 가능합니다.SQL Server 인스턴스 및 데이터베이스의 구성, 모니터링, 관리데이터 계층의 설계 및 관리로컬 및 클라우드 환경에서 데이터베이스 쿼리데이터베이스 성능 최적화 및 문제 해결 SSMS는 데이터베이스 관리자와 개발자에게 강력한 도구를 제공하며, SQL Server 및 Azure SQL Database의 운영 효율성을 크게 향상시킵니다.2. SSMS 20.2 다운로드 및 설치다운로드 링크SSMS 20.2 다운로드설치 과정SSMS 20.x 미리 보기 버전 .. 2024. 12. 28.
Pandas 데이터 전처리 Series와 DataFrame의 이해 및 활용법 Pandas는 Python에서 데이터 분석 및 조작을 위한 강력한 라이브러리입니다. 데이터 과학자, 분석가, 엔지니어들이 데이터를 효과적으로 처리하고 분석하는 데 널리 사용됩니다. Pandas는 특히 테이블 형식의 데이터를 다루는 데 유용하며, 엑셀 스프레드시트와 유사한 방식으로 데이터를 조작할 수 있습니다.Pandas의 핵심 개념SeriesPandas의 가장 기본적인 데이터 구조입니다. Series는 일련의 데이터를 담는 1차원 배열로, 각 데이터에 인덱스(레이블)가 붙어 있습니다.예를 들어, 날짜별 주가 데이터가 Series에 저장될 수 있습니다.import pandas as pd# 간단한 Series 예제data = pd.Series([10, 20, 30, 40], index=['2024-08-01.. 2024. 11. 17.
728x90
728x90