본문 바로가기

서버구축 (WEB,DB)362

Filebeat 활용 MQTT 이벤트 수집 및 Elasticsearch 기록 분석 가이드 IoT와 같은 환경에서는 MQTT 브로커로부터 데이터를 수집하고 이를 Elasticsearch에 기록하여 분석하는 것이 중요합니다. 이 글에서는 Filebeat를 통해 MQTT 브로커에서 데이터를 읽어와 Elasticsearch에 전송하는 전체 과정을 다룹니다. 각 단계별로 자세한 설정 방법과 사용자 정의 모듈 추가, Docker 환경에서의 사용 예시까지 포함하여 설명합니다.목차배경 및 필요성환경 구성 요소Filebeat 설치Filebeat 설정 파일 수정 및 MQTT 입력 설정커스텀 MQTT 모듈 추가 및 Docker 설정Filebeat 실행 및 데이터 확인주의 사항 및 최적화 팁1. 배경 및 필요성MQTT(Message Queuing Telemetry Transport)는 저전력 장치에 최적화된 경량.. 2024. 11. 3.
인프라 및 애플리케이션 청사진(논리적 표현 토폴로지) Conductor Manager Conductor는 종종 대규모의 서버 관리 및 오케스트레이션 작업을 위한 클라우드 기반 플랫폼의 일부로 사용되는 CLI (Command Line Interface) 도구입니다. 이 도구는 인프라의 배치, 관리 및 모니터링을 자동화하는 데 사용됩니다. Conductor CLI를 사용하면 개발자와 시스템 관리자가 명령어를 통해 클라우드 리소스를 효과적으로 제어할 수 있습니다.Conductor CLI 주요 기능디버깅과 워커 관리워커 프로세스의 상태를 확인하고 문제를 진단하는 명령어를 제공합니다.서버 유지 관리서버의 배치, 업데이트 및 유지 관리를 위한 명령어를 제공합니다.오케스트레이션여러 서버와 서비스를 조율하고 관리하는 고급 명령어를 통해 복잡한 배치 시나리오를 실행할 수 있습니다.Conductor CLI.. 2024. 10. 27.
Kubernetes 클러스터 Kafka 및 Kafka UI 설치 및 활용 방법 Kafka는 분산 스트리밍 플랫폼으로, 대규모 데이터 스트림을 실시간으로 처리하고 저장하는 데 사용됩니다. 간단하게 말하면, Kafka는 많은 데이터를 빠르게 주고받을 수 있는 메시징 시스템이라고 할 수 있습니다. 기본적으로 Kafka는 데이터의 생산자(producer)와 소비자(consumer) 간에 데이터를 중개하는 역할을 합니다. Kafka의 주요 개념을 쉽게 설명하면 다음과 같습니다.1. 메시지(Message)Kafka에서 주고받는 데이터의 단위를 메시지라고 합니다. 메시지는 주로 텍스트, 숫자, JSON과 같은 간단한 데이터 형식으로 표현됩니다.2. 토픽(Topic)메시지가 저장되는 장소를 토픽이라고 부릅니다. Kafka는 데이터를 여러 토픽으로 구분하여 저장할 수 있으며, 각각의 토픽은 논리적.. 2024. 10. 26.
Zookeeper, Storm, Kafka, Elasticsearch 클러스터 고가용성 구성 Zookeeper, Storm, Kafka, Elasticsearch 클러스터를 고가용성으로 구성하는 것은 데이터의 안정적인 수집, 처리, 저장을 보장하는 데 중요합니다. 각 구성 요소는 다음과 같은 역할을 합니다.Zookeeper: 분산 애플리케이션을 위한 중앙 집중형 서비스로, Kafka 및 Storm의 클러스터 관리에 사용됩니다.Kafka: 고성능 메시징 시스템으로, 데이터를 수집하여 Storm으로 전달합니다.Storm: 실시간 데이터 처리 시스템으로, 데이터를 처리한 후 Elasticsearch에 저장합니다.Elasticsearch: 분산 검색 및 분석 엔진으로, 최종 데이터를 저장하고 검색합니다.1. Zookeeper 클러스터 구성서버 준비: 최소 3대의 서버를 준비합니다.Zookeeper 설치.. 2024. 10. 23.
Airflow Serverless 환경에서 Kubernetes 클러스터 이전 가이드 워크플로우 관리 플랫폼인 Apache Airflow를 사용하면서 서버리스 환경에서 Kubernetes(K8S)로 이전하려는 경우가 많습니다. 이전 과정을 이해할 수 있도록 설명하고, 사전에 검토해야 할 사항과 발생할 수 있는 문제들의 해결책을 정리합니다.서버리스 환경의 장점자동 확장: 트래픽이나 작업량 증가에 따라 리소스가 자동으로 확장되어 성능을 유지합니다.관리 부담 감소: 인프라 관리에 드는 시간을 줄이고 애플리케이션 개발과 개선에 집중할 수 있습니다.비용 효율성: 사용한 만큼만 비용을 지불하므로, 리소스 낭비를 최소화하고 비용 관리가 용이합니다.하지만 특정한 요구사항이나 성능 최적화를 위해서는 Kubernetes로 이전하여 더 세밀한 제어와 확장성을 확보해야 할 때가 있습니다.사전 검토 사항 및 고.. 2024. 10. 17.
728x90