본문 바로가기

서버구축 (WEB,DB)354

Zookeeper, Storm, Kafka, Elasticsearch 클러스터 고가용성 구성 Zookeeper, Storm, Kafka, Elasticsearch 클러스터를 고가용성으로 구성하는 것은 데이터의 안정적인 수집, 처리, 저장을 보장하는 데 중요합니다. 각 구성 요소는 다음과 같은 역할을 합니다.Zookeeper: 분산 애플리케이션을 위한 중앙 집중형 서비스로, Kafka 및 Storm의 클러스터 관리에 사용됩니다.Kafka: 고성능 메시징 시스템으로, 데이터를 수집하여 Storm으로 전달합니다.Storm: 실시간 데이터 처리 시스템으로, 데이터를 처리한 후 Elasticsearch에 저장합니다.Elasticsearch: 분산 검색 및 분석 엔진으로, 최종 데이터를 저장하고 검색합니다.1. Zookeeper 클러스터 구성서버 준비: 최소 3대의 서버를 준비합니다.Zookeeper 설치.. 2024. 10. 23.
Airflow Serverless 환경에서 Kubernetes 클러스터 이전 가이드 워크플로우 관리 플랫폼인 Apache Airflow를 사용하면서 서버리스 환경에서 Kubernetes(K8S)로 이전하려는 경우가 많습니다. 이전 과정을 이해할 수 있도록 설명하고, 사전에 검토해야 할 사항과 발생할 수 있는 문제들의 해결책을 정리합니다.서버리스 환경의 장점자동 확장: 트래픽이나 작업량 증가에 따라 리소스가 자동으로 확장되어 성능을 유지합니다.관리 부담 감소: 인프라 관리에 드는 시간을 줄이고 애플리케이션 개발과 개선에 집중할 수 있습니다.비용 효율성: 사용한 만큼만 비용을 지불하므로, 리소스 낭비를 최소화하고 비용 관리가 용이합니다.하지만 특정한 요구사항이나 성능 최적화를 위해서는 Kubernetes로 이전하여 더 세밀한 제어와 확장성을 확보해야 할 때가 있습니다.사전 검토 사항 및 고.. 2024. 10. 17.
MinIO 클라이언트(MC)로 스토리지 운영 자동화 및 보안 최적화 Minio Client는 S3 호환 오브젝트 스토리지 서버에 접근하고 관리하기 위한 도구입니다. 주로 데이터 저장, 관리, 그리고 분석 작업에 사용됩니다. 이를 통해 S3 호환 스토리지에 쉽게 접근하고 데이터를 업로드, 다운로드, 삭제 등의 작업을 할 수 있습니다.대표적인 활용데이터 백업 및 복구Minio Client는 대량의 데이터를 S3 호환 스토리지에 백업하고, 필요 시 이를 복구하는 데 유용합니다. 예를 들어, 서버의 로그 파일이나 데이터베이스 덤프를 정기적으로 S3 호환 스토리지에 백업합니다.데이터 아카이빙오래된 데이터를 아카이브하여 장기 보관하는 용도로 사용됩니다. 특히 규제 준수를 위해 데이터를 오랜 기간 보관해야 하는 경우 유용합니다.데이터 분석 및 처리데이터를 S3 호환 스토리지에 저장한.. 2024. 10. 9.
Docker 인증 우회 취약점 보안 강화 보호조치 및 모니터링 통제관리 Docker 인증 우회 취약점과 같은 보안 이슈는 시스템 전체에 심각한 영향을 미칠 수 있습니다. 따라서 Docker 데몬의 보안을 강화하고 지속적으로 모니터링하는 것이 매우 중요합니다. 아래에서는 Docker 데몬 보안을 위한 체크리스트, 보호 조치, 모니터링 및 통제 관리 방안입니다.1. Docker Daemon 보안 체크1.1. 외부 노출 여부위험성: Docker Daemon이 외부에 노출되면, 외부 공격자가 이를 악용하여 컨테이너를 생성, 삭제, 조작할 수 있습니다.보호 조치방화벽 설정: Docker Daemon 포트(기본적으로 2375/2376)를 외부에서 접근할 수 없도록 방화벽을 설정합니다.Docker Daemon 설정 변경: Docker Daemon을 외부 인터페이스가 아닌 localhos.. 2024. 10. 8.
Elasticsearch 설정 우선순위와 효율적인 적용 방법 (클러스터 관리 핵심) Elasticsearch의 설정을 업데이트하는 방법에는 세 가지 주요 접근 방식이 있습니다. transient update, persistent update, 그리고 elasticsearch.yml 파일을 통한 업데이트입니다. 각 접근 방식은 적용 범위와 지속성에서 차이가 있으며, 우선순위도 다릅니다. 각 방법에 대한 상세한 설명과 구체적인 사례에 대해서 자세히 알아보겠습니다.설정 업데이트 방법 및 우선순위Transient Settings (임시 설정)특징: 클러스터가 재시작되면 사라지는 일시적인 설정입니다.용도: 단기적인 테스트나 일시적인 설정 변경에 유용합니다.우선순위: 가장 높은 우선순위를 가집니다.Persistent Settings (지속적 설정)특징: 클러스터가 재시작되어도 유지되는 영구적인 설.. 2024. 10. 4.
728x90

티스토리툴바