본문 바로가기

Elasticsearch30

Elasticsearch 설정 우선순위와 효율적인 적용 방법 (클러스터 관리 핵심) Elasticsearch의 설정을 업데이트하는 방법에는 세 가지 주요 접근 방식이 있습니다. transient update, persistent update, 그리고 elasticsearch.yml 파일을 통한 업데이트입니다. 각 접근 방식은 적용 범위와 지속성에서 차이가 있으며, 우선순위도 다릅니다. 각 방법에 대한 상세한 설명과 구체적인 사례에 대해서 자세히 알아보겠습니다.설정 업데이트 방법 및 우선순위Transient Settings (임시 설정)특징: 클러스터가 재시작되면 사라지는 일시적인 설정입니다.용도: 단기적인 테스트나 일시적인 설정 변경에 유용합니다.우선순위: 가장 높은 우선순위를 가집니다.Persistent Settings (지속적 설정)특징: 클러스터가 재시작되어도 유지되는 영구적인 설.. 2024. 10. 4.
Kali Linux VM(VirtualBox)으로 Elastic SIEM 구축 단계 Elastic SIEM 구축을 위한 명령어와 옵션을 포함한 세부 단계를 간략하게 정리합니다.작업 1: Elastic 계정 설정Elastic Cloud에서 무료 체험을 등록합니다.Elastic Cloud에서 계정을 생성합니다.Elastic Cloud 콘솔에 로그인한 후 "Start your free trial"을 클릭합니다."Create Deployment" 버튼을 클릭하고 "Elasticsearch"를 선택합니다.지역과 배포 크기를 선택하고 "Create Deployment"를 클릭합니다.설정이 완료되면 "Continue"를 클릭합니다.작업 2: Linux VM 설정VirtualBox에 Kali Linux VM 설치Kali Linux VM 다운로드Kali Linux VM 페이지에서 VM 이미지를 다운로드.. 2024. 9. 21.
FireEye 오픈소스 도구 HX Tool 활용 보안 이벤트 수집 분석 FireEye HX Tool은 FireEye가 제공하는 오픈소스 도구로, HX API를 사용하여 다양한 정보를 수집하고 관리할 수 있는 기능을 제공합니다. 이 도구는 FireEye HX의 기능을 확장하고, 보다 유연하게 보안 데이터를 수집하고 분석하는 데 도움을 줍니다. FireEye HX Tool을 사용하는 방법에 대해 설명하겠습니다.FireEye HX Tool 개요FireEye HX Tool은 Python으로 작성된 도구로, FireEye HX API를 쉽게 사용할 수 있게 해주는 스크립트와 라이브러리를 제공합니다. 이를 통해 다양한 보안 이벤트와 데이터를 수집하고 분석할 수 있습니다.FireEye HX Tool 설치 및 구성1. HX Tool 설치HX Tool은 GitHub에서 제공됩니다. 다음 명.. 2024. 8. 26.
Elasticsearch 영구적인 RDBMS 구성으로 전통적인 CRUD 작업 수행 Elasticsearch에서 로그 데이터를 저장하고 일정 기간이 지나면 자동으로 삭제되는 방식과는 다르게, 영구적으로 데이터를 저장하고 RDBMS처럼 검색하고 활용하는 방법에 대해 설명드리겠습니다.인덱스 설정 및 매핑 구성영구적으로 데이터를 저장하려면 인덱스의 매핑과 설정을 적절히 구성해야 합니다. 특히, 로그 방식과는 다르게, 검색 및 분석에 최적화된 매핑을 설정하는 것이 중요합니다.PUT /my_persistent_index{ "settings": { "number_of_shards": 1, "number_of_replicas": 1 }, "mappings": { "properties": { "timestamp": { "type": "date" },.. 2024. 8. 2.
데이터 엔지니어링 엔드투엔드(End-to-End) 프로젝트 기술 스택 개요1. Apache Airflow개요: Apache Airflow는 워크플로우 자동화 및 스케줄링 도구로, 복잡한 데이터 파이프라인을 정의, 스케줄링 및 모니터링할 수 있습니다.활용 예시데이터 파이프라인을 정의하는 DAG(DAG: Directed Acyclic Graph) 생성DAG를 사용한 데이터 처리 작업 스케줄링Airflow UI를 통해 작업 상태 모니터링2. Apache Zookeeper개요: Apache Zookeeper는 분산 시스템을 위한 중앙 집중형 서비스로, 구성 정보를 관리하고, 분산 시스템의 동기화 및 그룹 서비스를 제공합니다.활용 예시Kafka 클러스터 설정 및 관리분산 시스템의 노드 상태 모니터링 및 구성 정보 저장3. Apache Kafka개요: Apache Kafk.. 2024. 7. 29.
728x90