1. HTTP 계층과 전송 계층

• 노드의 2가지 통신 모듈
  1. 전송(Transport) 모듈: 클러스터 내부에서 사용
     • 노드 간 데이터를 분산 처리하는 구조에 적합한 방식
     • 기본 포트: 9300 ~ 9399
  2. HTTP 모듈: 외부와 통신에 사용
     • 기본 포트: 9200 ~ 9299

2. 노드

• 노드: 엘라스틱서치 클러스터를 구성하는 1개의 인스턴스

• 마스터 노드

  • 클러스터당 하나의 마스터 노드를 가진다. → 마스터 노드가 없으면 클러스터가 멈춘다.
  • 인덱스의 설정, 매핑 정보, 물리적 위치, 클러스터 설정 정보나 클러스터의 모든 상태 정보를 관리한다.
  • 클러스터의 변화를 모니터링한다.
  • 사용자는 마스터 후보만 지정할 수 있고, 마스터 노드는 마스터 후보 노트가 투표를 통해 결정한다.

• 마스터 노드 선출 방법

  • 과반수 공식 N/2+1 표를 얻는 후보노드가 마스터 노드가 된다.
  • 마스터 노드가 이탈되면 다시 마스터 노드를 투표한다.
  • 이탈한 노드가 돌아와도 마스터 노드가 있으면 투표하지 않는다.

• 스플릿 브레인

  • 네트워크 장애 등으로 클러스터가 분리되었을 때 나누어진 각각의 서브 클러스터가 서로 마스터 노드를 선출하고 독립적인 클러스터로 동작하는 상태
  • 7.0 이후 버젼은 마스터 노드 선출 알고리즘 변경으로 minimum_master_node를 직접 선출하지 않기 때문에 스플릿 브레인이 발생하지 않는다.

• 투표 전용 노드

  • 마스터 노드가 될 수 없는 노드라서 마스터 후보 노드 보다 부담없이 운영될 수 있다.
  • 마스터 후보 노드 부족으로 마스터 노드를 선출하지 못하는 경우를 대비해 시스템이 멈추지 않고 동작하도록 도와준다.

• 데이터 노드

  • 인덱싱한 도큐먼트를 샤드 형태로 저장해서 데이터의 CRUD 작업과 검색, 집계 작업을 한다.
  • 데이터 프로세싱 작업으로 노드 중 가장 많은 부하를 받는다. → 마스터 노드와 데이터 노드를 구분하는 게 좋다.
  • 컴퓨터 리소스(IO,CPU,메모리 등) 사용량에 민감하기 때문에 모니터링하면서 부하 상태를 확인 후 명시적으로 샤드 재분배 또는 데이터 노드 추가/변경 작업을 해야 한다.

• 인제스트 노드

  • 도큐먼트의 가공과 정제를 위한 인제스트 파이프라인이 실행되는 노드
  • 로그 스태시 없이 비츠만 설치해 데이터를 수집하고 파이프라인으로 가공할 수 있다.
  • 모든 노드는 인제스트 노드 역할을 수행할 수 있지만, 데이터 가공을 많이하는 경우 별도의 인제스트 전용 노드를 구성하는 것이 좋다.
  • 구성요소 = 프로세서 + 파이프라인
  • 파이프라인
    • 프로세서의 집합
  • 프로세서
    • 도큐먼트를 변형할 수 있는 기능적으로 구분되는 모듈
    • 프로세서의 종류: date, drop, grok, set, split

• 머신러닝 노드

  • 엘라스틱서치가 제공하는 머신러닝 기능을 이용할 수 있는 노드
  • 유료 라이선스에 포함된 기능
  • 이상징후 알림, 시계열 예측, 분류, 회귀 분석 기능

• 코디네이터 노드

  • REST API 요청을 처리하는 역할
  • 모든 노드가 코디네이터 노드 역할을 수행할 수 있다.
  • 전용 노드는 로드밸런싱, 요청 라우팅, 요청 캐싱, 데이터 노드에서 계산된 결과에 대한 취합에 집중한다.

• 전용 노드

  • 노드별로 하나의 역할을 수행하는 노드

  • 시스템의 성능, 안전성, 비용 측면에서 효율적으로 활용할 수 있다.

  • elasticsearch.yml에서 노드의 역할을 설정할 수 있다.

    노드 타입	node.rules
    마스터 전용 노드	[ master ]
    투표 전용 노드	[ master, voting_only ]
    데이터 전용 노드	[ data ]
    인제스터 전용 노드	[ ingest ]
    머신러닝 전용 노드	[ ml ]
    코디네이터 전용 노드	[ ]

    • data_*, remote_cluster_client 역할은 각각 데이터 티어, 크로스 클러스터 검색/복제와 관련된 역할이다.

  	CPU	메모리	저장장치
  마스터 후보 전용 노드	저사양	저사양	저사양
  데이터 전용 노드	고사양	고사양	고사양
  인제스트 전용 노드	고사양	중간 사양	저사양
  코디네이터 전용 노드	저사양	중간 사양	저사양

3. 노드 구성과 시스템 구성

• 마스터 후보 노드는 홀수 배열로 구성하고, 나머지 노드들은 하트비트 같은 상태 검사 툴로 문제 여부를 빠르게 판단하고 복구할 수 있는 구조로 구성하는 것이 좋다.

• 소규모 클러스터

  • 하나의 노드가 모든 역할을 하는 시스템은 잘 쓰이지 않는다.
  • 소규모 클러스터는 적어도 3~5대의 노드가 있는 경우를 말한다.
  • 노드 개수가 부족해 다양한 전용 노드를 구성하기 힘들다.
  • 데이터 노드는 많은 리소스를 필요로 하기 때문에 많을수록 좋다. → 모두 데이터 노드가 되도록 구성
  • 마스터(후보) 노드와 데이터 노드 역할을 같이하는 노드를 3개로 구성하고, 하드웨어 구성에 좀 더 신경을 쓰고 시스템 부하를 모니터링해야 한다.

• 대규모 클러스터

  

  데이터 읽기가 많은 시스템인지, 데이터 쓰기가 많은 시스템인지에 따라 다르게 구성할 수 있다.

  • 마스터 후보 노드- 최소 3대를 준비하고, 클라이언트의 요청을 받지 않고 클러스터 관리에 집중하도록 구성한다.
  • 데이터 전용 노드- 클러스터에서 가장 많이 배치한다. 고사양 하드웨어로 통일해서 구성한다.
  • 인제스터 전용 노드- 데이터 수집의 엔트리 포인트 역할로 데이터 정제 작업에 집중한다.
  • 코디네이터 전용 노드- 검색, 집계 작업 취합을 담당하므로 서비스 성격에 따라 도입 유무를 결정한다.

• 데이터 노드 - 핫/웜/콜드 노드 구성

  • 데이터 노드를 구분하면 효율적으로 사용해 전반적인 클러스터 효율을 높일 수 있다.
  • 핫 노드: 인덱싱, 검색이 활발히 일어나는 인덱스들을 위치시키고 충분한 하드웨어를 할당한다.
  • 웜 노드: 자주 사용하지 않는 데이터를 저장한다. 쿼리 빈도가 낮고 인덱싱이 잘 일어나지 않는 인덱스들. 많은 데이터를 저장하기 위한 대용량 디스크를 사용한다.
  • 콜드 노드: 프리즈 모드의 인덱스들을 저장한다. 검색을 수행하지는 않지만 데이터 보존 기간 정책상 보관해야만 하는 데이터들이 해당된다. 최소한의 사양으로 구성하되 디스크의 용량만 필요한 만큼 갖추면 된다.
  • 핫/웜/콜드 노드 구성의 사용기술
    • 샤드 할당 필터링 기술: 샤드 조건에 따라 특정 노드에 저장하는 방법
    • 데이터 티어 기술: 7.10버젼부터 추가된 하드웨어가 동일한 노드들을 묶는 방법

4. 클러스터 백업