Dev_duri

Kafka_Tutorial_Word 본문

Kafka

Kafka_Tutorial_Word

marcel 2022. 12. 4. 18:09

Topic

  • Kafka 안에서 메시지가 저장되는 장소, 논리적인 표현

 

Producer

  • 메시지를 생산해서 Kafka의 Topic으로 메시지를 보내는 어플리케이션

 

Consumer 

  • Topic의 메시지를 사용하기 위해 협력하는 Consumer들의 집합

 

Consumer Group

  • Topic의 메시지를 사용하기 위해 협력하는 Consumer들의 집합

 

  • 하나의 Consumer는 하나의 Consumer Group에 포함되며,                                                                             
  • Consumer Group 내의 Consumer들은 협력하여 Topic의 메시지를 분산 처리한다. 

 

Partition

  • 하나의 Topic은 하나 이상의 Partition으로 구성
  • 병령처리(Throughput)를 위해서 다수의 Partition을 사용

Segment

  • 메시지(데이터)가 저장되는 실제 물리 File
  • Segment File이 지정된 크기보다 크거나 지정된 기간보다 오래되면 새 파일이 열리고 메시지는 새 파일에 추가됨

Commit Log

  • 추가만 가능하고 변경 불가능한 데이터 스트럭처
  • 데이터(Event)는 항상 로그 끝에 추가되고 변경되지 않음

 

Offset

  • Commit Log 에서 Event의 위치

 

 

 

 

 

 

 

'Kafka' 카테고리의 다른 글

Impala/Kudu Kafka Connector  (0) 2023.02.16
Apache Beam  (0) 2023.02.16
Spark (Kafka to Hadoop)-pyspark  (0) 2023.02.16
Flink  (0) 2023.01.31
Kafka 기본 명령어  (0) 2022.12.10