Notice
Recent Posts
Recent Comments
Link
일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | 4 | 5 | 6 | 7 |
8 | 9 | 10 | 11 | 12 | 13 | 14 |
15 | 16 | 17 | 18 | 19 | 20 | 21 |
22 | 23 | 24 | 25 | 26 | 27 | 28 |
29 | 30 |
Tags
- kibana
- PrestoDB
- Python
- MariaDB
- kafka ui
- elasticsearch
- naverdevelopers
- PostgreSQL
- elasticearch
- ui for kafka
- SSL
- pyspark
- Kafka
- MongoDB
- fluentd
- logstash
- kafka connect
Archives
- Today
- Total
Dev_duri
Kafka_Tutorial_Word 본문
Topic
- Kafka 안에서 메시지가 저장되는 장소, 논리적인 표현
Producer
- 메시지를 생산해서 Kafka의 Topic으로 메시지를 보내는 어플리케이션
Consumer
- Topic의 메시지를 사용하기 위해 협력하는 Consumer들의 집합
Consumer Group
- Topic의 메시지를 사용하기 위해 협력하는 Consumer들의 집합
- 하나의 Consumer는 하나의 Consumer Group에 포함되며,
- Consumer Group 내의 Consumer들은 협력하여 Topic의 메시지를 분산 처리한다.
Partition
- 하나의 Topic은 하나 이상의 Partition으로 구성
- 병령처리(Throughput)를 위해서 다수의 Partition을 사용
Segment
- 메시지(데이터)가 저장되는 실제 물리 File
- Segment File이 지정된 크기보다 크거나 지정된 기간보다 오래되면 새 파일이 열리고 메시지는 새 파일에 추가됨
Commit Log
- 추가만 가능하고 변경 불가능한 데이터 스트럭처
- 데이터(Event)는 항상 로그 끝에 추가되고 변경되지 않음
Offset
- Commit Log 에서 Event의 위치
'Kafka' 카테고리의 다른 글
Impala/Kudu Kafka Connector (0) | 2023.02.16 |
---|---|
Apache Beam (0) | 2023.02.16 |
Spark (Kafka to Hadoop)-pyspark (0) | 2023.02.16 |
Flink (0) | 2023.01.31 |
Kafka 기본 명령어 (0) | 2022.12.10 |