| 일 | 월 | 화 | 수 | 목 | 금 | 토 |
|---|---|---|---|---|---|---|
| 1 | 2 | 3 | 4 | 5 | ||
| 6 | 7 | 8 | 9 | 10 | 11 | 12 |
| 13 | 14 | 15 | 16 | 17 | 18 | 19 |
| 20 | 21 | 22 | 23 | 24 | 25 | 26 |
| 27 | 28 | 29 | 30 |
- Apache Kafka
- kibana
- dlq
- OpenShift
- fluentd
- Parquet
- BIGDATA
- metallb
- k8s
- kafka ui
- MariaDB
- apache hadoop
- elasticearch
- dead letter queue
- pyspark
- Redis
- Kafka
- kafka connect
- rsyslog
- Kafka Consumer Client
- logstash
- kubernetes
- PrestoDB
- naverdevelopers
- loadbalancer
- Lokistack
- ui for kafka
- sentinel
- elasticsearch
- MongoDB
- Today
- Total
목록database/Oracle (5)
Dev_duri
해당 페이지에서는 Oracle의 Online Redo Log(로테이트 구조) 와 Archive Log 동작을 운영 관점에서 깊이 있게 정리한 것입니다.Debezium(LogMiner) 기반 CDC 운용 시 어떤 포인트를 특히 주시해야 하는지도 함께 적었습니다.1) Redo Log 기본 구조 (그룹·멤버·스레드)Redo Buffer: SGA 내 메모리 버퍼. DML/DDL의 변경 벡터가 먼저 적재됨.LGWR: Redo Buffer를 Online Redo Log 파일로 순서대로 기록.Online Redo Log:Group(필수): 최소 2개 이상 권장, 보통 3개 이상.Member(선택/권장): 같은 Group을 서로 다른 디스크 경로에 복수 멤버로 미러링(멀티플렉싱)해 장애 내구성 확보.Thread: RA..
해당 페이지에서는 Oracle의 Redo 로그 구조, 보조 로깅(supplemental logging) 활성화 후 변화, 그리고 Kafka Connector(LogMiner 기반) 가 그 Redo를 어떻게 사용하는지까지 단계적으로 설명합니다.1. Oracle Redo Log에 기본적으로 쌓이는 내용Oracle Database는 모든 DML(INSERT/UPDATE/DELETE) 에 대해 “복구용”으로 다음과 같은 Redo Entry를 생성합니다.Redo 구성요소 설명SCN(System Change Number)트랜잭션 순서를 보장하는 일련번호Data Block Address (DBA)변경된 데이터 블록의 위치 (파일 번호 + 블록 번호)Change Vector (Redo Record)해당 블록 내에서 어..
Oracle LogMiner는 Oracle Database의 Redo Log(온라인 로그와 아카이브 로그)에 기록된 트랜잭션 변경 내역을 분석하여 데이터 변경 이력(INSERT, UPDATE, DELETE) 을 복원하는 기능입니다. Kafka의 Debezium Oracle Source Connector는 이 LogMiner를 활용해 CDC(Change Data Capture) 이벤트를 추출하고 Kafka로 전송합니다.1. LogMiner의 주요 기능기능 설명Redo Log 분석Oracle이 DML/DDL 작업 시 생성하는 Redo Entry를 읽고, 각 트랜잭션의 변경 SQL을 재구성합니다.트랜잭션 단위 복원COMMIT 또는 ROLLBACK 단위로 트랜잭션 경계를 식별할 수 있습니다.SCN 기반 추적각 ..
1. 개요본 문서는 Oracle RAC(Real Application Clusters) + ASM(Automatic Storage Management) 환경에서Debezium Oracle Connector(LogMiner 기반) 를 활용하여 CDC(Change Data Capture) 를 수행하기 위한 구성 방법과그때 고려해야 하는 아키텍처 설계 요소를 공식 문서 기준으로 정리한다.Debezium Oracle Connector는 기본적으로Oracle LogMiner 를 기반으로 redo 로그를 분석트랜잭션 변화를 Kafka 이벤트로 변환정합성과 순서 보장을 유지하는 방식으로 동작한다.그러나 RAC + ASM 환경에서는 로그 파일의 위치, 인스턴스 간 동기화, redo thread 구조 등으로 인해싱글 인..
ORACLESELECT * FROM TABLE_1 A, TABLE_2 B WHERE A.COL1 = B.COL1(+) AND A.COL2 = B.COL2(+) VERTICA SELECT * FROM TABLE_1 ALEFT JOIN TABLE_2 B ON A.COL1 = B.COL2 AND A.COL2 = B.COL2 - Vertica doesn't support more than 1 level of correlated sub-queries.- You should convert them into JOINs.- Vertica SubQuery 제약에 대한 공식문서 내용 : https://www.vertica.com/docs/9.2.x/H..