Hello World

  • 홈
  • 태그
  • 미디어로그
  • 위치로그
  • 방명록

partitioning 1

[Apache Kafka] Kafka Data Ordering issue (2023.01.26)

0. Table Of Contents 0. Table Of Contents 1. 서론 2. 문제점 2.1. partition이 하나일 경우의 데이터 ordering test 2.2. partition이 복수개의 경우 2.2.1. kafka clustering 2.2.2. data ordering test 3. 문제점 분석 4. 해결법 4.1. partitioning key 4.2. sticky partition 1. 서론 현재 기획중인 데이터 파이프라인의 경우 아래와 같은 특성을 지니고 있다. 하나의 source가 아닌 다양한 환경의 source에서 데이터를 받는다. 현장 local server가 존재하지만, 통계 및 분석을 local server에서 지원하게되면 disk 및 성능 문제가 발생 할 수 있..

IT/OpenSource 2023.05.22
이전
1
다음
더보기
프로필사진

Hello World

삽질기록 아카이브

  • 분류 전체보기 (45)
    • IT (3)
      • Cloud (11)
      • Java Spring (6)
      • OpenSource (4)
      • TypeScript (1)
      • Git (1)
      • Algorithm (2)
      • Security (1)
      • NOSQL (7)
      • 삽질 로그 (2)
      • RDB (0)
      • 미들웨어 (1)
      • FastAPI (0)
      • nestJS (0)
    • 회고 (3)
    • 시험후기 (0)

Tag

deadqueue, ASGI vs WSGI, mongodb performance, FaaS사용시 주의점, DynamoDB 설계, env parsing, utility type, ASGI, AWS, 삽질로그, mongodb index, Kafka, 삽질, Spring, Generic Type, MongoDB, Servlet, dataordering, gcp cloudfunction, mongodb전략,

최근글과 인기글

  • 최근글
  • 인기글

최근댓글

공지사항

페이스북 트위터 플러그인

  • Facebook
  • Twitter

Archives

Calendar

«   2025/05   »
일 월 화 수 목 금 토
1 2 3
4 5 6 7 8 9 10
11 12 13 14 15 16 17
18 19 20 21 22 23 24
25 26 27 28 29 30 31

방문자수Total

  • Today :
  • Yesterday :

Copyright © Kakao Corp. All rights reserved.

티스토리툴바