데이터는 모바일 또는 웹 애플리케이션, 상거래 구매, 게임 플레이어 활동 및 더 많은 소스를 사용하여 고객이 생성한 로그 파일의 형태로 우리 주변에 있습니다. 보다 구체적으로 AWS Kinesis 및 Kafka 서비스는 데이터 스트림을 관리 및 제어하고 SQL을 사용하여 AWS 스토리지 서비스에 저장할 준비를 하는 데에도 활용됩니다.
이 가이드에서는 Kinesis와 Kafka에 대해 자세히 설명합니다.
키네시스란?
방대한 양의 데이터를 관리하는 것은 수집, 저장 및 분석이 필요한 상당히 복잡한 작업입니다. AWS Kinesis 서비스는 이 높은 처리량 정보를 제어하고 사용자가 비즈니스, 조직 및 고객에 대한 최신 정보를 유지하는 데 사용됩니다.
Kinesis의 서비스
Kinesis는 다음 서비스로 구성됩니다.
키네시스 스트림 : Kinesis 스트림은 지연 시간이 짧은 대규모 스트리밍 수집을 제공합니다.
키네시스 애널리틱스 : 다양한 리소스에서 데이터를 캡처하고 SQL을 적용하여 스트림에 대한 실시간 분석을 수행하는 데 사용됩니다.
키네시스 파이어호스 : S3, Redshift, ElasticSearch 등과 같은 AWS 서비스에 일관되게 스트림을 준비하고 로드하는 데 활용됩니다.
카프카란?
Kafka는 게시 및 구독 메커니즘을 사용하여 데이터를 스트리밍하는 분산 메시지 스트리밍 플랫폼입니다. 아마존의 ' Apache Kafka용 관리형 스트리밍 ”(MSK)는 실시간 스트리밍 파이프라인을 구축하는 데 사용되는 완전 관리형 서비스입니다. 그러나 예측할 수 없고 알 수 없는 워크로드의 경우 플랫폼에서 Amazon MSK 서버리스를 도입했습니다.
카프카의 핵심 개념
Kafka의 핵심 개념 중 일부는 다음과 같습니다.
대기줄 : 비동기 메시지를 보내고 받는 메커니즘을 제공하고 서비스 간 통신을 제공합니다.
PubSub : 사용자가 데이터 스트림을 보내고 받고 필터링하는 데 도움이 되는 비동기식 메시징 서비스입니다.
Kinesis는 Kafka와 동일합니까?
Apache Kafka는 오픈 소스 PubSub 메시징 솔루션이며 Kinesis는 Kafka를 모델로 한 관리형 AWS 서비스입니다. MSK는 데이터(주제)의 키 값을 파티션에 저장하고 Kinesis는 데이터 레코드를 Shard에 저장합니다. Kinesis와 Kafka는 거의 동일한 서비스를 제공하도록 설계되었지만 팬아웃 개념에서 차이가 있습니다.
결론
요약하면 AWS Kinesis 및 Kafka 서비스는 높은 처리량 및 낮은 지연 시간의 워크로드 제공과 같은 활동을 수행하도록 설계되었습니다. Kinesis는 AWS 스토리지 서비스에서 데이터 스트리밍 및 저장을 통해 빅 데이터를 관리하는 데 사용됩니다. Amazon MSK는 대기열 메커니즘도 사용하는 PubSub 메시징 스트리밍 서비스입니다.