From: Kai Moritz Date: Tue, 23 Aug 2022 16:43:55 +0000 (+0200) Subject: Im `ConsumerRebalanceListener` _muss_ `commitSync()` verwendet werden X-Git-Tag: sumup-adder---lvm-2-tage~5^2~4 X-Git-Url: http://juplo.de/gitweb/?a=commitdiff_plain;h=5bf8218d4a79a3b55056bffb2ed0c91c6bec8917;p=demos%2Fkafka%2Ftraining Im `ConsumerRebalanceListener` _muss_ `commitSync()` verwendet werden * Genaugenommen ist auch `commitAsync()` möglich. * Es ist jedoch nicht möglich, wie hier zuvor implementiert, `commitAsync()` mit einem `OffsetCallback` aufzurufen, in der Zwischenzeit die restlichen Aufräumarbeiten durchzuführen und anschließend auf den Callback zu warten. * Grund: Die Callbacks werden von Kafka nicht direkt aufgerufen, wenn die Ergebnisse eintreffen, sondern erst, wenn das nächste mal `poll()` aufgerufen wird. --- diff --git a/src/main/java/de/juplo/kafka/ApplicationRebalanceListener.java b/src/main/java/de/juplo/kafka/ApplicationRebalanceListener.java index 9e75112..fad3287 100644 --- a/src/main/java/de/juplo/kafka/ApplicationRebalanceListener.java +++ b/src/main/java/de/juplo/kafka/ApplicationRebalanceListener.java @@ -6,11 +6,7 @@ import org.apache.kafka.clients.consumer.Consumer; import org.apache.kafka.clients.consumer.ConsumerRebalanceListener; import org.apache.kafka.common.TopicPartition; -import java.time.Clock; -import java.time.Duration; -import java.time.Instant; import java.util.*; -import java.util.concurrent.CountDownLatch; @RequiredArgsConstructor @@ -55,22 +51,7 @@ public class ApplicationRebalanceListener implements ConsumerRebalanceListener public void onPartitionsRevoked(Collection partitions) { log.info("{} - Commiting offsets for all previously assigned partitions", id); - CountDownLatch commitDone = new CountDownLatch(1); - consumer.commitAsync((offsets, e) -> - { - commitDone.countDown(); - if (e == null) - { - log.error("{} - Could not commit offsets to Kafka!", id, e); - } - else - { - offsets.entrySet().stream().forEach(entry -> - { - log.info("{} - Commited offset for {}: {}", id, entry.getKey(), entry.getValue()); - }); - } - }); + consumer.commitSync(); partitions.forEach(tp -> { @@ -90,19 +71,5 @@ public class ApplicationRebalanceListener implements ConsumerRebalanceListener Map> results = adderResults.removePartition(partition); stateRepository.save(new StateDocument(partition, state, results)); }); - - try - { - log.debug("{} - Waiting for async commit to complete", id); - commitDone.await(); - } - catch (InterruptedException e) - { - log.warn( - "{} - Interrupted while waiting for async commit in onPartitionsRevoked({})", - id, - partitions, - e); - } } }