Im `ConsumerRebalanceListener` _muss_ `commitSync()` verwendet werden
authorKai Moritz <kai@juplo.de>
Tue, 23 Aug 2022 16:43:55 +0000 (18:43 +0200)
committerKai Moritz <kai@juplo.de>
Fri, 26 Aug 2022 10:52:44 +0000 (12:52 +0200)
* Genaugenommen ist auch `commitAsync()` möglich.
* Es ist jedoch nicht möglich, wie hier zuvor implementiert, `commitAsync()`
  mit einem `OffsetCallback` aufzurufen, in der Zwischenzeit die restlichen
  Aufräumarbeiten durchzuführen und anschließend auf den Callback zu warten.
* Grund: Die Callbacks werden von Kafka nicht direkt aufgerufen, wenn die
  Ergebnisse eintreffen, sondern erst, wenn das nächste mal `poll()`
  aufgerufen wird.

src/main/java/de/juplo/kafka/ApplicationRebalanceListener.java

index 9e75112..fad3287 100644 (file)
@@ -6,11 +6,7 @@ import org.apache.kafka.clients.consumer.Consumer;
 import org.apache.kafka.clients.consumer.ConsumerRebalanceListener;
 import org.apache.kafka.common.TopicPartition;
 
-import java.time.Clock;
-import java.time.Duration;
-import java.time.Instant;
 import java.util.*;
-import java.util.concurrent.CountDownLatch;
 
 
 @RequiredArgsConstructor
@@ -55,22 +51,7 @@ public class ApplicationRebalanceListener implements ConsumerRebalanceListener
   public void onPartitionsRevoked(Collection<TopicPartition> partitions)
   {
     log.info("{} - Commiting offsets for all previously assigned partitions", id);
-    CountDownLatch commitDone = new CountDownLatch(1);
-    consumer.commitAsync((offsets, e) ->
-    {
-      commitDone.countDown();
-      if (e == null)
-      {
-        log.error("{} - Could not commit offsets to Kafka!", id, e);
-      }
-      else
-      {
-        offsets.entrySet().stream().forEach(entry ->
-        {
-          log.info("{} - Commited offset for {}: {}", id, entry.getKey(), entry.getValue());
-        });
-      }
-    });
+    consumer.commitSync();
 
     partitions.forEach(tp ->
     {
@@ -90,19 +71,5 @@ public class ApplicationRebalanceListener implements ConsumerRebalanceListener
       Map<String, List<AdderResult>> results = adderResults.removePartition(partition);
       stateRepository.save(new StateDocument(partition, state, results));
     });
-
-    try
-    {
-      log.debug("{} - Waiting for async commit to complete", id);
-      commitDone.await();
-    }
-    catch (InterruptedException e)
-    {
-      log.warn(
-        "{} - Interrupted while waiting for async commit in onPartitionsRevoked({})",
-        id,
-        partitions,
-        e);
-    }
   }
 }