juplo.de Git - demos/kafka/training/blob - src/main/java/de/juplo/kafka/ApplicationRebalanceListener.java

   1 package de.juplo.kafka;
   2
   3 import lombok.RequiredArgsConstructor;
   4 import lombok.extern.slf4j.Slf4j;
   5 import org.apache.kafka.clients.consumer.Consumer;
   6 import org.apache.kafka.common.TopicPartition;
   7
   8 import java.util.*;
   9
  10
  11 @RequiredArgsConstructor
  12 @Slf4j
  13 public class ApplicationRebalanceListener implements RebalanceListener
  14 {
  15   private final ApplicationRecordHandler recordHandler;
  16   private final AdderResults adderResults;
  17   private final StateRepository stateRepository;
  18   private final String id;
  19   private final Consumer consumer;
  20
  21   private final Set<Integer> partitions = new HashSet<>();
  22
  23   private boolean commitsEnabled = true;
  24
  25   @Override
  26   public void onPartitionsAssigned(Collection<TopicPartition> partitions)
  27   {
  28     partitions.forEach(tp ->
  29     {
  30       Integer partition = tp.partition();
  31       log.info("{} - adding partition: {}", id, partition);
  32       this.partitions.add(partition);
  33       StateDocument document =
  34           stateRepository
  35               .findById(Integer.toString(partition))
  36               .orElse(new StateDocument(partition));
  37       recordHandler.addPartition(partition, document.state);
  38       for (String user : document.state.keySet())
  39       {
  40         log.info(
  41             "{} - Restored state for partition={}|user={}: {}",
  42             id,
  43             partition,
  44             user,
  45             document.state.get(user));
  46       }
  47       adderResults.addPartition(partition, document.results);
  48     });
  49   }
  50
  51   @Override
  52   public void onPartitionsRevoked(Collection<TopicPartition> partitions)
  53   {
  54     if (commitsEnabled)
  55     {
  56       log.info("{} - Commiting offsets for all previously assigned partitions", id);
  57       try
  58       {
  59         consumer.commitSync();
  60       }
  61       catch (Exception e)
  62       {
  63         log.warn("{} - Could not commit offsets in onPartitionsRevoked():", id, e);
  64       }
  65     }
  66
  67     partitions.forEach(tp ->
  68     {
  69       Integer partition = tp.partition();
  70       log.info("{} - removing partition: {}", id, partition);
  71       this.partitions.remove(partition);
  72       Map<String, AdderResult> state = recordHandler.removePartition(partition);
  73       for (String user : state.keySet())
  74       {
  75         log.info(
  76             "{} - Saved state for partition={}|user={}: {}",
  77             id,
  78             partition,
  79             user,
  80             state.get(user));
  81       }
  82       Map<String, List<AdderResult>> results = adderResults.removePartition(partition);
  83       stateRepository.save(new StateDocument(partition, state, results));
  84     });
  85   }
  86
  87   @Override
  88   public void enableCommits()
  89   {
  90     commitsEnabled = true;
  91   }
  92
  93   @Override
  94   public void disableCommits()
  95   {
  96     commitsEnabled = false;
  97   }
  98 }