juplo.de Git - demos/kafka/training/blob - src/main/java/de/juplo/kafka/ApplicationRebalanceListener.java

   1 package de.juplo.kafka;
   2
   3 import lombok.RequiredArgsConstructor;
   4 import lombok.extern.slf4j.Slf4j;
   5 import org.apache.kafka.clients.consumer.Consumer;
   6 import org.apache.kafka.common.TopicPartition;
   7
   8 import java.time.Clock;
   9 import java.time.Duration;
  10 import java.time.Instant;
  11 import java.util.*;
  12
  13
  14 @RequiredArgsConstructor
  15 @Slf4j
  16 public class ApplicationRebalanceListener implements RebalanceListener
  17 {
  18   private final ApplicationRecordHandler recordHandler;
  19   private final AdderResults adderResults;
  20   private final StateRepository stateRepository;
  21   private final String id;
  22   private final String topic;
  23   private final Clock clock;
  24   private final Duration commitInterval;
  25   private final Consumer consumer;
  26
  27   private final Set<Integer> partitions = new HashSet<>();
  28
  29   private Instant lastCommit = Instant.EPOCH;
  30   private boolean commitsEnabled = true;
  31
  32   @Override
  33   public void onPartitionsAssigned(Collection<TopicPartition> partitions)
  34   {
  35     partitions.forEach(tp ->
  36     {
  37       Integer partition = tp.partition();
  38       log.info("{} - adding partition: {}", id, partition);
  39       this.partitions.add(partition);
  40       StateDocument document =
  41           stateRepository
  42               .findById(Integer.toString(partition))
  43               .orElse(new StateDocument(partition));
  44       if (document.offset >= 0)
  45       {
  46         // Only seek, if a stored offset was found
  47         // Otherwise: Use initial offset, generated by Kafka
  48         consumer.seek(tp, document.offset);
  49         log.info(
  50             "{} - Seeking to offset {} for partition {}",
  51             id,
  52             document.offset,
  53             partition);
  54       }
  55       recordHandler.addPartition(partition, document.state);
  56       for (String user : document.state.keySet())
  57       {
  58         log.info(
  59             "{} - Restored state for partition={}|user={}: {}",
  60             id,
  61             partition,
  62             user,
  63             document.state.get(user));
  64       }
  65       adderResults.addPartition(partition, document.results);
  66     });
  67   }
  68
  69   @Override
  70   public void onPartitionsRevoked(Collection<TopicPartition> partitions)
  71   {
  72     partitions.forEach(tp ->
  73     {
  74       Integer partition = tp.partition();
  75       log.info("{} - removing partition: {}", id, partition);
  76       this.partitions.remove(partition);
  77       if (commitsEnabled)
  78       {
  79         Map<String, AdderResult> state = recordHandler.removePartition(partition);
  80         Long offset = consumer.position(tp);
  81         log.info(
  82             "{} - offset of next unseen message for partition {} is {}",
  83             id,
  84             partition,
  85             offset);
  86         for (String user : state.keySet())
  87         {
  88           log.info(
  89               "{} - Saved state for partition={}|user={}: {}",
  90               id,
  91               partition,
  92               user,
  93               state.get(user));
  94         }
  95         Map<String, List<AdderResult>> results = adderResults.removePartition(partition);
  96         stateRepository.save(new StateDocument(partition, state, results, offset));
  97       }
  98       else
  99       {
 100         log.info("{} - Offset commits are disabled! Last commit: {}", id, lastCommit);
 101       }
 102     });
 103   }
 104
 105
 106   @Override
 107   public void beforeNextPoll()
 108   {
 109     if (!commitsEnabled)
 110     {
 111       log.info("{} - Offset commits are disabled! Last commit: {}", id, lastCommit);
 112       return;
 113     }
 114
 115     if (lastCommit.plus(commitInterval).isBefore(clock.instant()))
 116     {
 117       partitions
 118         .stream()
 119         .forEach(partition ->
 120         {
 121           log.info("{} - persisting state & offset for partition: {}", id, partition);
 122           Map<String, AdderResult> state = recordHandler.getState(partition).getState();
 123           Long offset = consumer.position(new TopicPartition(topic, partition));
 124           log.info(
 125             "{} - offset of next unseen message for partition {} is {}",
 126             id,
 127             partition,
 128             offset);
 129           for (String user : state.keySet())
 130           {
 131             log.info(
 132               "{} - Saved state for partition={}|user={}: {}",
 133               id,
 134               partition,
 135               user,
 136               state.get(user));
 137           }
 138           Map<String, List<AdderResult>> results = adderResults.getState(partition);
 139           stateRepository.save(new StateDocument(partition, state, results, offset));
 140         });
 141
 142       lastCommit = clock.instant();
 143     }
 144   }
 145
 146   @Override
 147   public void enableCommits()
 148   {
 149     commitsEnabled = true;
 150   }
 151
 152   @Override
 153   public void disableCommits()
 154   {
 155     commitsEnabled = false;
 156   }
 157 }