juplo.de Git - demos/kafka/training/blob - src/main/java/de/juplo/kafka/SimpleConsumer.java

   1 package de.juplo.kafka;
   2
   3 import lombok.extern.slf4j.Slf4j;
   4 import org.apache.kafka.clients.consumer.ConsumerRecord;
   5 import org.apache.kafka.clients.consumer.ConsumerRecords;
   6 import org.apache.kafka.clients.consumer.KafkaConsumer;
   7 import org.apache.kafka.common.errors.WakeupException;
   8 import org.apache.kafka.common.serialization.StringDeserializer;
   9
  10 import java.time.Duration;
  11 import java.util.Arrays;
  12 import java.util.Properties;
  13
  14
  15 @Slf4j
  16 public class SimpleConsumer
  17 {
  18   private final String id;
  19   private final String topic;
  20   private final KafkaConsumer<String, String> consumer;
  21
  22   private volatile boolean running = false;
  23   private long consumed = 0;
  24
  25   public SimpleConsumer(String broker, String topic, String groupId, String clientId)
  26   {
  27     Properties props = new Properties();
  28     props.put("bootstrap.servers", broker);
  29     props.put("group.id", groupId); // ID für die Offset-Commits
  30     props.put("client.id", clientId); // Nur zur Wiedererkennung
  31     props.put("auto.offset.reset", "earliest"); // Von Beginn an lesen
  32     props.put("partition.assignment.strategy", "org.apache.kafka.clients.consumer.CooperativeStickyAssignor");
  33     props.put("key.deserializer", StringDeserializer.class.getName());
  34     props.put("value.deserializer", StringDeserializer.class.getName());
  35
  36     consumer = new KafkaConsumer<>(props);
  37
  38     this.topic = topic;
  39     this.id = clientId;
  40   }
  41
  42
  43   public void run()
  44   {
  45     try
  46     {
  47       log.info("{} - Subscribing to topic {}", id, topic);
  48       // TODO: subscribe!
  49       running = true;
  50
  51       while (true)
  52       {
  53         // TODO:
  54         // * Poll for new records
  55         // * Loop through received records
  56         // * Count received records in the variable `consumed`
  57         // * "Work" with the data: Log partition/offset/key/value
  58       }
  59     }
  60     catch(WakeupException e)
  61     {
  62       log.info("{} - Consumer was signaled to finish its work", id);
  63     }
  64     catch(Exception e)
  65     {
  66       log.error("{} - Unexpected error: {}, unsubscribing!", id, e.toString());
  67     }
  68     finally
  69     {
  70       running = false;
  71       log.info("{} - Closing the KafkaConsumer", id);
  72       consumer.close();
  73       log.info("{}: Consumed {} messages in total, exiting!", id, consumed);
  74     }
  75   }
  76
  77
  78   public static void main(String[] args) throws Exception
  79   {
  80     String broker = ":9092";
  81     String topic = "test";
  82     String groupId = "my-group";
  83     String clientId = "DEV";
  84
  85     switch (args.length)
  86     {
  87       case 4:
  88         clientId = args[3];
  89       case 3:
  90         groupId = args[2];
  91       case 2:
  92         topic = args[1];
  93       case 1:
  94         broker = args[0];
  95     }
  96
  97
  98     SimpleConsumer instance = new SimpleConsumer(broker, topic, groupId, clientId);
  99
 100     Runtime.getRuntime().addShutdownHook(new Thread(() ->
 101     {
 102       instance.consumer.wakeup();
 103
 104       while (instance.running)
 105       {
 106         log.info("Waiting for main-thread...");
 107         try
 108         {
 109           Thread.sleep(1000);
 110         }
 111         catch (InterruptedException e) {}
 112       }
 113       log.info("Shutdown completed.");
 114     }));
 115
 116     log.info(
 117         "Running SimpleConsumer: broker={}, topic={}, group-id={}, client-id={}",
 118         broker,
 119         topic,
 120         groupId,
 121         clientId);
 122     instance.run();
 123   }
 124 }