juplo.de Git - demos/kafka/training/blob - src/main/java/de/juplo/kafka/SimpleConsumer.java

   1 package de.juplo.kafka;
   2
   3 import lombok.extern.slf4j.Slf4j;
   4 import org.apache.kafka.clients.consumer.ConsumerRecord;
   5 import org.apache.kafka.clients.consumer.ConsumerRecords;
   6 import org.apache.kafka.clients.consumer.KafkaConsumer;
   7 import org.apache.kafka.common.serialization.StringDeserializer;
   8
   9 import java.time.Duration;
  10 import java.util.Arrays;
  11 import java.util.Properties;
  12
  13
  14 @Slf4j
  15 public class SimpleConsumer
  16 {
  17   private final String id;
  18   private final String topic;
  19   private final KafkaConsumer<String, String> consumer;
  20
  21   private long consumed = 0;
  22   private volatile boolean running = true;
  23   private volatile boolean done = false;
  24
  25   public SimpleConsumer(String broker, String topic, String groupId, String clientId)
  26   {
  27     Properties props = new Properties();
  28     props.put("bootstrap.servers", broker);
  29     props.put("group.id", groupId); // ID für die Offset-Commits
  30     props.put("client.id", clientId); // Nur zur Wiedererkennung
  31     props.put("partition.assignment.strategy", "org.apache.kafka.clients.consumer.CooperativeStickyAssignor");
  32     props.put("key.deserializer", StringDeserializer.class.getName());
  33     props.put("value.deserializer", StringDeserializer.class.getName());
  34
  35     consumer = new KafkaConsumer<>(props);
  36
  37     this.topic = topic;
  38     this.id = clientId;
  39   }
  40
  41
  42   public void run()
  43   {
  44     try
  45     {
  46       log.info("{} - Subscribing to topic test", id);
  47       consumer.subscribe(Arrays.asList("test"));
  48
  49       // tag::loop[]
  50       while (running)
  51       {
  52         ConsumerRecords<String, String> records =
  53             consumer.poll(Duration.ofSeconds(1));
  54
  55         // Do something with the data...
  56         // end::loop[]
  57         log.info("{} - Received {} messages", id, records.count());
  58         for (ConsumerRecord<String, String> record : records)
  59         {
  60           consumed++;
  61           log.info(
  62               "{} - {}: {}/{} - {}={}",
  63               id,
  64               record.offset(),
  65               record.topic(),
  66               record.partition(),
  67               record.key(),
  68               record.value()
  69           );
  70         }
  71         // tag::loop[]
  72       }
  73       // end::loop[]
  74     }
  75     catch(Exception e)
  76     {
  77       log.error("{} - Unexpected error: {}", id, e.toString());
  78     }
  79     finally
  80     {
  81       log.info("{} - Closing the KafkaConsumer", id);
  82       consumer.close();
  83       log.info("{}: Consumed {} messages in total, exiting!", id, consumed);
  84       done = true;
  85     }
  86   }
  87
  88
  89   public static void main(String[] args) throws Exception
  90   {
  91     String broker = ":9092";
  92     String topic = "test";
  93     String groupId = "my-group";
  94     String clientId = "DEV";
  95
  96     switch (args.length)
  97     {
  98       case 4:
  99         clientId = args[3];
 100       case 3:
 101         groupId = args[2];
 102       case 2:
 103         topic = args[1];
 104       case 1:
 105         broker = args[0];
 106     }
 107
 108
 109     SimpleConsumer instance = new SimpleConsumer(broker, topic, groupId, clientId);
 110
 111     Runtime.getRuntime().addShutdownHook(new Thread(() ->
 112     {
 113       instance.running = false;
 114       while (!instance.done)
 115       {
 116         log.info("Waiting for main-thread...");
 117         try
 118         {
 119           Thread.sleep(1000);
 120         }
 121         catch (InterruptedException e) {}
 122       }
 123       log.info("Shutdown completed.");
 124     }));
 125
 126     log.info(
 127         "Running SimpleConsumer: broker={}, topic={}, group-id={}, client-id={}",
 128         broker,
 129         topic,
 130         groupId,
 131         clientId);
 132     instance.run();
 133   }
 134 }