Spring-Kafkaを使用してConfluentスキーマレジストリでAVROメッセージを読み取る方法は?サンプルはありますか?公式参考資料にありません。
以下のコードは、customer-avroトピックからのメッセージを読み取ることができます。これが私が定義した値のAVROスキーマです。
{
"type": "record",
"namespace": "com.example",
"name": "Customer",
"version": "1",
"fields": [
{ "name": "first_name", "type": "string", "doc": "First Name of Customer" },
{ "name": "last_name", "type": "string", "doc": "Last Name of Customer" },
{ "name": "age", "type": "int", "doc": "Age at the time of registration" },
{ "name": "height", "type": "float", "doc": "Height at the time of registration in cm" },
{ "name": "weight", "type": "float", "doc": "Weight at the time of registration in kg" },
{ "name": "automated_email", "type": "boolean", "default": true, "doc": "Field indicating if the user is enrolled in marketing emails" }
]
}
以下は、手動コミットでこの例を読むための完全なコードスニペットです。
import com.example.Customer;
import io.confluent.kafka.serializers.KafkaAvroDeserializer;
import org.Apache.kafka.clients.consumer.ConsumerRecord;
import org.Apache.kafka.clients.consumer.ConsumerRecords;
import org.Apache.kafka.clients.consumer.KafkaConsumer;
import org.Apache.kafka.common.serialization.StringDeserializer;
import Java.util.Calendar;
import Java.util.Collections;
import Java.util.Properties;
public class KafkaAvroJavaConsumerV1Demo {
public static void main(String[] args) {
Properties properties = new Properties();
// normal consumer
properties.setProperty("bootstrap.servers","127.0.0.1:9092");
properties.put("group.id", "customer-consumer-group-v1");
properties.put("auto.commit.enable", "false");
properties.put("auto.offset.reset", "earliest");
// avro part (deserializer)
properties.setProperty("key.deserializer", StringDeserializer.class.getName());
properties.setProperty("value.deserializer", KafkaAvroDeserializer.class.getName());
properties.setProperty("schema.registry.url", "http://127.0.0.1:8081");
properties.setProperty("specific.avro.reader", "true");
KafkaConsumer<String, Customer> kafkaConsumer = new KafkaConsumer<>(properties);
String topic = "customer-avro";
kafkaConsumer.subscribe(Collections.singleton(topic));
System.out.println("Waiting for data...");
while (true){
System.out.println("Polling at " + Calendar.getInstance().getTime().toString());
ConsumerRecords<String, Customer> records = kafkaConsumer.poll(1000);
for (ConsumerRecord<String, Customer> record : records){
Customer customer = record.value();
System.out.println(customer);
}
kafkaConsumer.commitSync();
}
}
}
Spring kafkaまたはnative Javaクライアントforkafka。トピックからのメッセージを消費し、キーと値がavroレコードであると仮定する場合、これは変わりません。以下のプロパティをconsumerpropertiesに追加できます。
consumerProperties.put("key.deserializer", "io.confluent.kafka.serializers.KafkaAvroDeserializer");
consumerProperties.put("value.deserializer", "io.confluent.kafka.serializers.KafkaAvroDeserializer");
consumerProperties.put("schema.registry.url", KAFKA_SCHEMA_REGISTRY_URL);
トピックから特定のレコードを消費している場合は、次の行も追加する必要があります
consumerProperties.put(KafkaAvroDeserializerConfig.SPECIFIC_AVRO_READER_CONFIG, true);