web-dev-qa-db-ja.com

Sparkストリーミング-jsonをKafkaから読み取り、jsonを他のKafkaトピックに書き込む

Sparkストリーミング（Spark 2.1、Kafka 0.10）のアプリケーションを準備しようとしています

Kafkaトピック「入力」からデータを読み取り、正しいデータを見つけて、トピック「出力」に結果を書き込む必要があります

Kafka KafkaUtils.createDirectStreamメソッドに基づいてデータを読み取ることができます。

RDDをjsonに変換し、フィルターを準備しました。

val messages = KafkaUtils.createDirectStream[String, String](
  ssc,
  PreferConsistent,
  Subscribe[String, String](topics, kafkaParams)
)

val elementDstream = messages.map(v => v.value).foreachRDD { rdd =>

  val PeopleDf=spark.read.schema(schema1).json(rdd)
  import spark.implicits._
  PeopleDf.show()
  val PeopleDfFilter = PeopleDf.filter(($"value1".rlike("1"))||($"value2" === 2))
  PeopleDfFilter.show()
}

Kafkaからデータをロードし、「そのまま」をKafka use KafkaProducer：

    messages.foreachRDD( rdd => {
      rdd.foreachPartition( partition => {
        val kafkaTopic = "output"
        val props = new HashMap[String, Object]()
        props.put(ProducerConfig.BOOTSTRAP_SERVERS_CONFIG, "localhost:9092")
        props.put(ProducerConfig.VALUE_SERIALIZER_CLASS_CONFIG,
          "org.Apache.kafka.common.serialization.StringSerializer")
        props.put(ProducerConfig.KEY_SERIALIZER_CLASS_CONFIG,
          "org.Apache.kafka.common.serialization.StringSerializer")

        val producer = new KafkaProducer[String, String](props)
        partition.foreach{ record: ConsumerRecord[String, String] => {
        System.out.print("########################" + record.value())
        val messageResult = new ProducerRecord[String, String](kafkaTopic, record.value())
        producer.send(messageResult)
        }}
        producer.close()
      })

    })

しかし、これら2つのアクションを統合することはできません> jsonで適切な値を見つけて、結果をKafkaに書き込みます：PeopleDfFilterをJSON形式で「出力」Kafkaトピックに書き込みます。

Kafkaにはたくさんの入力メッセージがあります。これが、foreachPartitionを使用してKafkaプロデューサーを作成したい理由です。

アドバイスありがとうございます。

scalaapache-sparkapache-kafkaspark-streaming
5
Tomtom

プロセスは非常に単純なので、構造化ストリーミングをずっと使用してみませんか？

import org.Apache.spark.sql.functions.from_json

spark
  // Read the data
  .readStream
  .format("kafka")
  .option("kafka.bootstrap.servers", inservers) 
  .option("subscribe", intopic)
  .load()
  // Transform / filter
  .select(from_json($"value".cast("string"), schema).alias("value"))
  .filter(...)  // Add the condition
  .select(to_json($"value").alias("value")
  // Write back
  .writeStream
  .format("kafka")
  .option("kafka.bootstrap.servers", outservers)
  .option("subscribe", outtopic)
  .start()
5
user8996943

そのために構造化ストリーミングを使用してみてください。 Spark 2.1を使用した場合でも、次のように独自のKafka ForeachWriterを実装できます。

カフカシンク ：

import Java.util.Properties
import kafkashaded.org.Apache.kafka.clients.producer._
import org.Apache.spark.sql.ForeachWriter


 class  KafkaSink(topic:String, servers:String) extends ForeachWriter[(String, String)] {
      val kafkaProperties = new Properties()
      kafkaProperties.put("bootstrap.servers", servers)
      kafkaProperties.put("key.serializer",
        classOf[org.Apache.kafka.common.serialization.StringSerializer].toString)
      kafkaProperties.put("value.serializer",
        classOf[org.Apache.kafka.common.serialization.StringSerializer].toString)
      val results = new scala.collection.mutable.HashMap[String, String]
      var producer: KafkaProducer[String, String] = _

      def open(partitionId: Long,version: Long): Boolean = {
        producer = new KafkaProducer(kafkaProperties)
        true
      }

      def process(value: (String, String)): Unit = {
          producer.send(new ProducerRecord(topic, value._1 + ":" + value._2))
      }

      def close(errorOrNull: Throwable): Unit = {
        producer.close()
      }
   }

使用法：

val topic = "<topic2>"
val brokers = "<server:ip>"

val writer = new KafkaSink(topic, brokers)

val query =
  streamingSelectDF
    .writeStream
    .foreach(writer)
    .outputMode("update")
    .trigger(ProcessingTime("25 seconds"))
    .start()
1
nemeth.io