前言:之前博客里面提到本公司为物联网项目。项目中使用mqtt+kafka进行与设备端的通讯,之前的协议格式为json格式,现在改成字节数组byte[]格式进行通信。

  • 报错信息如下
org.apache.kafka.common.serialization.ByteArraySerializer is not an instance of org.apache.kafka.common.serialization.Deserializer

  • 分析原因:
    之前json格式传输时候是用的是String类型的,反序列化的时候指定的是StringDeserializer.class,现在传输为byte[]所以需要改成ByteArrayDeserializer.class

  • 解决办法:
    之前json格式传输时候是用的是String类型的,所以我们现在需要改成byte[]反序列化数据类型。
    kafka实现序列化/反序列化可以简单的总结为两步,第一步继承序列化Serializer或者反序列化Deserializer接口。第二步实现接口方法,将指定类型序列化成byte[]或者将byte[]反序列化成指定数据类型。

	public Map<String, Object> consumerByteConfigs() {
    	Map<String, Object> propsMap = new HashMap<String, Object>(8);
    	propsMap.put(ConsumerConfig.BOOTSTRAP_SERVERS_CONFIG, servers);
    	propsMap.put(ConsumerConfig.ENABLE_AUTO_COMMIT_CONFIG, enableAutoCommit);
    	propsMap.put(ConsumerConfig.AUTO_COMMIT_INTERVAL_MS_CONFIG, autoCommitInterval);
    	propsMap.put(ConsumerConfig.SESSION_TIMEOUT_MS_CONFIG, sessionTimeout);
    	propsMap.put(ConsumerConfig.KEY_DESERIALIZER_CLASS_CONFIG, StringDeserializer.class);
    	//此处是上面提到的设置value值的类型
    	propsMap.put(ConsumerConfig.VALUE_DESERIALIZER_CLASS_CONFIG, ByteArrayDeserializer.class);
    	propsMap.put(ConsumerConfig.GROUP_ID_CONFIG, groupId);
    	propsMap.put(ConsumerConfig.AUTO_OFFSET_RESET_CONFIG, autoOffsetReset);
    	propsMap.put(ConsumerConfig.MAX_POLL_RECORDS_CONFIG, maxPollRecordsConfig);
    	return propsMap;
    }

其中ByteArrayDeserializer implements Deserializer<byte[]>,ByteArrayDeserializer 已经是实现了Deserializer。接下来我们只需要将kafka配置中的"value.serializer"值的类型为 ByteArrayDeserializer.class。

  • 关于kafka的序列化和反序列化

kafka在发送和接受消息的时候,都是以byte[]字节型数组发送或者接受的。但是我们平常使用的时候,不但可以使用byte[],还可以使用int、short、long、float、double、String等数据类型,这是因为在我们使用这些数据类型的时候,kafka根据我们指定的序列化和反序列化方式转成byte[]类型之后再进行发送或者接受的。

通常我们在使用kakfa发送或者接受消息的时候都需要指定消息的key和value序列化方式,如设置value.serializer为org.apache.kafka.common.serialization.StringSerializer,设置value的序列化方式为字符串,即我们可以发送string类型的消息。目前kafka原生支持的序列化和反序列化方式如下两表所示:

  • kafka序列化方式表
序列化方式对应java数据类型
org.apache.kafka.common.serialization.ByteArraySerializerbyte[]
org.apache.kafka.common.serialization.ByteBufferSerializerByteBuffer
org.apache.kafka.common.serialization.IntegerSerializerInterger
org.apache.kafka.common.serialization.ShortSerializerShort
org.apache.kafka.common.serialization.LongSerializerLong
org.apache.kafka.common.serialization.DoubleSerializerDouble
  • kafka反序列化方式表
序列化方式对应java数据类型
org.apache.kafka.common.serialization.ByteArrayDeserializerbyte[]
org.apache.kafka.common.serialization.ByteBufferDeserializerByteBuffer
org.apache.kafka.common.serialization.IntegerDeserializerInterger
org.apache.kafka.common.serialization.ShortDeserializerShort
org.apache.kafka.common.serialization.LongDeserializerLong
org.apache.kafka.common.serialization.DoubleDeserializerDouble
Logo

Kafka开源项目指南提供详尽教程,助开发者掌握其架构、配置和使用,实现高效数据流管理和实时处理。它高性能、可扩展,适合日志收集和实时数据处理,通过持久化保障数据安全,是企业大数据生态系统的核心。

更多推荐