业务场景：
我们有一个在线考试的模块，当时需要支持用户同时1000人的提交考试试卷。
问题：
测试者采用jmeter测试提交考试答案的接口，100个线程并发的时候。报错Max number of active transactions reached:50。错误率有25%。
问题分析：
我们在提交答案的接口采用了spring的事务@Transactional。我们采用的atomikos来实现分布式事务。在jta.properties中有com.atomikos.icatch.max_actives = 50。如果我们当前我们同时的事务数量大于配置的50的时候，就会报错。
尝试解决：
我们可以增加max_actives，但是我们的并发量大的时候，依然会有问题。
当很多用户同时提交答案的时候，我们同时会有大量的事务处理，对我们的数据库mysql的压力也比较大。我们可以采用队列的形式来削峰，我们用这种异步的形式把请求的数据放到队列，给前端提示一个考试结果正在计算中的展示，我们再从队列中拿数据去消费。我们用的是kafka
实现：
直接采用kafkaTemplate 发送数据，再设置一个监听KafkaListener，获取对应的topic数据
进一步问题：
改进之后，可以支持一定并发，但是速度并不快。
再次分析：
通过观察服务器性能，发现这个问题出现在io上，我们提交的对象包含所有题目的答案，我们的题目数量很多，100道题目时候，还有可能存在简答题的时候，我们这个传过去的对象就很大了，一个空的String对象有24字节，一个题目包含一个Integer的试题类型、Object的考生答案、Long类型的试卷Id。因为是包装类型，含有对象头信息。64位没有开启压缩指针Interger=Header(标记头8字节 + 对象指针8字节） + int(4字节）+ 对齐（4) = 24字节。可以看出一个题目大约有100个字节，100个题目加上用户的基础信息，差不多1万个字节，也差不多是10KB，1000人同时提交就有10M。
我们可以把这个对象优化，序列化我们自己的可以解析，更小的对象传给kafka。我们在kafka中一般会配置producer和consumer的key、value的serializer，一般都是配置StringSerializer，kafka默认提供了一些(de)Serializer，String、byteBuffer、ByteArray、Bytes、Long等，这里我们采用ByteBuffer，可以把我们的数据压缩到很小，这样我们传给kafka的数据就会小很多。
代码
// 序列化我们的对象
public ByteBuffer serialize(TestAnswerVO vo) {
ByteBuffer byteBuffer = ByteBuffer.allocate(calculateCapacity(vo));
byteBuffer.putLong(obtainType(vo.getUserId()));
byteBuffer.putLong(obtainType(vo.getTestId()));
byteBuffer.putInt(vo.getCostTime());
byte[] accounts = vo.getAccount().getBytes();
byteBuffer.putInt(accounts.length);
if (accounts.length > 0)
byteBuffer.put(vo.getAccount().getBytes());
if (CollectionUtils.isNotEmpty(vo.getList())) {
byteBuffer.putInt(vo.getList().size());
for (ExaAnswerCardVO e : vo.getList()) {
byteBuffer.putLong(obtainType(e.getTestPageId()));
byteBuffer.putLong(obtainType(e.getExaResultId()));
byteBuffer.putInt(e.getType());
if (Objects.isNull(e.getExaAnswer())) {
byteBuffer.putInt(0);
} else {
byte[] bytes = e.getExaAnswer().toString().getBytes();
byteBuffer.putInt(bytes.length);
if (bytes.length > 0) {
byteBuffer.put(bytes);
}
}
}
}
byteBuffer.flip();
return byteBuffer;
}
// 反序列化对象 我们只需要从ByteBuffer按照我们put的规则取出来
//我们需要给producer配置ByteBufferSerializer，默认的kafkaTemplate是StringSerializer
@Value("${spring.kafka.bootstrap-servers}")
private String bootstrapServers;
@Bean //纳入spring管理，不用每次去取值
public Map
Map
props.put(ProducerConfig.BOOTSTRAP_SERVERS_CONFIG, bootstrapServers);
props.put(ProducerConfig.KEY_SERIALIZER_CLASS_CONFIG, StringSerializer.class);
props.put(ProducerConfig.VALUE_SERIALIZER_CLASS_CONFIG, ByteBufferSerializer.class);
return props;
}
//我们需要给consumer配置ByteBufferSerializer，默认的kafkaTemplate是StringSerializer
@Value("${spring.kafka.bootstrap-servers}")
private String bootstrapServers;
@Value("${spring.kafka.consumer.group-id}")
private String consumerGroupId;
public Map
Map
props.put(ConsumerConfig.BOOTSTRAP_SERVERS_CONFIG, bootstrapServers);
props.put(ConsumerConfig.GROUP_ID_CONFIG, consumerGroupId);
props.put(ConsumerConfig.KEY_DESERIALIZER_CLASS_CONFIG, StringDeserializer.class);
props.put(ConsumerConfig.VALUE_DESERIALIZER_CLASS_CONFIG, ByteBufferDeserializer.class);
return props;
}
@Bean
public ConcurrentKafkaListenerContainerFactory
ConsumerFactory
ConcurrentKafkaListenerContainerFactory
factory.setConsumerFactory(consumerFactory);
return factory;
}
//在KafkaListener的时候，配置containerFactory，就可以获取我们的consumerConfigs
@KafkaListener(topics = EDU_SUBMIT_TEST_TOPIC, containerFactory = "eduTestKafkaFactory")
通过我们自己的指定的serializer，我们可以把我们对象压缩为原来的十分之一，大大减小我们传给kafka的对象，当然我们当前只给指定类做了序列化，以后添加字段也不通用，现在可以采用Avro来(反)序列化对象。KafkaAvroDeserializer也是非常强大的。
问题
当线上考试的时候，每次提交就有可能导致成绩出不来，最开始初步猜想，数据丢失，可是数据为什么会丢失了？到底是kafka没有接受到数据，还是kafka接受到数据没有消费掉，我们采用的是kafkaListenner。还是有一部分提交可以成功的，开发和测试环境都是Ok的，只有生产有问题。
我们借助kafka的命令查看消费情况
kafka 查看所有的消费者组
bin/kafka-consumer-groups.sh --bootstrap-server ip:9092 --list
kafka 查看某个消费者组的消费数据情况
bin/kafka-consumer-groups.sh --bootstrap-server ip:9092 --group strive --describe
我们看到对同一个topic有一个消费组，但是这一个消费者有两个节点在执行，这个两个节点分别是生产和预生产，预生产是运营后台的，但是运营后台消费数据却没有写入到业务库里面，导致考试的成绩总是出不来。我们停掉预生产之后，考试就正常了，但是预生产还是需要启动的，于是我们根据环境来设置不同的groupId，并把对应的factory的autoStartUp设置为false
public String obtainConsumerGroupId() {
String logEnv = environment.getProperty("log_env");
String consumerGroupId = "";
if (PRE_PROD.equals(logEnv))
consumerGroupId = environment.getProperty("spring.application.name") + "-consumer-" + PRE_PROD;
else
consumerGroupId = environment.getProperty("spring.kafka.consumer.group-id");
log.info("edu test kafka config curr consumer group id is [{}] .", consumerGroupId);
return consumerGroupId;
}
public boolean setAutoStartup() {
String logEnv = environment.getProperty("log_env");
log.info("edu test kafka config curr log_env [{}] .", logEnv);
return !PRE_PROD.equals(logEnv);
}
思路：
削峰
优化内存和数据大小
持续观察
思考与讨论：
1.序列化和反序列化这块还没有完全理解，有机会可以再验证下。
2.在多内容传输情况下，可能会出现类似问题，可以从这方面排查。
3.去面试的时候面试我的小伙子刚好也做过这块，有一些同感，不过他提出了一些不同的观点，都是设计服务器的，有以下几点：
1) 服务器请求数最高能接受多少
2) 服务器的最大带宽是多少
3) 压力高时，服务器哪块出现性能问题，是CPU、内存、还是IO，不同的指标可能说明不同的问题，比如是CPU，说明可能接口对应的程序处理逻辑复杂；如果是内存，可能是接口对应的方法内存管理不当，比如没有释放一些连接什么的；如果是IO，可能是接口对应的方法内有太多的IO操作，是否可能考虑更换为多路复用的NIO还是其它处理方式
我想了下他说的这几点也有些道理，后面再遇到类似问题也可以从这几方面入手，希望有机会能和他再讨论讨论。
