本文来自网易云信团队的技术分享，原创发表于网易云信公众号，原文链接：mp.weixin.qq.com/s/LT2dASI7QVpcOVxDAsMeVg，即时通讯网收录时有改动。

1、引言

• 1）如何高效地进行大量群员消息的分发？
• 2）如何高效地管理群员的在线状态？
• 3）如何高效地读取群员的在线状态？
• 4）集群系统中，如何高效地保证群员消息的准确送达？
• 5）群聊消息该扩散写还是扩散读？
• 6）如何保证大量群聊消息分发的情况下不影响单聊消息体验？
• 7）如何应对大群突发事件下的性能负载？
• .... ....
  

timg.jpeg (8.89 KB, 下载次数: 1728)

下载附件  保存到相册

5 年前 上传

• 《融云IM技术分享：万人群聊消息投递方案的思考和实践》
• 《企业微信的IM架构设计揭秘：消息模型、万人群、已读回执、消息撤回等》
• 《阿里钉钉技术分享：企业级IM王者——钉钉在后端架构上的过人之处》
  

• 《网易视频云技术分享：音频处理与压缩技术快速入门》
• 《网易云信实时视频直播在TCP数据传输层的一些优化思路》
• 《Web端即时通讯实践干货：如何让你的WebSocket断网重连更快速？》
• 《子弹短信光鲜的背后：网易云信首席架构师分享亿级IM平台的技术实践》
• 《IM开发干货分享：网易云信IM客户端的聊天消息全文检索技术实践》
  

2、概述

• 1）消息需要按1:9999的比例进行转发投递，按常规消息处理流程将产生大量的子任务，对系统吞吐量的要求极高；
• 2）在微服务系统架构下，如果不采用一些优化方案，服务以及存储（DB、缓存等）之间的QPS和网络流量将非常高；
• 3）以群为单位的缓存（如群成员列表）内存存储开销较大（假设一个成员200Byte，万人群约2MB）；
• 4）群成员登录后需要同步群离线消息，智能手机上App前后台切换产生的较多登录同步消息协议，因此需要优化消息同步方案。
  

1.png (25.42 KB, 下载次数: 1729)

下载附件  保存到相册

5 年前 上传

3、万人群消息的处理流程

• a. 群成员在线信息：即用户在线状态变化（上线、下线）时，更新相应群的在线状态信息（即动态维护群有哪些成员在线）；
• b. 成员IM长连接信息：即用户新登录时，更新用户的Link信息（即登录所在Link的地址信息，消息转发时根据Link地址路由消息）。
  

4、万人群方案本地缓存增量同步策略

2.png (19.16 KB, 下载次数: 1731)

下载附件  保存到相册

5 年前 上传

• 1）数据缓存是一个集合，其包含了多个缓存数据项，每一个数据项带有最后更新时间信息；另外缓存还有一个严格递增的版本号；
• 2）缓存数据变更（新增、修改、删除）后，需要增加版本号；
• 3）本地线程通过缓存管理读取数据时，管理服务先检查本地版本号和分布式缓存中的版本号是否一致，若不一致则按本地最新时间戳增量同步新数据项，并更新本地的版本号和最后更新时间（为了避免分布式集中缓存中并发写入导致的增量时间戳不可靠问题，增量更新时可以将本地记录的最后更新时间戳向前推移，比如减少20ms）；
• 4）为避免本地多线程并发读取相同数据项导致并发更新本地缓存的问题，可以按缓存数据合并更新请求，即解决并发问题还可以减少网络开销；
• 5）缓存数据由大量数据项构成，为了避免单个缓存数据太大，可以将数据项中的属性业务场景精简（冷热分离），低频次读写的属性额外缓存。
  

5、万人群水平扩容方案

3.png (26.91 KB, 下载次数: 1751)

下载附件  保存到相册

5 年前 上传

6、作为“云”服务，网易云信是如何实现万人群所需的计算资源的？

• 1）需要专属的独立计算资源：保持计算资源独立，且资源冗余度比公有云高，且需要保证不会受到公有云上其他客户业务的影响；
• 2）需要专属的独立运维服务：从而根据客户业务场景制定最佳的业务监控、弹性扩容、故障迁移等运维方案。
  

附录：更多群聊相关技术文章