默认
打赏 发表评论 2
想开发IM:买成品怕坑?租第3方怕贵?找开源自已撸?尽量别走弯路了... 找站长给点建议
17年的实践:腾讯海量产品的技术方法论
阅读(76133) | 评论(2 收藏 淘帖1
微信扫一扫关注!

微信、手机 QQ、手机 Qzone、游戏和应用宝,是腾讯移动端的五大平台。这些有着海量用户的产品运营时,涉及到无数细小琐碎的技术细节。比如《腾讯方法》一书中提到,微信和手机 QQ 的 SDK(Software development kit,软件开发包)决定了第三方游戏的接入以及用户数据隐私。移动游戏的支付系统和数据开分析则需要大量的跨部门技术协作。统筹这些技术细节的正是腾讯自己一套完整的技术方法论。在首届腾讯云技术峰会上,腾讯公司副总裁姚星完整的介绍了腾讯整体技术发展脉络。


海量阶段 :1998~2004 年(代表产品:QQ 和腾讯游戏)


腾讯技术演进的第一个阶段是「海量阶段」。

2001 年,QQ 的在线用户总数就超过了 100 万。2004 年 QQ 的用户量是 500 万。同年,QQ 游戏用户也超过了 100 万在线。

虽然用户在快速增长,但实际腾讯并没有探索出能战胜同期对手的盈利模式。1998 年,新浪和网易都在做 IM。因此腾讯只能选择用更好的技术、更低的成本去支撑服务,和对手拼成本。

当时,在后台单机支撑能力上,当 QQ 用户从 10 万到 100 万时,单机处理能力在行业里超过对手的 10 倍以上。这个数字相当于别人的一台机器只能做 1000 个在线连接,腾讯能做到 1 万。这就是海量阶段时一个比较重要的技术创新——PCT 架构。

腾讯非常讲究在一些关键的支撑点把技术上的好钢用在刀刃上。


QQ 有一个具体的案例。QQ 有很多关于会员的标记,腾讯舍不得为每一个标记用 1 个字节 Byte,而用的是 1 比特 Bit。在主要存储上用的都是文件存储。

腾讯认为很多的场景未必要用通用的数据库来解决问题,用一些简单的数据技术处理方式,反而会成本更低效率更高。这种对技术的精打细算,将更好的技术资源节约出来,留给关键使用场景。


在这一点,谷歌和腾讯有着相似的判断。Google 的第一个网页多年始终如此,非常简单。大家认为这是一种极致的表现。实际上通过「抓包」发现,谷歌的首页是小于 1.5K 的,一个以太网包就能把它打开。

面对海量,能做到的是化繁为简。

运营阶段: 2004~2008 年 (代表产品:QQ 空间)


2004 年后,QQ 空间产品诞生。

QQ 空间里的用户不只关注自己发布的内容,还要看别人发布的内容。用户的有交叉访问带来技术挑战和难度。QQ 空间的应用跟 QQ 或者游戏这种窄带应用有很大的差别,QQ 空间是一个宽带应用,对带宽等基础设施要求更高。

当时中国的互联网基础设施还不发达,很多用户都是拨号上网。北边是网通,南边是电信,还有现在归属电信的教育网,交叉访问效果没有现在好。

腾讯花了非常大的技术力量做三网融合。在当时是很难,分布过碎,成本会很高,数据一致性很难保证。但是分布得不够,用户体验不够好。在整个运营的过程当中,这是一个非常难的技术。

另外一个挑战是产品需求变化逐渐变大,外界环境变化也非常大。

比如 2004 年显示器的屏幕是 800×600 的,后来屏幕逐渐变高端,变宽。QQ 空间原来一排设置 5 个图片,总共有 4 行,20 张。现在变成一排 7 张,但再用 4 行,28 张图片带来的访问量就比原来要加大,可能会导致页面显示速度的下降。


图片的规格也在变化,原来只保存一个缩略图和或者原图大小就足够了,后来为了适应各种手机,图片规格越来越多。当产品需求的变化,客观环境变化的时候,运营上、技术上就有了极大挑战。

伴随这些技术细节的变化,腾讯的机房也从小变大。原来以为千兆可以解决一切问题,现在要万兆机房。

柔性阶段 :2008 年~2012 年(代表产品:微信)


2008 年以后,QQ 和微信的日活跃量之和已经超过 10 亿。QQ 和微信对用户而言,就像是水和电的基本生活需求。基础性的产品,即使出现微小的使用问题都会影响到用户的正常生活。腾讯面临的新技术问题是:规避「天灾人祸」,把产品做得更加的牢靠。

人祸很容易产生,比如研发人员写了一个 BUG,或者运营人员操作失误。

天灾也会经常遇到,一些地方城市建设,挖断了光纤,或者出现一些自然灾害,洪水、台风或地震。不可预知和无能为力是面对天灾最大的难度。

腾讯逐渐发现,其实用户对产品的需求有一个适应的过程。对于灾害要倾尽全力防范风险,但是当你无法超越自然灾害,就要逐步降级柔性。

比如 QQ,最重要的功能要要保证能登录。其次用户要知道自己的信息是完整的,没有被篡改。然后看到好友的资料还在,好友列表没掉。接下来能够进行一些简单的文本的通讯,通讯的时候还能发一些图片,启动视频的会话。从基础体验到复杂体验逐层保证,技术控制的艺术和难度不断攀升。


开放平台阶段: 2012 年至今(代表合作产品:滴滴、58)


2010 年腾讯提出开放平台的概念,连接不同行业的解决方案,到现在腾讯开放自己的云平台,典型有两个例子——滴滴和 58。滴滴是出行行业的老大,58 是分类信息的老大,腾讯为这些合作伙伴提供了十几年积累的云服务,比如 IDC 机房、基础网络和跨运营商 BGP 接入资源。以及一些高性能组件,比如安全、图像处理、自然语音的工具。

但腾讯贡献的最大价值其实是从 1998 年开始,经历 QQ、QQ 空间、微信积累的技术方法论。

腾讯技术方法论分为三点:动态运营、云中成长、有损服务。

1 动态运营的关键要素:

  • 小步快跑,快速求证用户猜想。
  • 灰度发布,在黑与白之间,平滑过渡的一种发布方式。
  • 大系统小做:分进程,尽量保证进程的功能单一。
  • 边运营边重构,细分实施,持续服务。
  • 干干净净:建立信息,勇于承担,边打扫边生活。
  • 工具齐备:自动化部署、监控,大数据分析。
  • 追求小规模团队,成功的产品多由小团队开始尝试,简单的产品不断创新。缩短上线时间,不断迭代。

2 云中成长的含义:

每个团队虽然有很多牛人,但却存在一定的局限性,把更多的技术交给更专业的人做,使用云架构。

3 有损服务:

如何在遇到灾难或者用户突发高峰,继续服务好用户?在条件不允许的情况下要降级处理,进行「有损手术」,并非最重要的功能弱化,在压力过高的时候做逻辑性处理,减轻后端服务器压力。

推荐文章


点击进入:《腾讯QQ1.4亿在线用户的技术挑战和架构演进之路PPT

全站即时通讯技术资料分类


[1] 网络编程基础资料:
TCP/IP详解 - 第11章·UDP:用户数据报协议
TCP/IP详解 - 第17章·TCP:传输控制协议
TCP/IP详解 - 第18章·TCP连接的建立与终止
TCP/IP详解 - 第21章·TCP的超时与重传
理论经典:TCP协议的3次握手与4次挥手过程详解
理论联系实际:Wireshark抓包分析TCP 3次握手、4次挥手过程
计算机网络通讯协议关系图(中文珍藏版)
NAT详解:基本原理、穿越技术(P2P打洞)、端口老化等
UDP中一个包的大小最大能多大?
Java新一代网络编程模型AIO原理及Linux系统AIO介绍
NIO框架入门(三):iOS与MINA2、Netty4的跨平台UDP双向通信实战
NIO框架入门(四):Android与MINA2、Netty4的跨平台UDP双向通信实战
>> 更多同类文章 ……

[2] 有关IM/推送的通信格式、协议的选择:
为什么QQ用的是UDP协议而不是TCP协议?
移动端即时通讯协议选择:UDP还是TCP?
如何选择即时通讯应用的数据传输格式
强列建议将Protobuf作为你的即时通讯应用数据传输格式
移动端IM开发需要面对的技术问题(含通信协议选择)
简述移动端IM开发的那些坑:架构设计、通信协议和客户端
理论联系实际:一套典型的IM通信协议设计详解
58到家实时消息系统的协议设计等技术实践分享
>> 更多同类文章 ……

[3] 有关IM/推送的心跳保活处理:
Android进程保活详解:一篇文章解决你的所有疑问
Android端消息推送总结:实现原理、心跳保活、遇到的问题等
为何基于TCP协议的移动端IM仍然需要心跳保活机制?
微信团队原创分享:Android版微信后台保活实战分享(进程保活篇)
微信团队原创分享:Android版微信后台保活实战分享(网络保活篇)
移动端IM实践:实现Android版微信的智能心跳机制
移动端IM实践:WhatsApp、Line、微信的心跳策略分析
>> 更多同类文章 ……

[4] 有关WEB端即时通讯开发:
新手入门贴:史上最全Web端即时通讯技术原理详解
Web端即时通讯技术盘点:短轮询、Comet、Websocket、SSE
SSE技术详解:一种全新的HTML5服务器推送事件技术
Comet技术详解:基于HTTP长连接的Web端实时通信技术
WebSocket详解(一):初步认识WebSocket技术
socket.io实现消息推送的一点实践及思路
>> 更多同类文章 ……

[5] 有关IM架构设计:
浅谈IM系统的架构设计
简述移动端IM开发的那些坑:架构设计、通信协议和客户端
一套原创分布式即时通讯(IM)系统理论架构方案
从零到卓越:京东客服即时通讯系统的技术架构演进历程
蘑菇街即时通讯/IM服务器开发之架构选择
腾讯QQ1.4亿在线用户的技术挑战和架构演进之路PPT
微信技术总监谈架构:微信之道——大道至简(演讲全文)
如何解读《微信技术总监谈架构:微信之道——大道至简》
快速裂变:见证微信强大后台架构从0到1的演进历程(一)
17年的实践:腾讯海量产品的技术方法论
>> 更多同类文章 ……

[6] 有关IM安全的文章:
即时通讯安全篇(一):正确地理解和使用Android端加密算法
即时通讯安全篇(二):探讨组合加密算法在IM中的应用
即时通讯安全篇(三):常用加解密算法与通讯安全讲解
即时通讯安全篇(四):实例分析Android中密钥硬编码的风险
传输层安全协议SSL/TLS的Java平台实现简介和Demo演示
理论联系实际:一套典型的IM通信协议设计详解(含安全层设计)
微信新一代通信安全解决方案:基于TLS1.3的MMTLS详解
来自阿里OpenIM:打造安全可靠即时通讯服务的技术实践分享
>> 更多同类文章 ……

[7] 有关实时音视频开发:
即时通讯音视频开发(一):视频编解码之理论概述
即时通讯音视频开发(二):视频编解码之数字视频介绍
即时通讯音视频开发(三):视频编解码之编码基础
即时通讯音视频开发(四):视频编解码之预测技术介绍
即时通讯音视频开发(五):认识主流视频编码技术H.264
即时通讯音视频开发(六):如何开始音频编解码技术的学习
即时通讯音视频开发(七):音频基础及编码原理入门
即时通讯音视频开发(八):常见的实时语音通讯编码标准
即时通讯音视频开发(九):实时语音通讯的回音及回音消除概述
即时通讯音视频开发(十):实时语音通讯的回音消除技术详解
即时通讯音视频开发(十一):实时语音通讯丢包补偿技术详解
即时通讯音视频开发(十二):多人实时音视频聊天架构探讨
即时通讯音视频开发(十三):实时视频编码H.264的特点与优势
即时通讯音视频开发(十四):实时音视频数据传输协议介绍
即时通讯音视频开发(十五):聊聊P2P与实时音视频的应用情况
即时通讯音视频开发(十六):移动端实时音视频开发的几个建议
即时通讯音视频开发(十七):视频编码H.264、V8的前世今生
简述开源实时音视频技术WebRTC的优缺点
良心分享:WebRTC 零基础开发者教程(中文)
>> 更多同类文章 ……

[8] IM开发综合文章:
移动端IM开发需要面对的技术问题
开发IM是自己设计协议用字节流好还是字符流好?
请问有人知道语音留言聊天的主流实现方式吗?
IM系统中如何保证消息的可靠投递(即QoS机制)
谈谈移动端 IM 开发中登录请求的优化
完全自已开发的IM该如何设计“失败重试”机制?
微信对网络影响的技术试验及分析(论文全文)
即时通讯系统的原理、技术和应用(技术论文)
开源IM工程“蘑菇街TeamTalk”的现状:一场有始无终的开源秀
>> 更多同类文章 ……

[9] 开源移动端IM技术框架资料:
开源移动端IM技术框架MobileIMSDK:快速入门
开源移动端IM技术框架MobileIMSDK:常见问题解答
开源移动端IM技术框架MobileIMSDK:压力测试报告
开源移动端IM技术框架MobileIMSDK:Android版Demo使用帮助
开源移动端IM技术框架MobileIMSDK:Java版Demo使用帮助
开源移动端IM技术框架MobileIMSDK:iOS版Demo使用帮助
开源移动端IM技术框架MobileIMSDK:Android客户端开发指南
开源移动端IM技术框架MobileIMSDK:Java客户端开发指南
开源移动端IM技术框架MobileIMSDK:iOS客户端开发指南
开源移动端IM技术框架MobileIMSDK:Server端开发指南
>> 更多同类文章 ……

[10] 有关推送技术的文章:
iOS的推送服务APNs详解:设计思路、技术原理及缺陷等
Android端消息推送总结:实现原理、心跳保活、遇到的问题等
扫盲贴:认识MQTT通信协议
一个基于MQTT通信协议的完整Android推送Demo
求教android消息推送:GCM、XMPP、MQTT三种方案的优劣
移动端实时消息推送技术浅析
扫盲贴:浅谈iOS和Android后台实时消息推送的原理和区别
绝对干货:基于Netty实现海量接入的推送服务技术要点
移动端IM实践:谷歌消息推送服务(GCM)研究(来自微信)
为何微信、QQ这样的IM工具不使用GCM服务推送消息?
>> 更多同类文章 ……

[11] 更多即时通讯技术好文分类:
http://www.52im.net/forum.php?mod=collection&op=all

(原文链接:http://www.geekpark.net/topics/213455

即时通讯网 - 即时通讯开发者社区! 来源: - 即时通讯开发者社区!

上一篇:开源NIO框架八卦——到底是先有MINA还是先有Netty?下一篇:开发往事:记录微信3.0版背后的故事(距微信1.0发布9个月时)

本帖已收录至以下技术专辑

推荐方案
评论 2
传言早期的QQ是在极小的硬件资源下部署运营的,看来这是真的了
提示: 作者被禁止或删除 内容自动屏蔽
签名:
打赏楼主 ×
使用微信打赏! 使用支付宝打赏!

返回顶部