25,985
社区成员
发帖
与我相关
我的任务
分享社交类软件如何解决大用户并发、低延时、大数据量？
大家好：
我一直搞不明白QQ、微信、陌陌之类的软件是如何解决大用户并发、信息及时性、大量数据问题的。
1、假如我自己想搞一个交友类软件（100万用户），那么有什么解决方案（先不考虑市场可行性，我们只讨论技术可行性）？
2、我感觉可以把服务器应用部署到IaaS或PaaS之类的设施上，一来可靠性好，二来运维成本低；
3、但是到底选择IaaS（如阿里ECS、Google GCE、Amazon AWS、好像还有盛大云、腾讯云）还是PaaS（百度BAE，新浪SAE）呢？有没有大侠有相关经验介绍下？
十分感谢！
我一直搞不明白QQ、微信、陌陌之类的软件是如何解决大用户并发、信息及时性、大量数据问题的。
1、假如我自己想搞一个交友类软件（100万用户），那么有什么解决方案（先不考虑市场可行性，我们只讨论技术可行性）？
2、我感觉可以把服务器应用部署到IaaS或PaaS之类的设施上，一来可靠性好，二来运维成本低；
3、但是到底选择IaaS（如阿里ECS、Google GCE、Amazon AWS、好像还有盛大云、腾讯云）还是PaaS（百度BAE，新浪SAE）呢？有没有大侠有相关经验介绍下？
十分感谢！
...全文
请发表友善的回复…
发表回复
jtkkjtkk 2014-10-15
- 打赏
- 举报
感谢大家的支持，让我的思路开阔了不少。
总体来说，技术挑战还是不小的，小团队做这个困难太多。
现在市场上的有一些支持社交和聊天功能的SDK，比如环信、融信，我准备从这方面入手，先用一用，感性的认识下，再结合大家和朋友提供的思路深入。
技术笔记 2014-09-28
- 打赏
- 举报
架构演变第一步：物理分离 webserver 和数据库
最开始，由于某些想法，于是在互联网上搭建了一个网站，这个时候甚至有可能主机都是租借的，但由于这篇文章我们只关注架构的演变历程，因此就假设这个时候 已经是托管了一台主机，并且有一定的带宽了，这个时候由于网站具备了一定的特色，吸引了 部分人访问，逐渐你发现系统的压力越来越高，响应速度越来越慢，而这个时候比较明显的是数据库和应用互相影响，应用出问题了，数据库也很容易出现问题，而 数据库出问题的时候，应用也容易出问题，于是进入了第一步演变阶段：将应用和数据库从物理上分离，变成了两台机器，这个时候技术上没有什么新的要求，但你 发现确实起到效果了，系统又恢复到以前的响应速度了，并且支撑住了更高的流量，并且不会因为数据库和应用形成互相的影响。
看看这一步完成后系统的图示：
http://avaj.iteye.com/upload/picture/pic/22917/68a1dc50-70f1-3ef5-abc2-ff4e9dd76d57.png
这一步涉及到了这些知识体系：
这一步架构演变对技术上的知识体系基本没有要求。
<!---->
<!---->
架构演变第二步：增加页面缓存
好景不长，随着访问的人越来越多，你发现响应速度又开始变慢了，查找原因，发现是访问数据库的操作太多，导致数据连接竞争激烈，所以响应变慢，但数据库连 接又不能开太多，否则数据库机器压力会很高，因此考虑采用缓存机制来减少数据库连接资源的竞争和对数据库读的压力，这个时候首先也许会选择采用 squid 等类似的机制来将系统中相对静态的页面（例如一两天才会有更新的页面）进行缓存（当然，也可以采用将页面静态化的方案），这样程序上可以不做修改，就能够 很好的减少对 webserver 的压力以及减少数据库连接资源的竞争， OK ，于是开始采用 squid 来做相对静态的页面的缓存。
看看这一步完成后系统的图示：
http://avaj.iteye.com/upload/picture/pic/22927/c0080827-4875-3f85-b1b9-897c8b8dfa77.png
这一步涉及到了这些知识体系：
前端页面缓存技术，例如 squid ，如想用好的话还得深入掌握下 squid 的实现方式以及缓存的失效算法等。
架构演变第三步：增加页面片段缓存
增加了 squid 做缓存后，整体系统的速度确实是提升了， webserver 的压力也开始下降了，但随着访问量的增加，发现系统又开始变的有些慢了，在尝到了 squid 之类的动态缓存带来的好处后，开始想能不能让现在那些动态页面里相对静态的部分也缓存起来呢，因此考虑采用类似 ESI 之类的页面片段缓存策略， OK ，于是开始采用 ESI 来做动态页面中相对静态的片段部分的缓存。
看看这一步完成后系统的图示：
http://avaj.iteye.com/upload/picture/pic/22925/ab50e904-791c-360c-a008-88b20607845a.png
这一步涉及到了这些知识体系：
页面片段缓存技术，例如 ESI 等，想用好的话同样需要掌握 ESI 的实现方式等；
架构演变第四步：数据缓存
在采用 ESI 之类的技术再次提高了系统的缓存效果后，系统的压力确实进一步降低了，但同样，随着访问量的增加，系统还是开始变慢，经过查找，可能会发现系 统中存在一些重复获取数据信息的地方，像获取用户信息等，这个时候开始考虑是不是可以将这些数据信息也缓存起来呢，于是将这些数据缓存到本地内存，改变完毕后，完全符合预期，系统的响应速度又恢复了，数据库的压力也再度降低了不少。
看看这一步完成后系统的图示：
http://avaj.iteye.com/upload/picture/pic/22923/f7d5bf1f-eae2-3c3b-bd42-72275d6eceba.png
这一步涉及到了这些知识体系：
缓存技术，包括像 Map 数据结构、缓存算法、所选用的框架本身的实现机制等。
架构演变第五步：增加 webserver
好景不长，发现随着系统访问量的再度增加， webserver 机器的压力在高峰期会上升到比较高，这个时候开始考虑增加一台 webserver ，这也是为了同时解决可用性的问题，避免单台的 webserver down 机的话就没法使用了，在做了这些考虑后，决定增加一台 webserver ，增加一台 webserver 时，会碰到一些问题，典型的有：
1 、如何让访问分配到这两台机器上，这个时候通常会考虑的方案是 Apache 自带的负载均衡方案，或 LVS 这类的软件负载均衡方案；
2 、如何保持状态信息的同步，例如用户 session 等，这个时候会考虑的方案有写入数据库、写入存储、 cookie 或同步 session 信息等机制等；
3 、如何保持数据缓存信息的同步，例如之前缓存的用户数据等，这个时候通常会考虑的机制有缓存同步或分布式缓存；
4 、如何让上传文件这些类似的功能继续正常，这个时候通常会考虑的机制是使用共享文件系统或存储等；
在解决了这些问题后，终于是把 webserver 增加为了两台，系统终于是又恢复到了以往的速度。
看看这一步完成后系统的图示：
http://avaj.iteye.com/upload/picture/pic/22921/beddbf4d-aec4-31ad-a36a-e39d79668c1d.png
这一步涉及到了这些知识体系：
负载均衡技术（包括但不限于硬件负载均衡、软件负载均衡、负载算法、 linux 转发协议、所选用的技术的实现细节等）、主备技术（包括但不限于 ARP 欺骗、 linux heart-beat 等）、状态信息或缓存同步技术（包括但不限于 Cookie 技术、 UDP 协议、状态信息广播、所选用的缓存同步技术的实现细节等）、共享文件技术（包括但不限于 NFS 等）、存储技术（包括但不限于存储设备等）。
架构演变第六步：分库
享受了一段时间的系统访问量高速增长的幸福后，发现系统又开始变慢了，这次又是什么状况呢，经过查找，发现数据库写入、更新的这些操作的部分数据库连接的 资源竞争非常激烈，导致了系统变慢，这下怎么办呢，此时可选的方案有数据库集群和分库策 略，集群方面像有些数据库支持的并不是很好，因此分库会成为比较普遍的策略，分库也就意味着要对原有程序进行修改，一通修改实现分库后，不错，目标达到 了，系统恢复甚至速度比以前还快了。
看看这一步完成后系统的图示：
http://avaj.iteye.com/upload/picture/pic/22919/c4cf92cc-f68c-38ce-8b1f-8b48a88b05ea.png
这一步涉及到了这些知识体系：
这一步更多的是需要从业务上做合理的划分，以实现分库，具体技术细节上没有其他的要求；
但同时随着数据量的增大和分库的进行，在数据库的设计、调优以及维护上需要做的更好，因此对这些方面的技术还是提出了很高的要求的。
架构演变第七步：分表、 DAL 和分布式缓存
随着系统的不断运行，数据量开始大幅度增长，这个时候发现分库后查询仍然会有些慢，于是按照分库的思想开始做分表的工作，当然，这不可避免的会需要对程序 进行一些修改，也许在这个时候就会发现应用自己要关心分库分表的规则等，还是有些复杂的，于是萌生能否增加一个通用的框架来实现分库分表的数据访问，这个在 ebay 的架构中对应的就是 DAL ，这个演变的过程相对而言需要花费较长的时间，当然，也有可能这个通用的框架会等到分表做完后才开始做，同时，在这个阶段可 能会发现之前的缓存同步方案出现问题，因为数据量太大，导致现在不太可能将缓存存在本地，然后同步的方式，需要采用分布式缓存方案了，于是，又是一通考察和折磨，终于是将大量的数据缓存转移到分布式缓存上了。
看看这一步完成后系统的图示：
http://avaj.iteye.com/upload/picture/pic/22935/7ea9209e-f430-3b34-88f4-7d631f475369.png
这一步涉及到了这些知识体系：
分表更多的同样是业务上的划分，技术上涉及到的会有动态 hash 算法、 consistent hash 算法等；
DAL 涉及到比较多的复杂技术，例如数据库连接的管理（超时、异常）、数据库操作的控制（超时、异常）、分库分表规则的封装等；
架构演变第八步：增加更多的 webserver
在做完分库分表这些工作后，数据库上的压力已经降到比较低了，又开始过着每天看着访问量暴增的幸福生活了，突然有一天，发现系统的访问又开始有变慢的趋势 了，这个时候首先查看数据库，压力一切正常，之后查看 webserver ，发现 apache 阻塞了很多的请求，而应用服务器对每个请求也是比较快的，看来是请求数太高导致需要排队等待，响应速度变慢，这还好办，一般来说，这个时候也会有些钱了，于是添加一些 webserver 服务器，在这个添加 webserver 服务器的过程，有可能会出现几种挑战：
1 、 Apache 的软负载或 LVS 软负载等无法承担巨大的 web 访问量（请求连接数、网络流量等）的调度了，这个时候如果经费允许的话，会采取的方案是购买硬件负载，例如 F5 、 Netsclar 、 Athelon 之类的，如经费不允许的话，会采取的方案是将应用从逻辑上做一定的分类，然后分散到不同的软负载集群中；
2 、原有的一些状态信息同步、文件共享等方案可能会出现瓶颈，需要进行改进，也许这个时候会根据情况编写符合网站业务需求的分布式文件系统等；
在做完这些工作后，开始进入一个看似完美的无限伸缩的时代，当网站流量增加时，应对的解决方案就是不断的添加 webserver 。
看看这一步完成后系统的图示：
http://avaj.iteye.com/upload/picture/pic/22933/79484929-23ba-323d-a60f-28c931c49e8a.png
这一步涉及到了这些知识体系：
到了这一步，随着机器数的不断增长、数据量的不断增长和对系统可用性的要求越来越高，这个时候要求对所采用的技术都要有更为深入的理解，并需要根据网站的需求来做更加定制性质的产品。
架构演变第九步：数据读写分离和廉价存储方案
突然有一天，发现这个完美的时代也要结束了，数据库的噩梦又一次出现在眼前了，由于添加的 webserver 太多了，导致数据库连接的资源还是不够用，而这个时候又已经分库分表了，开始分析数据库的压力状况，可能会发现数据库的读写比很高，这个时候通常会想到数据读写分离的方案，当然，这个方案要实现并不 容易，另外，可能会发现一些数据存储在数据库上有些浪费，或者说过于占用数据库资源，因此在这个阶段可能会形成的架构演变是实现数据读写分离，同时编写一些更为廉价的存储方案，例如 BigTable 这种。
看看这一步完成后系统的图示：
http://avaj.iteye.com/upload/picture/pic/22931/6b055e67-95ad-3156-95d9-5486f34bf366.png
这一步涉及到了这些知识体系：
数据读写分离要求对数据库的复制、 standby 等策略有深入的掌握和理解，同时会要求具备自行实现的技术；
廉价存储方案要求对 OS 的文件存储有深入的掌握和理解，同时要求对采用的语言在文件这块的实现有深入的掌握。
架构演变第十步：进入大型分布式应用时代和廉价服务器群梦想时代
经过上面这个漫长而痛苦的过程，终于是再度迎来了完美的时代，不断的增加 webserver 就可以支撑越来越高的访问量了，对于大型网站而言，人气的重要毋 庸置疑，随着人气的越来越高，各种各样的功能需求也开始爆发性的增长，这个时候突然发现，原来部署在 webserver 上的那个 web 应用已经非常庞大了，当多个团队都开始对其进行改动时，可真是相当的不方便，复用性也相当糟糕，基本是每个团队都做了或多或少重复的事情，而且部署和维护也是相当的麻烦， 因为庞大的应用包在 N 台机器上复制、启动都需要耗费不少的时间，出问题的时候也不是很好查，另外一个更糟糕的状况是很有可能会出现某个应用上的 bug 就导致了全站都不可用，还有其他的像调优不好操作（因为机器上部署的应用什么都要做，根本就无法进行针对性的调优）等因素，根据这样的分析，开始痛下决心，将 系统根据职责进行拆分，于是一个大型的分布式应用就诞生了，通常，这个步骤需要耗费相当长的时间，因为会碰到很多的挑战：
1 、拆成分布式后需要提供一个高性能、稳定的通信框架，并且需要支持多种不同的通信和远程调用方式；
2 、将一个庞大的应用拆分需要耗费很长的时间，需要进行业务的整理和系统依赖关系的控制等；
3 、如何运维（依赖管理、运行状况管理、错误追踪、调优、监控和报警等）好这个庞大的分布式应用。
经过这一步，差不多系统的架构进入相对稳定的阶段，同时也能开始采用大量的廉价机器来支撑着巨大的访问量和数据量，结合这套架构以及这么多次演变过程吸取的经验来采用其他各种各样的方法来支撑着越来越高的访问量。
看看这一步完成后系统的图示：
http://avaj.iteye.com/upload/picture/pic/22929/f2f5a6b1-f1a4-3432-bce4-b7834293ce11.png
watermarkmms 2014-09-23
- 打赏
- 举报
并发太高肯定是通过分布式、数据集群来实现，你部署在别人的云上怎么行，应用服务器本身还有并发限制呢。
im系统都是做负载均衡，一个客户端进来，根据ip规则链接不同的socket服务器，好友关系数据一搬都是用分布式nosql存储实现，rds，hadoop，你部在那些公司的开发云上，没有自己的物理设备，肯定不行的。而且你这个100W好笼统，每天100W的pv？
hhhhhbb 2014-09-22
- 打赏
- 举报
四川人吗？
skgary 2014-09-12
- 打赏
- 举报
MQ就算了，真的要上即时消息类的东西，还是自己写消息队列吧。
jtkkjtkk 2014-09-12
- 打赏
- 举报
1、假如我自己想搞一个交友类软件（100万用户），那么有什么解决方案（先不考虑市场可行性，我们只讨论技术可行性）？
—— 假定你主要是做即时通讯，那么可以选用开源组件（比如Openfire）或商用平台（可Google，大把做云即时通讯服务的）
2、我感觉可以把服务器应用部署到IaaS或PaaS之类的设施上，一来可靠性好，二来运维成本低；
—— 规模问题，如果是中小范围，用云可以；而且我更推荐直接用SaaS，没必要自己去开发软件了；
—— 如果是大规模超大规模，自己建吧，看看后来追赶腾讯的即时通讯厂商，都是自己建体系的。
3、但是到底选择IaaS（如阿里ECS、Google GCE、Amazon AWS、好像还有盛大云、腾讯云）还是PaaS（百度BAE，新浪SAE）呢？有没有大侠有相关经验介绍下？
—— IaaS是设备租用级别，你如果要开发即时通讯服务，基本上要用这类；
—— PaaS是租用中间件级别，如果是开发一般性的应用，用这类比较合适。[/quote]
非常感谢 ，我有一个朋友做过类似的东西，我先和他沟通下，再来发表。
jtkkjtkk 2014-09-12
- 打赏
- 举报
一般聊天记录之类的，都不是用传统的数据库做的。[/quote]
那是用的什么数据库？
最近我也在和别人聊这个事情，听说需要用一个消息队列（MQ）服务，发消息时将先发到MQ中，然后通过PUSH通知接收方（对方在线的话，就不用存到数据库中了），如果接收方不在线，存到MQ中的信息会超时，这种情况就写入到数据库中。
MiceRice 2014-09-10
- 打赏
- 举报
对了，喜欢了解啥子，可以到这里来搜索：
http://www.oschina.net/search?scope=project&q=%E5%8D%B3%E6%97%B6%E9%80%9A%E8%AE%AF
如果对某个软件感兴趣，可以继续Google这个软件的设计思路、模型啥的。
MiceRice 2014-09-10
- 打赏
- 举报
1、假如我自己想搞一个交友类软件（100万用户），那么有什么解决方案（先不考虑市场可行性，我们只讨论技术可行性）？
—— 假定你主要是做即时通讯，那么可以选用开源组件（比如Openfire）或商用平台（可Google，大把做云即时通讯服务的）
2、我感觉可以把服务器应用部署到IaaS或PaaS之类的设施上，一来可靠性好，二来运维成本低；
—— 规模问题，如果是中小范围，用云可以；而且我更推荐直接用SaaS，没必要自己去开发软件了；
—— 如果是大规模超大规模，自己建吧，看看后来追赶腾讯的即时通讯厂商，都是自己建体系的。
3、但是到底选择IaaS（如阿里ECS、Google GCE、Amazon AWS、好像还有盛大云、腾讯云）还是PaaS（百度BAE，新浪SAE）呢？有没有大侠有相关经验介绍下？
—— IaaS是设备租用级别，你如果要开发即时通讯服务，基本上要用这类；
—— PaaS是租用中间件级别，如果是开发一般性的应用，用这类比较合适。
skgary 2014-09-09
- 打赏
- 举报
一般聊天记录之类的，都不是用传统的数据库做的。
blackze 2014-09-08
- 打赏
- 举报
我提下很不成熟的未经测试的想法....异地数据的问题我不知道该怎么弄所以我跳过这一块....
也许并不需要长连接,短链接+jce判断数据完整性,如果数据不完整则要求重发
图片之类的分两步走,额外的图片服务器然后再转给接收方,发送方发送的时候会发送一个特征值供服务器判断是否存在此图片(但是对于破解客户端然后恶意篡改特征值攻击服务器的话想不到有啥好办法解决....)
聊天记录之类的可以考虑重写个自用的orm+本地缓存,多少分钟没改动的话就写进数据库,多久没写进数据库的话就强制写进数据库,多长时间异地数据同步(异地这块真的完全不懂....求不喷)
语音视频之类的就不了解了....没做过....
skgary 2014-09-06
- 打赏
- 举报
但你有中心的server，移动网里没有，这就是最核心的区别。
SG90 2014-09-06
- 打赏
- 举报
就比如说，我有50万用户同时在线，如何保证用户 之间消息的及时性，这个是否可以深入讨论下。
谢谢！[/quote]
看到网上有说分区实现的，类似蜂窝通信网。
假设有两个大区， A, B, 用户注册的时候， 按一定规则， 被分配到不同的区内了.
现在有两个用户a, b, 他们分别在A, B内， 现在当a, b想户相加好朋友的时候， 他们首先要能找到对方做在的区。
这个往往通过中心一个server处理， 然后因为加好朋友需要写两条db, 一条是a -> b, 一条是b->a ,
server也不只有一个。
[/quote]
移动网络并没有一个中心的server，SIM卡分配的时候就找了几位和归属服务器对应。[/quote]
两个区的SIM卡相互通信，跟这里的分区概念是相似的啊
skgary 2014-09-05
- 打赏
- 举报
从个人的经验而言，IO/网络密集型 的应用不适合放在云上。
大公司搞云服务，那么他们自己的应用都放在这个收费服务的云上了么？[/quote]
这个我还真不知道，不过看人家主而的介绍，是有不少知明的应用使用了云服务器。我想至少在资金成本方面应该会少一些吧？！对于小公司而言，还是有吸引力的。
当然我还是想重点讨论技术层面的东西。[/quote]
当你的应用根本不需要一台物理服务器的处理能力时，放在云上当然省成本 了。
jtkkjtkk 2014-09-05
- 打赏
- 举报
从个人的经验而言，IO/网络密集型 的应用不适合放在云上。
大公司搞云服务，那么他们自己的应用都放在这个收费服务的云上了么？[/quote]
这个我还真不知道，不过看人家主而的介绍，是有不少知明的应用使用了云服务器。我想至少在资金成本方面应该会少一些吧？！对于小公司而言，还是有吸引力的。
当然我还是想重点讨论技术层面的东西。
skgary 2014-09-05
- 打赏
- 举报
就比如说，我有50万用户同时在线，如何保证用户 之间消息的及时性，这个是否可以深入讨论下。
谢谢！[/quote]
看到网上有说分区实现的，类似蜂窝通信网。
假设有两个大区， A, B, 用户注册的时候， 按一定规则， 被分配到不同的区内了.
现在有两个用户a, b, 他们分别在A, B内， 现在当a, b想户相加好朋友的时候， 他们首先要能找到对方做在的区。
这个往往通过中心一个server处理， 然后因为加好朋友需要写两条db, 一条是a -> b, 一条是b->a ,
server也不只有一个。
[/quote]
移动网络并没有一个中心的server，SIM卡分配的时候就找了几位和归属服务器对应。
SG90 2014-09-04
- 打赏
- 举报
就比如说，我有50万用户同时在线，如何保证用户 之间消息的及时性，这个是否可以深入讨论下。
谢谢！[/quote]
看到网上有说分区实现的，类似蜂窝通信网。
假设有两个大区， A, B, 用户注册的时候， 按一定规则， 被分配到不同的区内了.
现在有两个用户a, b, 他们分别在A, B内， 现在当a, b想户相加好朋友的时候， 他们首先要能找到对方做在的区。
这个往往通过中心一个server处理， 然后因为加好朋友需要写两条db, 一条是a -> b, 一条是b->a ,
server也不只有一个。
skgary 2014-09-04
- 打赏
- 举报
从个人的经验而言，IO/网络密集型 的应用不适合放在云上。
大公司搞云服务，那么他们自己的应用都放在这个收费服务的云上了么？
jtkkjtkk 2014-09-04
- 打赏
- 举报
就比如说，我有50万用户同时在线，如何保证用户 之间消息的及时性，这个是否可以深入讨论下。
谢谢！
jtkkjtkk 2014-09-04
- 打赏
- 举报
1. 100万注册用户，还是100万连接。这两个字眼的不同，实际的结果差两个数量级。
是100万连接；
2. 当你的需求已经超过了物理机的限制，那么，云只是为了管理方便。
那IaaS和PaaS总是有区别的吧？不应该只是管理上的方便！
3. 如果是100万连接以上，准备自建私有云吧。
这个怎么理解，那么多的大公司在搞云服务器并对外提供收费服务，目的是什么？
加载更多回复（3）
