关闭
1. 企业稳定成长必须面临的问题
 

数位转型趋势
数位资讯化在30年间迅速蓬勃的发展,新的资讯技术持续进步不仅造就了许多新兴产业,更多的是大型企业的数位化转型,从生活中我们可以看到许多行为都已经与资讯化系统高度结合,资讯化系统已经成为各行各业不可或缺的基本经营需求。

  • 饮食 : 订餐、预约、促销活动餐饮劵等
  • 服饰 : 走出家门已不是唯一选择,丰富的网路购物更便利选购
  • 住宅 : 预约订房、线上看房等,不再需要电话预约或现场预约
  • 行动 : 各种车票预订、时刻表的网路查询
  • 教育 : 如今线上教育的蓬勃发展,实体教室已不是教育的唯一途径
  • 娱乐 : 各式的线上游戏、行动游戏、网路大型赛事转播

利用高并发架构带来超过10亿的商机 I
▲2019年线上即时对战游戏转播创下最高同时在线人数4400万人(图片来源: Riot官方网站)                  

危机警讯
在网路资讯化不断蓬勃发展成长的状态下,企业拥有更多的订单、会员及庞大的交易,商业运作也逐渐依赖着系统来完成所有事情,随之而来系统使用率也同时大幅提升,看似一切都美好的状态下,其实伴随着隐忧,企业系统将面临资源不足、处理缓慢、更可能是系统崩溃的问题发生。
举例来说,企业筹办已久的一场直播活动,却因当日人流庞大造成订单、播放系统负荷不良,让用户体验不佳与之中断,因此在一片好景下造成巨额损失及商誉受损。

利用高并发架构带来超过10亿的商机 I
▲2021某网路银行上线就因人流超载服务中断将近5小时                                                                 (图片来源 : 苹果新闻网)



2. 什么是高并发?

 

高并发(High Concurrency)
首先要了解,并发行为指的是同一时间有多个请求同时访问,而当服务系统运作时,因为同一时间大量的增加使用率而造成的高负荷行为,在系统架构上我们称之为高并发,这种状况会造成伺服器负荷过高导致当机或瓶颈,无法提供正常的服务。
因为高并发所影响的系统面相有很多,其包含著作业系统、网路、硬体资源、网页伺服器、资料库、程式码...等等众多因素需要考量,当服务供应的使用量越来越庞大,同时上线人数可能已不再是一千人,而是上万人甚至数十万人,就不是单一个伺服器所能应付的是事情了。
随着网路普及化,智慧型手机取代实体商店,我们可以观察到网路商业模式不断以倍数的年成长数增加。
举一个大型的实际案例:天猫淘宝每年都必须面临这样的挑战。

利用高并发架构带来超过10亿的商机 I
▲天猫淘宝双11每秒并发订单成长图                                                       (资料来源 : 阿里云)


如何规划高可用性的系统?

这个问题一直都是企业IT人员长期烦恼的问题,一方面要评估系统支出成本,一方面要预防发生系统瓶颈的状况。
在进入规划前我们需要先了解几项评估指标 :

  • QPS(Query Per Second)是服务伺服器每秒能够查询次数的参考指标,但不包括写入操作
  • TPS(Transactions Per Second)每秒服务能完成多少请求是压力测试软体的一种单位指标,其测试客户端对伺服器发出请求到结束每秒所能达成的次数
  • RT(Response Time)是客户端对服务器发出一个请求到收到回应数据所需要的总体时间,是重要指标,其直接反应了一个系统的快慢,通常以毫秒为单位
  • Throughput 是指系统CPU、Memory、IOPS的乘载压力能力,与硬体效能有关
  • PV(Page View) 是指服务器端有端少次的浏览量,客户端重新整理页面即计算一次
  • UV(Unique Visitor) 是指有多少独立客户端访问服务,即不同IP位址访问从以上评估指标可以看到,规划高可用性的系统通常是需要观察系统状态一段时间,或透过软体进行压力测试,并透过监控得到众多的数据后,经过调整才能成功。而关于高并发问题在许多先进的努力下将有什么解方呢?

下一篇将继续与大家探讨高并发架构。

 


撰写人
利用高并发架构带来超过10亿的商机 I

技术长
蓝国豪 Levi Lan