關閉
1. 企業穩定成長必須面臨的問題

數位轉型趨勢
數位資訊化在30年間迅速蓬勃的發展,新的資訊技術持續進步不僅造就了許多新興產業,更多的是大型企業的數位化轉型,從生活中我們可以看到許多行為都已經與資訊化系統高度結合,資訊化系統已經成為各行各業不可或缺的基本經營需求。

  • 飲食 : 訂餐、預約、促銷活動餐飲劵等
  • 服飾 : 走出家門已不是唯一選擇,豐富的網路購物更便利選購
  • 住宅 : 預約訂房、線上看房等,不再需要電話預約或現場預約
  • 行動 : 各種車票預訂、時刻表的網路查詢
  • 教育 : 如今線上教育的蓬勃發展,實體教室已不是教育的唯一途徑
  • 娛樂 : 各式的線上遊戲、行動遊戲、網路大型賽事轉播

利用高併發架構帶來超過10億的商機 I

▲ 2019年線上即時對戰遊戲轉播創下最高同時在線人數4400萬人(圖片來源:Riot官方網站)

危機警訊
在網路資訊化不斷蓬勃發展成長的狀態下,企業擁有更多的訂單、會員及龐大的交易,商業運作也逐漸依賴著系統來完成所有事情,隨之而來系統使用率也同時大幅提升,看似一切都美好的狀態下,其實伴隨著隱憂,企業系統將面臨資源不足、處理緩慢、更可能是系統崩潰的問題發生。

舉例來說,企業籌辦已久的一場直播活動,卻因當日人流龐大造成訂單、播放系統負荷不良,讓用戶體驗不佳與之中斷,因此在一片好景下造成鉅額損失及商譽受損。

利用高併發架構帶來超過10億的商機 I

▲ 2021某網路銀行上線就因人流超載服務中斷將近5小時(圖片來源 : 蘋果新聞網)

2. 什麼是高併發?

高併發(High Concurrency)
首先要了解,併發行為指的是同一時間有多個請求同時訪問,而當服務系統運作時,因為同一時間大量的增加使用率而造成的高負荷行為,在系統架構上我們稱之為高併發,這種狀況會造成伺服器負荷過高導致當機或瓶頸,無法提供正常的服務。

因為高併發所影響的系統面相有很多,其包含著作業系統、網路、硬體資源、網頁伺服器、資料庫、程式碼...等等眾多因素需要考量,當服務供應的使用量越來越龐大,同時上線人數可能已不再是一千人,而是上萬人甚至數十萬人,就不是單一個伺服器所能應付的是事情了。

隨著網路普及化,智慧型手機取代實體商店,我們可以觀察到網路商業模式不斷以倍數的年成長數增加。
舉一個大型的實際案例:天貓淘寶每年都必須面臨這樣的挑戰。

利用高併發架構帶來超過10億的商機 I

▲ 天貓淘寶雙11每秒併發訂單成長圖資料來源 : 阿里雲)


如何規劃高可用性的系統?

這個問題一直都是企業IT人員長期煩惱的問題,一方面要評估系統支出成本,一方面要預防發生系統瓶頸的狀況。
在進入規劃前我們需要先了解幾項評估指標 :

  • QPS(Query Per Second)是服務伺服器每秒能夠查詢次數的參考指標,但不包括寫入操作
  • TPS(Transactions Per Second)每秒服務能完成多少請求是壓力測試軟體的一種單位指標,其測試客戶端對伺服器發出請求到結束每秒所能達成的次數
  • RT(Response Time)是客戶端對服務器發出一個請求到收到回應數據所需要的總體時間,是重要指標,其直接反應了一個系統的快慢,通常以毫秒為單位
  • Throughput 是指系統CPU、Memory、IOPS的乘載壓力能力,與硬體效能有關
  • PV(Page View) 是指服務器端有端少次的瀏覽量,客戶端重新整理頁面即計算一次
  • UV(Unique Visitor) 是指有多少獨立客戶端訪問服務,即不同IP位址訪問從以上評估指標可以看到,規劃高可用性的系統通常是需要觀察系統狀態一段時間,或透過軟體進行壓力測試,並透過監控得到眾多的數據後,經過調整才能成功。而關於高併發問題在許多先進的努力下將有什麼解方呢?

下一篇將繼續與大家探討高併發架構。

 


撰寫人
利用高併發架構帶來超過10億的商機 I

技術長
藍國豪 Levi Lan