使用 ApacheBench 進行網站的壓力測試

Origin: 使用 ApacheBench 進行網站的壓力測試
ApacheBench 工具程式是 Apache 網站伺服器軟體的一個附帶的工具軟體，專門用來執行網站伺服器的運行效能，特別是針對 Apache 網站伺服器 的效能分析。這支程式原本是用來檢測 Apache 網站伺服器(Web Server) 所能夠提供的效能，特別是可以看出 Apache 網站伺服器能提供每秒能送出多少網頁，當然的，也可以用在任何其他的網站伺服器，例如說：IIS 或 lighttpd。
底下是 ab 的使用參數摘要說明，若要看詳細說明可以看這裡

Usage: ./ab [options] [http[s]://]hostname[:port]/path
Options are:
    -n requests     Number of requests to perform
    -c concurrency  Number of multiple requests to make
    -t timelimit    Seconds to max. wait for responses
    -b windowsize   Size of TCP send/receive buffer, in bytes
    -B address      Address to bind to when making outgoing connections
    -p postfile     File containing data to POST. Remember also to set -T
    -u putfile      File containing data to PUT. Remember also to set -T
    -T content-type Content-type header for POSTing, eg.
                    'application/x-www-form-urlencoded'
                    Default is 'text/plain'
    -v verbosity    How much troubleshooting info to print
    -w              Print out results in HTML tables
    -i              Use HEAD instead of GET
    -x attributes   String to insert as table attributes
    -y attributes   String to insert as tr attributes
    -z attributes   String to insert as td or th attributes
    -C attribute    Add cookie, eg. 'Apache=1234'. (repeatable)
    -H attribute    Add Arbitrary header line, eg. 'Accept-Encoding: gzip'
                    Inserted after all normal header lines. (repeatable)
    -A attribute    Add Basic WWW Authentication, the attributes
                    are a colon separated username and password.
    -P attribute    Add Basic Proxy Authentication, the attributes
                    are a colon separated username and password.
    -X proxy:port   Proxyserver and port number to use
    -V              Print version number and exit
    -k              Use HTTP KeepAlive feature
    -d              Do not show percentiles served table.
    -S              Do not show confidence estimators and warnings.
    -g filename     Output collected data to gnuplot format file.
    -e filename     Output CSV file with percentages served
    -r              Don't exit on socket receive errors.
    -h              Display usage information (this message)
    -Z ciphersuite  Specify SSL/TLS cipher suite (See openssl ciphers)
    -f protocol     Specify SSL/TLS protocol (SSL2, SSL3, TLS1, or ALL)

而我經常使用的參數摘要如下

同時 10 個連線，連續點擊 10000 次 ( 每個 Request 執行完畢後都會自動斷線，然後再重新連線 )

ab -n 10000 -c 1000 http://www.example.com/index.php

同時 10 個連線，連續點擊 10000 次，並且使用 Keep-Alive 方式連線（當 Web Server 有支援 Keep-Alive 功能時 ApacheBench 會在同一個連線下連續點擊該網頁）

ab -n 10000 -c 1000 –k http://www.example.com/index.php

將測試的效能原始資料匯出成 CSV 檔

ab -e output.csv -n 10000 -c 1000 http://www.example.com/index.php

如果測試的網頁中需要帶入 post data，這時候可以透過一個 postfile，裡頭含有需要透過 post 傳送的 data。postfile 內容會長得像這樣。

key1=value1&key2=value2&key3=value3

接著 ab 加上 –p postfile，ab test 就會將這個檔案的內容當做透過 post 的方式送出去了，必須要注意的一點是，-p 參數往往會和 –T 參數一起使用，-T 是告訴 ab test 是要用哪種 content-type 傳送data，目前我所用的例子是 "application/x-www-form-urlencoded"

ab -n 10000 -c 1000 –p postfile -T "application/x-www-form-urlencoded" http://www.example.com/index.php

如何有效的檢視結果

壓力測試的核心在於如何分析結果，底下我用一個測試的結果說明每個欄位所代表的意義。如果你只要看重點的話，可以看 Failed requests、Requests per second、與 Time per request 這三個參數也就差不多夠了。其中的 Failed requests 的數量太高的話，很有可能代表你的 Web Application 的穩定度不夠，而導致使用大量要求時無法回應需求 。而 Request per second 代表你每表可送出的回應數有多少，代表你 Web Application 的承載量有多少（在不考慮頻寬限制的情況下）。

Copyright 1996 Adam Twiss, Zeus Technology Ltd, http://www.zeustech.net/
Licensed to The Apache Software Foundation, http://www.apache.org/

Benchmarking 192.168.16.221 (be patient)
Completed 1000 requests
Completed 2000 requests
Completed 3000 requests
Completed 4000 requests
Completed 5000 requests
Completed 6000 requests
Completed 7000 requests
Completed 8000 requests
Completed 9000 requests
Completed 10000 requests
Finished 10000 requests


Server Software:        Apache/2.4.3
Server Hostname:        192.168.16.221
Server Port:            443
SSL/TLS Protocol:       TLSv1/SSLv3,ECDHE-RSA-AES256-GCM-SHA384,1024,256

Document Path:          /index.php
Document Length:        38 bytes

Concurrency Level:      1000
Time taken for tests:   25.413 seconds
Complete requests:      10000
Failed requests:        0
Write errors:           0
Keep-Alive requests:    0
Total transferred:      2280000 bytes
HTML transferred:       380000 bytes
Requests per second:    393.50 [#/sec] (mean)
Time per request:       2541.321 [ms] (mean)
Time per request:       2.541 [ms] (mean, across all concurrent requests)
Transfer rate:          87.61 [Kbytes/sec] received

Connection Times (ms)
              min  mean[+/-sd] median   max
Connect:      123 1283 300.3   1248    2494
Processing:   733 1161 161.7   1173    1534
Waiting:       89  384  95.9    377     748
Total:        937 2444 231.5   2416    3377

Percentage of the requests served within a certain time (ms)
  50%   2416
  66%   2420
  75%   2426
  80%   2444
  90%   2552
  95%   2924
  98%   3099
  99%   3369
 100%   3377 (longest request)

如上表顯示的結果來說明，我一個欄位一個欄位的講解如下

• Server Software: Web主機的作業系統與版本(若Web主機設定關閉此資訊則無)
• Server Hostname: Web主機的IP位址(Hostname)
• Server Port:  Web主機的連接埠(Port)
• Document Path: 測試網址的路徑部分
• Document Length: 測試網頁回應的網頁大小
• Concurrency Level: 同時進行壓力測試的人數
• Time taken for tests: 本次壓力測試所花費的總秒數
• Complete requests: 完成的要求數(Requests)
• Failed requests: 失敗的要求數(Requests)
• Write errors: 寫入失敗的數量
• Total transferred: 本次壓力測試的總數據傳輸量(包括 HTTP Header 的資料也計算在內)
• HTML transferred: 本次壓力測試的總數據傳輸量(僅計算回傳的 HTML 的資料)
• Requests per second: 平均每秒可回應多少要求
• Time per request: 平均每個要求所花費的時間(單位: 豪秒)
• Time per request: 平均每個要求所花費的時間，跨所有同時連線數的平均值(單位: 豪秒)
• Transfer rate:  從 ab 到 Web Server 之間的網路傳輸速度

最後的 Connection Times (ms) 指的是壓力測試時的連線處理時間：

橫軸欄位的部分：

• min: 最小值
• mean: 平均值(正、負標準差)
• median: 平均值(中間值)
• max: 最大值

縱軸欄位的部分：

• Connect: 從 ab 發出 TCP 要求到 Web 主機所花費的建立時間。
• Processing: 從 TCP 連線建立後，直到 HTTP 回應(Response)的資料全部都收到所花的時間。
• Waiting: 從發送 HTTP 要求完後，到 HTTP 回應(Response)第一個 Byte 所等待的時間。
• Total: 等於 Connect + Processing 的時間（因為 Waiting 包含在 Processing 時間內了）

壓力測試的基本觀念

排除頻寬的限制

做壓力測試通常不會考量「頻寬的限制」，所以一般來說不會將測試的主機擺在遠端機房、然後測試程式擺在公司內部的主機，而是會將壓力測試的 Client 跟 Web 主機擺在同一個網段下進行壓力測試。

因為「頻寬」只要花錢就會有了，但是主機的承載量卻是有限的，從遠端進行壓力測試主要的限制是在「頻寬」而非「效能」，所以從遠端單點進行壓力測試毫無任何意義可言，這樣是測不出主機的效能極限的。

如果你有能力與資源進行大規模（多點）壓力測試的話，透過遠端進行壓力測試才有意義。

壓力要循序漸進

你不要一下字就執行同時連線數 100 人，而是要循序漸進的慢慢加同時連線數上去，才不會讓 Web Application 一下字承受過大的負載而導致效能的數據不正確（例如說 Failed requests 過高），但這只是建議，你也可以一下子操死你的主機，反正你在測主機的極限嘛！