Cách tính mức chịu tải của server

English | Vietnamese

Rules

Main Forum

Portal

Member Listing

Statistics

Search

Reading Room
[Register]

Login [ | https ]

Forum Index

Thảo luận mạng và thiết bị mạng

Cách tính mức chịu tải của server

[Question] Cách tính mức chịu tải của server	18/06/2014 09:32:39 (+0700) \| #1 \| 280843

superbmt
Member

Joined: 16/08/2011 22:04:19
Messages: 35
Offline

Em cũng đã tìm kiếm về vấn đề tính chịu tải cho server này rồi nhưng chưa tự trả lời được cho mình, để tính được mức chịu tải thì phụ thuộc vào rất nhiều yếu tố: như lượng người dùng, dữ liệu load lên, dữ liệu lưu trữ trên server, băng thông, .... nhưng cũng muốn được hỏi mọi người để hiểu thấu đáo và làm tốt hơn cho hệ thống, định hướng cho lâu dài chứ không phải tới lúc bị nghẽn rồi đầu tư, giải quyết vấn đề.

Hiện tại server bên em có cấu hình như sau:

CPU: Xeon (R) E5-2620 @2.00Ghz (2 processors)
RAM: 32GB
OS: Winserver 2012 x64
HDD: C: 118 GB (50 GB used); D: 3TB (1,8TB used)

Đường truyền: 160 Mbps

Bình thường hiện tại CPU chiếm khoảng 10%, Memory: 20%, hệ thống hoạt động bình thường (khoảng 5000 lượt view mỗi ngày). Mỗi lần load website thì người sử dụng tiêu tốn khoản 500Kb băng thông.

Em muốn hỏi để biết được lượng người truy cập tối đa bao nhiêu thì hệ thống bị nghẽn, không hoạt động được để có thể nâng cấp được phần cứng, tối ưu hoặc tăng băng thông cho hệ thống về lâu dài. (Nếu có công thức tính được thì quá tốt ạ).

...lâu lâu nên làm một điều gì đó có ích...

[Question] Cách tính mức chịu tải của server	18/06/2014 22:53:48 (+0700) \| #2 \| 280847

myquartz
Member

Joined: 04/01/2005 04:58:30
Messages: 563
Offline

Mình thấy khá hiếm người như bạn, có ý định tính trước vấn đề tải trọng và phần cứng như vậy. Như thế bạn đang thực hiện công việc người ta gọi là sizing, một việc nói chung là khó và không có công thức chung.

Tuy nhiên có vài nguyên tắc chung thế này:

- Để tính đường mạng, người ta dựa vào băng thông và kích thước trung bình của mỗi request (như web) hoặc mỗi người sử dụng. Cái này chắc không cần nói bạn cũng biết, ví dụ vào 1 web tốn mỗi lần khoảng 100KByte, đường truyền 160Mbps ~ 16MByte/s (đã trừ phụ phí) => 16000K/100K = 160 request/s. Như thế ra công suất mạng chịu được.

- Tính RAM: thường mỗi connection (session) kết nối và chạy sẽ tốn bao nhiều MB RAM (cái này monitor hoặc đo đạc các web process là ra, ví dụ ta được con số là 4MB/session chẳng hạn. Mỗi request (tốn 1 session) sẽ xử lý trung bình trong vòng 3s, vị chi là mỗi giây máy 32GB RAM của bạn, trừ đi OS và các thứ linh tinh, ví dụ là 4GB, còn ra 28GB = 28000MB/4MB RAM = 7000 session đồng thời, chia cho 3s => 7000/3 = 2300request/s. Vậy là ra số cho RAM, nhưng cái này phải chú ý cái thời gian xử lý, thời gian đợi client... cả 7000 session cùng lúc có thể xử lý không phải là 3s mà là 10s thì số request/s giảm đi rất nhiều.
- Tính tải CPU: Cái này khó nhất. Người ta thường phải dùng cái gọi là stress test để thử tải. Cách làm là dùng công cụ giả như client, kết nối đến server và tạo thật nhiều request với số lượng session tăng dần tới ngưỡng đã tính với RAM ở trên, kết hợp với công cụ monitor tải (CPU/RAM/IO) của server ngay tại lúc đó. Nếu tất cả các core của CPU đạt 100% ở 1 số lượng session nào đó, không tăng hơn được, hoặc đạt ngưỡng session rồi mà CPU cũng chưa hết 100% (nhưng tăng nữa session thì hết RAM), hoặc vấn đề có khi lại ở HDD, IO chạy busy 100% rồi mà RAM/CPU vẫn còn dư. Thường công cụ này làm test trong mạng LAN nhanh, để giảm ảnh hưởng của mạng (chắc là cần nhanh hơn 160Mb/s, 1Gbit ok rồi), dùng nhiều client cùng chạy (tập trung chục cái PC vào cùng chạy chắc dư sức đạt 7000 session), chạy khi không có ai khác sử dụng server để chính xác hơn. => đo và đây là giá trị cuối cùng.
Giá trị này nó tùy thuộc rất nhiều vào ứng dụng, database, đĩa, CPU, nhiều yếu tố khác... Ví dụ bạn đo và đạt được 1000req/s với 7000 session cùng lúc chẳng hạn.

Khi xong, đó gần như là con số cuối mà server của bạn chịu được. Từ đó bạn thiết lập rào cản limit... để không cho vượt quá ngưỡng đã test đó. Mạng có thể nghẽn trước, hoặc server có thể quá tải trước, tùy nhưng nói chung ta biết ngưỡng của cả 2 thứ để liệu. Nếu mạng phù hợp (160request/s hơi thấp so với 1000 của server), bạn có thể tăng đường mạng lên hoặc giảm tải dữ liệu, nén dữ liệu khi truyền... (100K xuống 50K thì số request sẽ gấp 2). Rồi lại test lại.... Xong.

[Question] Cách tính mức chịu tải của server	19/06/2014 11:09:24 (+0700) \| #3 \| 280850

superbmt
Member

Joined: 16/08/2011 22:04:19
Messages: 35
Offline

myquartz wrote:

Mình thấy khá hiếm người như bạn, có ý định tính trước vấn đề tải trọng và phần cứng như vậy. Như thế bạn đang thực hiện công việc người ta gọi là sizing, một việc nói chung là khó và không có công thức chung.

.....

Dạ, em xin cám ơn anh đã hướng dẫn một cách chi tiết như thế, đúng là cái này em tìm rồi mà chưa có giải đáp cụ thể, có lẽ cách nghĩ mình khác quá, hehe... Em đã dần mườn tượng thêm được cách tính cho hệ thống của mình, nhưng e còn một số thắc mắc muốn hỏi thêm anh..

myquartz wrote:

- Tính RAM: thường mỗi connection (session) kết nối và chạy sẽ tốn bao nhiều MB RAM (cái này monitor hoặc đo đạc các web process là ra, ví dụ ta được con số là 4MB/session chẳng hạn. Mỗi request (tốn 1 session) sẽ xử lý trung bình trong vòng 3s, vị chi là mỗi giây máy 32GB RAM của bạn, trừ đi OS và các thứ linh tinh, ví dụ là 4GB, còn ra 28GB = 28000MB/4MB RAM = 7000 session đồng thời, chia cho 3s => 7000/3 = 2300request/s. Vậy là ra số cho RAM, nhưng cái này phải chú ý cái thời gian xử lý, thời gian đợi client... cả 7000 session cùng lúc có thể xử lý không phải là 3s mà là 10s thì số request/s giảm đi rất nhiều.

về phần RAM và lượng request, em thử tính thời gian xử lý trung bình của 4MB tại trang http://www.ibeast.com/content/tools/band-calc.asp mới tốc độ đường truyền là 160Mpbs thì thời gian gần như bằng 0, em muốn hỏi anh cái 3s đó là mình dự tính như thế thôi, hay anh có cơ sở từ đâu ạ?

Về phần CPU thì đọc bài của anh em mới hiểu thêm được, đúng là rất khó để xác định, mình cũng không có nhiều công cụ để thử nghiệm, nhưng em sẽ thử theo cách monitor và tìm các giả lập các Client request đến server để tính tải.

...lâu lâu nên làm một điều gì đó có ích...

[Question] Cách tính mức chịu tải của server	19/06/2014 12:02:18 (+0700) \| #4 \| 280851

vncybernet
Member

Joined: 24/01/2005 02:15:17
Messages: 28
Location: 1011
Offline

Thời gian 3s là ước chừng thôi, vì Server của bạn có thể xử lý xong 1 request dưới 1s, nhưng thời gian dữ liệu đó đến được với người dùng thì nó phụ thuộc vào tốc độ đường truyền mạng và vị trí địa lý nữa.

[Question] Cách tính mức chịu tải của server	20/06/2014 11:40:48 (+0700) \| #5 \| 280858

myquartz
Member

Joined: 04/01/2005 04:58:30
Messages: 563
Offline

Bạn vncybernet nói đúng đó. Đó là ước chừng theo kinh nghiệm. Nó cũng do test thử nữa. Chức năng developer tool của trình duyệt Chrome hoặc Firefox, trong tab Network sẽ phân tích thời gian xử lý xong request khi bạn truy cập 1 URL, bao nhiêu cho network, bao nhiêu chờ web server.

[Question] Cách tính mức chịu tải của server	28/06/2014 08:20:04 (+0700) \| #6 \| 280902

quangteospk
Member

Joined: 20/10/2009 04:05:30
Messages: 123
Offline

Mình thấy có gì đó không đúng ở cách tính chịu tải dựa trên bandwidth thì phải.

Ví dụng mình dùng pingdom-tool để đo thử trang vnexpress, page size vào home-page là 3.9MB.

Giải dụ vnexpress thuê bw là 1Gbps (khá cao), tương đương 128 Megabyte/s vậy tính ra với băng thông đó, chưa tính mức độ chịu tải về hardware thì chỉ với xấp xỉ 33 req là hết băng thông. Không biết có gì sai ở đây không nhỉ?

Jazz

[Question] Cách tính mức chịu tải của server	01/07/2014 15:37:28 (+0700) \| #7 \| 280917

tmlinhkct
Member

Joined: 06/06/2012 02:55:48
Messages: 11
Offline

quangteospk wrote:

Mình thấy có gì đó không đúng ở cách tính chịu tải dựa trên bandwidth thì phải.

Ví dụng mình dùng pingdom-tool để đo thử trang vnexpress, page size vào home-page là 3.9MB.

Giải dụ vnexpress thuê bw là 1Gbps (khá cao), tương đương 128 Megabyte/s vậy tính ra với băng thông đó, chưa tính mức độ chịu tải về hardware thì chỉ với xấp xỉ 33 req là hết băng thông. Không biết có gì sai ở đây không nhỉ?

Đó là tính theo lượt người dùng mới. Tức là user mới vô vnexpress lần đầu sẽ phải load toàn bộ site về. Còn từ lần 2 trở đi, do site đã cache trên máy user rồi nên load lại site sẽ chiếm ít băng thông hơn.

[Question] Cách tính mức chịu tải của server	09/07/2014 15:06:24 (+0700) \| #8 \| 280970

vncybernet
Member

Joined: 24/01/2005 02:15:17
Messages: 28
Location: 1011
Offline

quangteospk wrote:

Mình thấy có gì đó không đúng ở cách tính chịu tải dựa trên bandwidth thì phải.

Ví dụng mình dùng pingdom-tool để đo thử trang vnexpress, page size vào home-page là 3.9MB.

Giải dụ vnexpress thuê bw là 1Gbps (khá cao), tương đương 128 Megabyte/s vậy tính ra với băng thông đó, chưa tính mức độ chịu tải về hardware thì chỉ với xấp xỉ 33 req là hết băng thông. Không biết có gì sai ở đây không nhỉ?

Không hề sai đâu bạn, việc đáp ứng được nhiều req/s hơn với băng thông cụ thể nào đó nó lại chuyển qua phân mục tối ưu hoá, cache ... rồi bạn.

Go to:

Users currently in here
1 Anonymous