IOPS, Latency là gì? Thông tin về IOPS và Latency

I. Giới Thiệu Tổng Quan Về IOPS

  1. IOPS là gì?Định nghĩa IOPS?

    IOPS (viết tắt của Input/Output per Second) là đơn vị đo lường cho biết số lượng tác vụ Write hoặc Read được hoàn thành trong 1 giây.

    Hay hiểu một cách đơn giản như thế này: IOPS là số thao tác đọc ghi của ổ cứng trong một giây.

    Ví dụ: 2k được 25000 IOPS nghĩa là tốc độ đọc/ghi = 25000*2k=50000K/s ~ 50MB/s

    Tham số này cho thấy: Ổ cứng SSD này coppy được 50 MB/s các file có kít thước nhỏ như 2k trong thời gian là một giây.

    IOPS thường được người ta sử dụng cho ổ cứng HDD, SSD hoặc SAN. Một ổ SAS bình thường (một dạng của HDD) 15.000rpm trung bình khoảng 200 IOPS trong khi ổ SSD có thể đạt được từ vài nghìn IOPS cho tới vài triệu IOPS (Sở dĩ được như vậy là nhờ vào cấu trúc chip nhớ truy cập ngẫu nhiên của ổ SSD).

    Tham số IOPS được các nhà sản xuất thiết bị chia sẽ công khai và không liên quan gì đến các ứng dụng đo lường đến  hiệu năng của ổ cứng cả. Một số các ứng dụng đo lường phổ biến hiện nay như: IOmeter, DiskSpd…

    Tùy vào từng tính chất riêng mà các System Admin sẽ chọn một ổ cứng phù hợp với công việc của mình.

     

2.  Vai trò     của IOPS đối với Cloud Server:

 

  • Tham số của IOPS có tỉ lệ thuân với tốc độ xử lý:

    Nếu tham số IOPS cao thì tốc độ xử lý sẽ càng nhanh, dẫn đến số tác vụ được xử lý sẽ được đẩy lên nhanh hơn. Vì vậy, hiệu năng của ứng dụng trên Cloud Server sẽ cao lên theo.

    Nhưng  nếu IOPS quá cao, đạt đến mức giới hạn vật lý, tình trạng thắt cổ chai sẽ xảy ra. Bạn có thể hiểu như thế này: Khi IOPS quá cao thì Latency cao theo và sẽ giảm throughput.

    Mặt khác đối với IOPS, thông tin quan trọng nhất mà bạn cần chú ý đến là tỉ lệ đọc và ghi (tỉ lệ này thông thường là 70% (đọc) và 30 (ghi) – tỉ lệ này có thể tùy chỉnh được).

  • Định vị thứ hạng website trên thị trường:

    Google đã từng tuyên bố rằng: Tốc độ tải trang là một yếu tố vô cùng quan trọng quyết định đến thứ hạng của website, do đó các trang web có tốc độ nhanh hơn sẽ có thứ hạng tốt hơn.

  • Số lượng ổ cứng & Cách tính IOPS

    Công thức:

  • Tổng IOPS = IOPS per Disk * Số ổ cứng
  • IOPS thực = (Tổng IOPS * Write%)/(Raid Penalty) + (Tổng IOPS * Read %)
  • (Write IOPS*Raid Penalty)) + ((Read IOPS)/ IOPS per Disk -> Số Lượng ổ cứng.

    Bảng thông số:

RAID LevelCapacityIOPS
RAID 55,626 GB821
RAID 64,822 GB624
RAID 103,215 GB1200

    Ví dụ: Hệ thống lưu trữ của bạn sử dụng ổ SAS 15k. Dung lượng mỗi ổ là 900Gb.

    Tỉ lệ đọc/ghi tương ứng: 7:3. Cấu hình RAID 10. IOPS per Disk là 176
*Yêu cầu: IOPS phải thực trên 1000
Khi đó, hệ thống của bạn chỉ cần 8 ổ cứng là đủ.  1200 là Số IOPS của hệ thống lúc này

II.  Latency là gì?

       Latency là khái niệm về tốc độ xử lý 1 request I/O của hệ thống. Khái niệm này rất quan trọng bởi vì 1 hệ thống lưu trữ mặc dù chỉ có capacity 1000 IOPS với thời gian trung bình xử lý latency 10ms, vẫn có thể tốt hơn 1 hệ thống với 5000 IOPS nhưng latency là 50ms. Đặc biệt đối với các ứng dụng “nhạy cảm” với latency, chẳng hạn như dịch vụ Database.

III. Nguyên lý hoạt động Latency

    Hiểu một cách đơn giản là: độ trễ của tốc độ mạng ở đây là thể hiện cho sự chậm trễ thường phát sinh trong xữ lý dữ liệu của mạng máy tính.

    Trong HDD vật lý truyền thống, latency bao gồm cả seek time (thời gian để đầu đọc tìm ra vị trí data) và rotational latency (độ trễ chuyển động quay của trục). Với throughput đều có thể đáp ứng nhu cầu, thông số latency sẽ quyết định hiệu năng của volume vì nó quyết định thời gian trễ khi bắt đầu thực hiện thao tác.

    Lấy 1 ví dụ thực tế, trong 1 siêu thị, nếu như các thu ngân (ổ cứng) phục vụ cho các khách hàng (I/O) với thời gian latency là 10ms. Vậy nôm na, có thể hiểu rằng thu ngân này phục vụ 100 khách/1 giây. Tuy nhiên, nếu có thời điểm 100 khách này tới cùng 1 lúc trong vòng 10ms thì sao? khách hàng sẽ phải đứng đợi. Và cũng tuỳ từng nhu cầu khách hàng (size I/O) mà latency có thể khác nhau, 15ms hoặc thậm chí 20 ms./

    Hình minh hoạ sau sẽ cho các bạn thấy tại sao khi ổ cứng tăng IOPS lại tốn latecy cao hơn. Sự thật là hệ thống lưu trữ sẽ nhìn vào hàng đợi (queu) và ra lệnh xử lý tuần tự cho các I/O, dẫn đến nếu hàng đợi dài hơn thì latency sẽ cao hơn, tùy thuộc vào hiệu năng yêu cầu của ứng dụng mà chúng ta có thể chấp nhận chuyện này hay không.

IV. Latency được tính như thế nào?

       Latency được tính bằng đơn vị đo là ms.

Công cụ tính Latency: Kiểm tra Ping và Traceroute là 02 cách kiểm tra phổ biến nhất trong số các công cụ để kiểm tra độ trễ của mạng hiện nay.

        Cách kiểm tra:  xác định thời gian cần để 01 gói dữ liệu mạng đi tới đích và trở về điểm xuất phát ban đầu.

V. IOPS vs Latency: Yếu tố nào quyết định hiệu năng hệ thống Storage?

    Để so sánh được hiệu quả hệ thống storage, các yếu tố về môi trường platform và ứng dụng cần phải giống nhau – điều này rất khó, vì hệ thống của doanh nghiệp cần phải chạy multi-workload. Trong một vài trường hợp, việc xử lý/transfer 1 lượng lớn data (high throughput) thì được xem là tốt, nhưng khi cần xử lý số lượng lớn các I/O nhỏ thật nhanh (cần IOPS), thì chưa chắc và ngược lại. Lúc này kích cỡ I/O, độ dài của hàng đợi (queu depth) và mức độ xử lý song song… đều có ảnh hưởng đến hiệu năng.

    IOPS – Có lẽ hệ thống sử dụng các ổ cứng HDD hay SSD hiện nay thì đã quá cao rồi, khi đứng riêng lẻ 1 mình, con số này trở nên vô ích. Và vô hình chung nó trở thành 1 thuật ngữ để các nhà sản xuất marketing cho thiết bị của mình, các doanh nghiệp không nên vin vào đó làm thước đo quyết định hiệu năng hệ thống Storage.

    Hệ thống với bao nhiêu IOPS là được? thay vì bạn hỏi như v, chúng ta nên hỏi rằng: “Thời gian xử lý ứng dụng là bao nhiêu? Latency nên được xem là thông số hữu ích nhất, vì nó tác động trực tiếp lên hiệu năng của hệ thống, là yếu tố chính nên dựa vào tính toán ra IOPSthroughput. Nghĩa là việc giảm thiểu latency sẽ giúp cải thiện chung hiệu năng của cả hệ thống.

Nguồn: Thế Giới Số (www.tgs.com.vn)


SHARE THIS

Author:

Chào mừng các bạn đến với Blog của Tin Học IT. Thông qua Blog này mình muốn chia sẻ tất cả những gì mà mình biết hoặc đã được trải nghiệm... Mình rất mong được sự ủng hộ nhiệt tình của các bạn bằng cách comment bài viết, chia sẻ bài viết hoặc liên hệ với mình qua blog này! Mình xin cảm ơn!