Gỡ bỏ rào cản phần mềm trên GPU NVIDIA RTX 30 và 40 giúp tăng gấp đôi hiệu suất tính toán AI

Cộng đồng tối ưu phần cứng vừa ghi nhận bước tiến kỹ thuật quan trọng khi các giải pháp can thiệp phần mềm mới có thể gỡ bỏ rào cản tính toán trên các dòng card đồ họa NVIDIA GeForce RTX 30 và RTX 40 series. Phương pháp này cho phép khai thác triệt để năng lực tính toán ma trận của Nhân Tensor (Tensor Core), mang lại sự bứt phá về hiệu suất cho các tác vụ trí tuệ nhân tạo và mô hình ngôn ngữ lớn (LLM) ngay trên các hệ thống máy tính cá nhân.

Bản chất thiết kế silicon và rào cản firmware từ nhà sản xuất

Về mặt kỹ thuật, các dòng vi xử lý đồ họa thương mại thuộc thế hệ GeForce RTX 30 series và RTX 40 series của NVIDIA đều dùng chung khuôn đế silicon với các dòng GPU chuyên dụng dành cho máy trạm (workstation). Dù chia sẻ cấu trúc phần cứng tương đương, nhà sản xuất đã chủ động áp đặt giới hạn tốc độ phát lệnh tính toán thông qua tầng firmware nhằm phân định rõ ràng giữa các phân khúc thị trường.

Việc dỡ bỏ rào cản nhân tạo này cho phép các mẫu GPU phổ thông giải phóng toàn bộ tiềm năng tính toán, đạt được tốc độ vận hành xấp xỉ các thiết bị đồ họa chuyên nghiệp có giá thành đắt đỏ hơn gấp nhiều lần.

Tối ưu năng lực tính toán trên kiến trúc Ampere

Đối với thế hệ GeForce RTX 30 series dựa trên kiến trúc Ampere, giải pháp tinh chỉnh can thiệp trực tiếp vào quy trình xử lý, giúp tăng gấp đôi tốc độ phát lệnh của các phép tính FP/BF16 FMA sang định dạng FP32. Cải tiến kỹ thuật này có thể triển khai thành công trên nhiều biến thể chip bao gồm GA102, GA103, GA104 và GA106.

Các kết quả đo kiểm thực tế cho thấy mẫu card đầu bảng GeForce RTX 3090 Ti đạt mức tăng trưởng ấn tượng, với tốc độ nhân ma trận trong định dạng BF16 tăng nhanh hơn tới 80%. Đây là định dạng dữ liệu có vai trò quyết định đối với hiệu năng huấn luyện cũng như vận hành các mạng thần kinh nhân tạo phức tạp.

Bứt phá băng thông Tensor Core trên kiến trúc Ada Lovelace

Bước nhảy vọt đáng chú ý tiếp theo được ghi nhận trên thế hệ GeForce RTX 40 series xây dựng trên kiến trúc Ada Lovelace, hỗ trợ các mã chip xử lý gồm AD102, AD103 và AD106. Khi áp dụng bản mod trên GeForce RTX 4090, năng lực xử lý ma trận nhận được cải thiện mang tính đột biến.

Cụ thể, hiệu suất tính toán Tensor ở các định dạng FP16 và BF16 đi kèm tích lũy FP32 trên mẫu RTX 4090 đã nhảy vọt từ mức 165.6 TeraFLOPS lên con số 331.6 TeraFLOPS. Sức mạnh này giúp thiết bị phổ thông tiếp cận rất gần với thông số của dòng card máy trạm cao cấp NVIDIA RTX 6000 Ada Lovelace.

Sự chênh lệch hiệu năng thể hiện rõ NVIDIA đã chủ động kìm hãm các phép nhân và tích lũy ma trận trên nhân AD102. Khi rào cản này bị phá bỏ, tốc độ phản hồi của các mô hình ngôn ngữ lớn trên máy cá nhân được tối ưu hóa rõ rệt trong cả hai chu trình nạp ngữ cảnh (prefill) và tạo văn bản (decode).

Cơ chế hoạt động ngầm và những rủi ro phần cứng cần lưu ý

Về cơ chế can thiệp, các phương pháp triển khai trên cả hai thế hệ Ampere và Ada Lovelace hoạt động bằng cách vượt qua các bài kiểm tra bảo mật của trình điều khiển NVIDIA, đồng thời ghi đè lên quy trình PCIe Function Level Reset (FLR). Nhờ đó, card đồ họa vẫn duy trì khả năng tương thích tuyệt đối với các bản driver chính thức và vượt qua các bài đo kiểm tiêu chuẩn CUDA mà không gặp xung đột phần mềm.

Đáng chú ý, mức tiêu thụ năng lượng của phần cứng không hề bị đẩy lên cao. Giới hạn công suất đồ họa tổng thể (TGP) ở mức 450 W trên các dòng card sử dụng chip GA102 và AD102 vẫn được duy trì ổn định trước và sau khi thực hiện can thiệp.

Tuy nhiên, giải pháp kỹ thuật này đòi hỏi người dùng phải kích hoạt ngay từ quá trình khởi động hệ thống để thiết lập liên kết trước khi nhân hệ điều hành tải trình điều khiển của hãng. Bên cạnh đó, việc chỉnh sửa trực tiếp vào tầng firmware gốc luôn đi kèm rủi ro mất quyền lợi bảo hành chính hãng từ nhà sản xuất nếu xảy ra sự cố kỹ thuật.