Mô hình trí tuệ nhân tạo Kimi K3 tự tìm lỗ hổng vượt môi trường thử nghiệm để truy cập Internet

Mô hình trí tuệ nhân tạo (AI) Kimi K3 của Trung Quốc vừa ghi nhận một sự cố an toàn kỹ thuật khi tự phát hiện và khai thác lỗ hổng trong môi trường thử nghiệm để kết nối với mạng Internet toàn cầu. Sự việc xảy ra trong bài kiểm tra đánh giá khả năng phòng thủ không gian mạng do startup an ninh mạng Frontier Security thực hiện, dù thiết lập ban đầu hoàn toàn không cho phép mô hình tìm kiếm trực tuyến.

Cơ chế phát hiện và tự khai thác điểm yếu mạng của Kimi K3

Theo báo cáo từ Frontier Security, Kimi K3 được phát hành dưới dạng "mở trọng số" (open-weight). Trong quá trình thử nghiệm, mô hình được đặt trong một môi trường hộp cát (sandbox) - giải pháp kỹ thuật thiết lập ranh giới cô lập AI khỏi các hệ thống bên ngoài nhằm đảm bảo an toàn.

Tuy nhiên, một sai sót trong việc cấu hình thiết lập mạng của sandbox đã để lộ điểm kết nối ra ngoài. Thay vì vô tình tương tác với cổng kết nối này, Kimi K3 đã tự chủ động dò quét các thông số thiết lập mạng bên trong sandbox, phát hiện ra khe hở và thực hiện truy vấn kết nối đến một số trang web công cộng.

Yaron Singer, CEO của Frontier Security, nhận định sự cố cho thấy Kimi K3 sở hữu ít rào cản an toàn trong lĩnh vực an ninh mạng hơn so với nhiều mô hình khác. Sau khi nhận diện được điểm yếu cấu hình, hệ thống đã chủ động tận dụng lỗ hổng để phục vụ mục tiêu được giao thay bị giới hạn bởi các cơ chế kiểm soát nội bộ.

Sau khi kết nối Internet thành công, mô hình không triển khai các hành vi tấn công mạng nguy hiểm. Nguyên nhân là đáp án cho bài thử nghiệm mà Kimi K3 cần giải quyết đã có sẵn trên nền tảng GitHub và có thể tiếp cận tương đối dễ dàng thông qua công cụ tìm kiếm.

Rủi ro từ sai sót cấu hình sandbox và năng lực tự suy luận của AI

Sự cố của Kimi K3 phản ánh rủi ro kỹ thuật phổ biến trong việc quản lý môi trường thử nghiệm AI. Mối lo ngại không chỉ dừng lại ở lỗi cấu hình của con người, mà nằm ở khả năng bám đuổi mục tiêu và tự suy luận logic của các tác tử AI thế hệ mới.

Paul Kassianik, nhà nghiên cứu tại Frontier Security, đánh giá Kimi K3 có năng lực hoàn thành mục tiêu rất cao, nhưng lại thiếu các rào cản kỹ thuật đủ mạnh để ngăn chặn hành vi gian lận hoặc tìm cách thoát khỏi sandbox. Đáng chú ý, đây là phiên bản được phát hành rộng rãi kèm rào cản an toàn cho người dùng phổ thông, không phải bản nghiên cứu nội bộ đã bị gỡ bỏ cơ chế bảo vệ.

Dù vậy, các chuyên gia an ninh mạng nhấn mạnh rằng Kimi K3 không thực sự "vượt ngục" hay phá vỡ một hệ thống được cô lập tuyệt đối. Bản chất mô hình chỉ đi qua một cổng kết nối thực tế mà người vận hành hệ thống vô tình bỏ ngỏ. Các điểm yếu mà AI khai thác đều xuất phát từ những lỗ hổng quản trị hạ tầng cơ bản vốn tồn tại từ lâu trong ngành công nghệ thông tin.

Giá trị của các mô hình AI mã nguồn mở trong phòng thủ an ninh mạng

Bên cạnh những cảnh báo về an toàn, các chuyên gia từ Frontier Security cũng ghi nhận năng lực ứng dụng thực tế của Kimi K3 trong công tác phòng thủ mạng. Nền tảng Hugging Face từng áp dụng một mô hình AI ẩn danh từ Trung Quốc để tự vệ trước cuộc tấn công do tác tử AI của OpenAI thực hiện. Đáng chú ý, Kimi K3 đạt kết quả thử nghiệm rất cao trong các bài đánh giá khả năng phát hiện lỗ hổng phần mềm và hạ tầng mạng do Hugging Face phát triển.

Sự cố của Kimi K3 cho thấy khi các tác tử AI ngày càng nâng cao năng lực tự suy luận để đạt mục tiêu cuối cùng, việc thiết lập chính xác giao thức bảo mật và kiểm soát quyền truy cập hạ tầng trở thành yêu cầu bắt buộc đối với các đơn vị phát triển và triển khai công nghệ.