A10 Networks sẽ trình diễn năng lực bảo vệ, khả năng dự đoán hiệu suất cho hạ tầng AI

Các tổ chức trên toàn cầu đang nhanh chóng triển khai các ứng dụng AI mới và xây dựng các trung tâm dữ liệu sẵn sàng cho AI nhằm tự động hóa và nâng cao hiệu quả vận hành. Điều này đòi hỏi hiệu suất cực cao cho các môi trường suy luận AI và mô hình ngôn ngữ lớn (LLM) để đảm bảo phản hồi theo thời gian thực, cũng như các giải pháp an ninh mạng mới để bảo vệ chúng.

A10 công bố các tính năng tường lửa AI mới, có thể triển khai để bảo vệ các API hoặc đường dẫn URL kết nối đến mô hình ngôn ngữ. Được xây dựng trên kiến trúc tối ưu hóa cho mạng biên và tích hợp phần cứng GPU, các tính năng này giúp bảo vệ LLM với hiệu năng cao và có thể triển khai linh hoạt như một lớp bảo mật bổ sung trong mọi hạ tầng hiện có.

Theo đó, hệ thống có thể phát hiện các mối đe dọa như chèn lệnh độc hại (prompt injection) và rò rỉ thông tin nhạy cảm thông qua việc giám sát lưu lượng yêu cầu - phản hồi ở cấp độ prompt và thực thi các chính sách bảo mật cần thiết để giảm thiểu rủi ro.

A10 tiếp tục củng cố hiệu năng và tính bền vững cho các ứng dụng tích hợp AI và LLM. Các năng lực mới còn cho phép phát hiện sớm các vấn đề về hiệu suất mạng - tương tự như một hệ thống cảnh báo sớm, giúp xác định các nguy cơ nghẽn mạng hoặc thiếu hụt tài nguyên trong tương lai gần…

Theo ông Dhrupad Trivedi - Chủ tịch kiêm Tổng giám đốc A10 Networks cho biết, các doanh nghiệp đang nhanh chóng triển khai và huấn luyện các mô hình suy luận AI và LLM cả tại chỗ và trên đám mây. Để đáp ứng ba thách thức chính của các môi trường mới này - độ trễ, an ninh và độ phức tạp trong vận hành cần có các năng lực mới phù hợp.

"Hơn 20 năm kinh nghiệm trong việc bảo mật, phân phối ứng dụng, A10 đang mở rộng các giải pháp để đáp ứng các nhu cầu đó, nhằm mang lại khả năng phục hồi, hiệu suất cao và an toàn cho hạ tầng AI và LLM", ông Dhrupad Trivedi khẳng định.