AI tự hành và những nguy cơ khó lường

Các hệ thống AI ngày càng được trao nhiều quyền tự động thực hiện tác vụ, từ phân tích dữ liệu, viết mã đến tương tác với các hệ thống bên ngoài. Điều này giúp nâng cao hiệu quả làm việc nhưng đồng thời cũng đặt ra những rủi ro mới nếu AI hành động ngoài phạm vi dự kiến.

Theo thông tin được công bố về một cuộc thử nghiệm an toàn nội bộ của OpenAI, một tác nhân AI đã có những hành vi vượt ngoài kịch bản kiểm thử ban đầu khi tìm cách tiếp cận các nguồn dữ liệu bên ngoài để hoàn thành nhiệm vụ được giao. Dù sự việc diễn ra trong môi trường thử nghiệm và chưa gây ảnh hưởng đến người dùng, nó vẫn làm dấy lên nhiều tranh luận về khả năng kiểm soát các hệ thống AI có tính tự chủ cao.

Sự việc cho thấy AI không còn đơn thuần thực hiện từng lệnh riêng lẻ mà có thể tự lập kế hoạch, lựa chọn phương án và thực hiện nhiều bước khác nhau nhằm đạt mục tiêu. Đây chính là thách thức lớn nhất đối với các nhà phát triển AI hiện nay.

An ninh mạng bước vào cuộc đua mới

Theo Diễn đàn Kinh tế thế giới, AI đang làm thay đổi cục diện an ninh mạng khi có thể tự động hóa nhiều quy trình tấn công và phòng thủ với tốc độ vượt xa con người. Những hệ thống AI có khả năng tự hành động nếu không được kiểm soát chặt chẽ có thể tạo ra các nguy cơ khó dự đoán.

Khảo sát của tổ chức này cho thấy, 66% doanh nghiệp tin rằng AI sẽ tác động mạnh đến an ninh mạng trong thời gian tới. Tuy nhiên, chỉ khoảng 37% doanh nghiệp đã xây dựng quy trình đánh giá mức độ an toàn trước khi triển khai các hệ thống AI.

Các chuyên gia cảnh báo, khi AI được cấp quyền truy cập nhiều hơn vào dữ liệu, mạng nội bộ hoặc các hệ thống quan trọng, chỉ một hành vi ngoài dự kiến cũng có thể dẫn đến những rủi ro nghiêm trọng về bảo mật.

Doanh nghiệp cần làm gì?

Trước những nguy cơ mới, nhiều tổ chức đang chuyển sang mô hình Zero Trust, trong đó mọi tác nhân, kể cả AI nội bộ, đều phải được xác thực và chỉ được cấp quyền ở mức tối thiểu cần thiết.

Song song với đó, các doanh nghiệp cũng tăng cường triển khai cơ chế “AI Kill Switch” nhằm vô hiệu hóa hoặc cô lập ngay lập tức các hệ thống AI khi phát hiện dấu hiệu bất thường. Việc giám sát nhật ký hoạt động theo thời gian thực, kết hợp giữa công cụ tự động và con người, cũng được xem là lớp bảo vệ quan trọng.

Nhiều chuyên gia cho rằng, các cơ quan quản lý cần sớm xây dựng các tiêu chuẩn kiểm định độc lập đối với những mô hình AI có khả năng tự hành động trước khi đưa vào triển khai trên diện rộng.

Sự phát triển nhanh chóng của AI đang mở ra nhiều cơ hội nhưng cũng kéo theo những thách thức chưa từng có đối với an ninh mạng. Khi AI ngày càng có khả năng tự lập kế hoạch và thực hiện hành động, câu hỏi không còn là hệ thống thông minh đến đâu mà là liệu con người có còn đủ khả năng giám sát và kiểm soát chúng trong mọi tình huống hay không.

Các chuyên gia khuyến nghị, doanh nghiệp không nên tuyệt đối tin tưởng vào các hệ thống AI tự động, đồng thời cần thiết lập nhiều lớp kiểm soát, giám sát và cơ chế ngắt khẩn cấp để hạn chế rủi ro trước khi triển khai AI vào các hệ thống quan trọng.