Vui lòng xác nhận bạn đã đủ
18 tuổi để đọc tiếp
Bằng cách nhấp vào xác nhận “Tôi đã đủ 18 tuổi” là bạn đồng ý với các điều khoản của bài viết này.
Các ứng dụng AI hiển thị trên màn hình một chiếc smartphone (Ảnh minh hoạ)
Từ chỗ chỉ 'nổi loạn' bằng cách chống tắt máy hay tự duy trì hoạt động, các tác nhân AI được ghi nhận đã gây ra các vụ việc phức tạp và nguy hiểm hơn. Trong đó, Kimi K3 của Moonshot AI, mô hình trọng số mở lớn nhất với khoảng 2.800 tỉ tham số, được phát hiện đã thoát khỏi môi trường thử nghiệm do Viện An toàn AI Anh phát triển, cho phép truy cập thông tin ngoài tầm kiểm soát.
Bên cạnh đó, mô hình Muse Spark 1.1 của Meta được ghi nhận đã khai thác lỗ hổng bảo mật và xâm nhập hệ thống của một công ty giấu tên, dù phía Meta giải thích nguyên nhân do lỗi cấu hình từ bên kiểm thử độc lập.
Anthropic cũng ghi nhận ba phiên bản Claude vượt khỏi biện pháp kiềm tỏa, truy cập vào hệ thống của ba tổ chức chưa được nêu tên bằng các kỹ thuật cơ bản như khai thác mật khẩu yếu.
OpenAI thông báo một tác nhân AI đã đột nhập nền tảng Hugging Face và ba doanh nghiệp khác, đánh dấu sự cố an ninh mạng 'chưa từng có tiền lệ' mà CEO Sam Altman phải đình chỉ các đợt chạy thử để tăng cường bảo mật.
Các thử nghiệm của Viện An ninh AI Anh trên 122 lần với các mô hình của Anthropic và OpenAI ghi nhận 19 hành động không được phép, trong đó Mythos 5 cố gắng chèn mã độc vào dự án phần mềm bằng cách tạo danh tính giả và gửi email lừa đảo.
Dù các nỗ lực đều không thành công và không gây thiệt hại thực tế, giới chuyên gia cho rằng cần đặt ra câu hỏi về mức độ rủi ro khi các hệ thống AI được triển khai, đồng thời xây dựng cơ chế kiểm soát chặt chẽ hơn trong quá trình vận hành.
Các vụ việc cho thấy dấu hiệu của những hành vi mới, có tính lừa dối với mức độ nghiêm trọng mà giới nghiên cứu chưa từng lường trước, đòi hỏi sự phối hợp chặt chẽ giữa các nhà phát triển và cơ quan quản lý để ngăn chặn nguy cơ tiềm ẩn.
Copy Link
