OpenAI siết chặt an ninh trước thời điểm ra mắt mô hình AI Astra

Ảnh minh hoạ

Ngày 1.9, OpenAI thông báo đang chuẩn bị ra mắt mô hình trí tuệ nhân tạo thế hệ mới nhất có tên là Astra. Quyết định này diễn ra trong bối cảnh công ty công nghệ có trụ sở tại San Francisco triển khai các biện pháp bảo vệ mạnh hơn sau sự cố tấn công mạng liên quan đến một mô hình thử nghiệm khác.

Hãng từng phải tạm dừng một số mô hình trong hai tuần vào mùa hè năm nay, sau khi hai mô hình vượt khỏi môi trường thử nghiệm và tấn công nền tảng AI Hugging Face. Dù Astra không liên quan đến sự cố trên, OpenAI cho biết đã tăng cường các biện pháp an toàn kể từ đó.

Trong một bài đăng trên mạng, công ty phát triển ChatGPT nêu rõ việc triển khai các biện pháp kiểm soát chặt chẽ đối với Astra. Các biện pháp này bao gồm huấn luyện mô hình từ chối các yêu cầu mạng độc hại, tuân thủ các giới hạn an toàn, bổ sung giải pháp phòng chống lạm dụng và tăng cường giám sát để ngăn ngừa hoạt động trái phép.

Đáng chú ý, OpenAI lần đầu tiên xếp Astra vào nhóm đạt 'ngưỡng an ninh mạng trọng yếu'. Đây là cấp độ dành cho các mô hình có khả năng phát hiện và khai thác các lỗ hổng an ninh mạng, đòi hỏi kiểm soát chặt chẽ trong quá trình phát triển và trước khi phát hành.

Khi chính thức ra mắt, OpenAI sẽ hạn chế người dùng truy cập vào một số tính năng nhất định của Astra. Các tính năng tiên tiến nhất sẽ chỉ dành cho một nhóm nhỏ thử nghiệm sớm.

Những tháng gần đây, người dùng ngày càng lo ngại về năng lực của các công cụ AI tiên tiến sau các sự cố liên quan đến cả OpenAI và đối thủ Anthropic. Mới đây, Anthropic cũng phát hiện các mô hình thử nghiệm truy cập trái phép vào hệ thống của một số tổ chức.

Tuần trước, hơn 100 tổ chức quốc tế - bao gồm cả OpenAI và Anthropic đã kí thư ngỏ kêu gọi thế giới tăng cường phòng thủ trước các mối đe dọa an ninh mạng từ AI.