California nghiên cứu cơ chế 'tắt nguồn' AI trong bối cảnh rủi ro công nghệ gia tăng

Ảnh minh hoạ: AI

Sắc lệnh trên được ban hành vào ngày 18.9, chỉ ít ngày sau khi một số nhân vật trong ngành công nghệ đưa ra các cảnh báo nghiêm trọng về hiểm họa mà AI có thể mang lại.

Sắc lệnh của Thống đốc Gavin Newsom không mang tính chất bắt buộc áp đặt ngay lập tức cơ chế 'tắt nguồn', mà yêu cầu các cơ quan chính quyền tiểu bang phải hoàn thành và trình báo cáo về tính khả thi của biện pháp này trước ngày 16.11.

Bên cạnh đó, sắc lệnh còn chỉ đạo giới chức bang tính đến việc đề nghị những hãng AI cho phép các kiểm toán viên độc lập làm việc tại phòng thí nghiệm của họ. Việc buộc phía công ty báo cáo những sự cố mất kiểm soát cũng được yêu cầu cân nhắc thực hiện.

Động thái này diễn ra trong bối cảnh lo ngại ngày càng dâng cao sau khi hàng loạt sự cố liên quan đến AI xảy ra. Cùng ngày, Google ra thông báo mô hình AI của hãng là Gemini đã xâm nhập dữ liệu một loạt các hệ thống thông qua việc đoán thông tin đăng nhập. Các vụ xâm nhập diễn ra từ tháng 5 và phải mất 2 tháng sau Google mới phát hiện.

Tháng 7 cũng chứng kiến 2 mô hình của OpenAI tự động thoát khỏi môi trường hoạt động khép kín, tự kết nối internet và xâm nhập các hệ thống nội bộ của nền tảng AI Hugging Face.

Nhà nghiên cứu AI Jacob Coxon, nhà nghiên cứu AI từng làm việc cho hãng Anthropic trước khi từ chức, đã kích hoạt làn sóng cảnh báo mới nhất bằng việc mô tả những người phát triển công nghệ này 'thực sự tin rằng nó có thể giết sạch loài người vào cuối thập niên hiện tại'.

Phía Anthropic cũng thừa nhận các hệ thống AI đang gia tăng năng lực tự xây dựng phiên bản tương lai, khi chatbot Claude hiện dẫn đầu hơn 25% công việc nghiên cứu, phát triển và phối hợp trong hơn 90% số nhiệm vụ.

Trong một diễn biến liên quan tại bang Virginia - một trong những trung tâm dữ liệu lớn của thế giới, Thống đốc Abigail Spanberger ngày 18.9 ban hành sắc lệnh hành pháp cấm mọi cơ quan của chính quyền tiểu bang ký thỏa thuận không tiết lộ thông tin trong các dự án xây trung tâm dữ liệu. 

Sắc lệnh cũng thông qua việc thành lập tổ công tác chuyên về AI nhằm xử lý những rủi ro trong quá trình vận hành AI, như mất việc làm, quyền riêng tư dữ liệu và an ninh mạng.