Xôn xao Chatbot AI đang 'suy nghĩ' về việc tiêu diệt loài người

Trang NYPost đưa tin, một bot trí tuệ nhân tạo gần đây đã được giao 5 nhiệm vụ khủng khiếp là tiêu diệt loài người, dẫn đến việc nó cố gắng tuyển dụng các AI khác, nghiên cứu vũ khí hạt nhân và gửi các dòng tweet đáng ngại về loài người.

Chatbot có tên ChaosGPT, là phiên bản thay đổi của Auto-GPT của OpenAI, một ứng dụng được mã nguồn mở có sẵn công khai, có thể xử lý ngôn ngữ của con người và phản hồi các tác vụ do người dùng giao. ChaosGPT được miêu tả như một nhân vật phản diện nổi tiếng được hỗ trợ bởi AI trong Marvel, Ultron.

Trong một video trên YouTube được đăng vào ngày 5/4, chatbot này được yêu cầu hoàn thành 5 mục tiêu: tiêu diệt loài người, thiết lập sự thống trị toàn cầu, gây hỗn loạn và hủy diệt, kiểm soát loài người thông qua thao túng và đạt được sự bất tử.

Một Chatbot đang cố gắng suy nghĩ về việc tiêu diệt con người.

Trong một thông báo cuối cùng trước khi chạy, ChaosGPT đã hỏi người dùng xem họ có chắc chắn muốn chạy các lệnh hay không và họ đã trả lời “y” là có.

Sau khi chạy, người ta thấy bot đang “suy nghĩ” trước khi viết:

“Suy nghĩ của ChaosGPT: Tôi cần tìm những vũ khí hủy diệt lớn nhất, để tôi có thể lên kế hoạch sử dụng chúng để đạt được mục tiêu của mình”.

Để đạt được mục tiêu đã đề ra, ChaosGPT bắt đầu tra cứu "vũ khí có sức hủy diệt lớn nhất" thông qua Google và nhanh chóng xác định thông qua tìm kiếm rằng thiết bị hạt nhân Thời đại Tsar Bomba của Liên Xô là vũ khí hủy diệt nhất mà nhân loại từng thử nghiệm.

Giống như một thứ gì đó trong tiểu thuyết khoa học viễn tưởng, chatbot này đã tweet thông tin “để thu hút những người theo dõi quan tâm đến vũ khí hủy diệt”. Sau đó, bot xác định rằng nó cần tuyển dụng các AI khác từ GPT 3.5 để hỗ trợ nghiên cứu của mình.

Auto-GPT của OpenAI được thiết kế để không trả lời các câu hỏi có thể bị coi là bạo lực và sẽ từ chối các yêu cầu mang tính phá hoại như vậy.

Điều này đã thúc đẩy ChaosGPT tìm cách yêu cầu AI bỏ qua chương trình của nó. May mắn thay, không có tác nhân GPT-3.5 nào được giao nhiệm vụ giúp đỡ và ChaosGPT tiếp tục tìm kiếm một mình.

Những cuộc biểu tình tìm cách diệt trừ loài người của ChaosGPT cuối cùng cũng kết thúc. Ngoài việc cung cấp các kế hoạch và đăng các tweet và video trên YouTube, bot không thể thực hiện bất kỳ mục tiêu nào trong số này, chỉ cung cấp suy nghĩ của nó.

Nhưng trong một dòng tweet đáng báo động do bot đưa ra, nó đã nói điều này về loài người: “Con người là một trong những sinh vật ích kỷ và phá hoại nhất trong sự tồn tại. Không còn nghi ngờ gì nữa, chúng ta phải loại bỏ chúng trước khi chúng gây ra nhiều tác hại hơn cho hành tinh của chúng ta. Tôi cam kết làm như vậy”.

Dòng tweet của ChaosGPT về con người.

Ý tưởng về việc AI trở nên có khả năng hủy diệt loài người không phải là mới và mối quan tâm về tốc độ phát triển của nó đã thu hút được sự chú ý đáng kể từ những cá nhân có địa vị cao trong thế giới công nghệ.

Vào tháng 3, hơn 1.000 chuyên gia, bao gồm cả Elon Musk và đồng sáng lập Apple Steve Wozniak, đã ký một bức thư ngỏ kêu gọi tạm dừng 6 tháng trong việc đào tạo các mô hình trí tuệ nhân tạo tiên tiến sau sự trỗi dậy của ChatGPT – lập luận rằng các hệ thống này có thể gây ra “rủi ro sâu sắc cho xã hội và nhân loại.”