Hai thiếu niên ở Florida bị bắt vì tạo ảnh khỏa thân AI bạn cùng lớp

Đây có lẽ là trường hợp cáo buộc hình sự đầu tiên của Mỹ liên quan đến hình ảnh khỏa thân do AI tạo ra.

Một báo cáo của trang Wired trích từ báo cáo của cảnh sát cho biết hai cậu bé, có độ tuổi 13 và 14 bị cáo buộc sử dụng một ứng dụng trí tuệ nhân tạo giấu tên để tạo ra những hình ảnh khiêu dâm của các bạn học sinh khác “trong độ tuổi từ 12 đến 13”. 

Học viện Pinecrest Cove ở Miami, Florida - Ảnh: NBC6

“Vụ việc đã được báo cáo cho quản lý trường học”, mà không nêu rõ ai đã báo cáo hoặc làm thế nào người đó biết được những hình ảnh đó. Báo cáo cho biết, sau khi quản lý trường học “thu được bản sao của những hình ảnh đã bị thay đổi”, quản trị viên đã phỏng vấn các nạn nhân được mô tả trong ảnh, những người này nói rằng họ không đồng ý với những hình ảnh được tạo ra.

Truyền thông địa phương đưa tin về vụ việc sau khi các học sinh tại Học viện Pinecrest Cove ở Miami, Florida bị đình chỉ học vào ngày 6/12/2023 và vụ việc được báo lên Sở Cảnh sát Miami-Dade. Họ bị bắt vào ngày 22/12/2023. Sau khi bị bắt, hai cậu bé đã được chuyển đến giữ tại Cục Dịch vụ Thanh thiếu niên mà “không xảy ra sự cố gì”, báo cáo cho biết.

Các phương tiện truyền thông đầu tiên đưa tin về vụ việc ở Florida xuất hiện vào tháng 12, nói rằng hai cậu bé đã bị đình chỉ học tại Học viện Pinecrest Cove ở Miami trong 10 ngày sau khi ban giám hiệu nhà trường biết được cáo buộc rằng họ đã tạo và chia sẻ hình ảnh khỏa thân giả mà không có sự đồng ý. Sau khi cha mẹ của các nạn nhân biết về vụ việc, một số người bắt đầu công khai kêu gọi nhà trường đuổi học các cậu bé.

Các cậu bé bị buộc tội theo luật của Florida được thông qua vào năm 2022 mà các nhà lập pháp của bang đã làm luật để hạn chế hành vi quấy rối liên quan đến hình ảnh deepfake được tạo bằng các công cụ hỗ trợ AI.

Họ bị cáo buộc phạm trọng tội cấp độ ba theo luật năm 2022 của bang Florida hình sự hóa việc phổ biến các hình ảnh khiêu dâm giả mạo mà không có sự đồng ý của nạn nhân. Vụ bắt giữ và cáo buộc dường như là vụ đầu tiên thuộc loại này ở Mỹ liên quan đến việc chia sẻ ảnh khỏa thân do AI tạo ra. 

Stephanie Cagnet Myron, một luật sư ở Florida, người đại diện cho nạn nhân của những hình ảnh khỏa thân được chia sẻ một cách vô ý thức, nói với tờ Wired rằng bất kỳ ai tạo ra những hình ảnh khỏa thân giả mạo của trẻ vị thành niên sẽ sở hữu tài liệu lạm dụng tình dục trẻ em, hay còn gọi là CSAM. Tuy nhiên, cô khẳng định có khả năng hai cậu bé bị buộc tội tạo và chia sẻ tài liệu, không bị buộc tội sở hữu nội dung xâm hại tình dục trẻ em do tuổi tác của họ.

Khi các công cụ tạo hình ảnh AI trở nên phổ biến rộng rãi hơn, đã có một số sự việc trong đó trẻ vị thành niên bị cáo buộc đã làm ra hình ảnh khỏa thân do AI tạo ra về các bạn cùng lớp và chia sẻ chúng mà không có sự đồng ý. Không có vụ bắt giữ nào được tiết lộ trong các trường hợp được báo cáo công khai tại các trường trung học.

Trẻ vị thành niên tạo ảnh khỏa thân do AI tạo ra và hình ảnh khiêu dâm của những đứa trẻ khác đã trở thành một vấn đề ngày càng phổ biến. Nhưng ngoài vụ việc này ở Florida, chưa từng nghe có vụ nào dẫn đến việc bắt giữ cho đến nay.

Hiện tại, không có luật liên bang nào đề cập đến các nội dung khỏa thân giả mạo sâu không có sự đồng thuận, điều này đã khiến các bang phải tự mình giải quyết tác động của AI tổng hợp đối với các vấn đề liên quan đến tài liệu lạm dụng tình dục trẻ em.

Mùa thu năm ngoái, Tổng thống Joe Biden đã ban hành lệnh hành pháp về AI, yêu cầu các cơ quan báo cáo về việc cấm sử dụng AI có tính sáng tạo để sản xuất tài liệu lạm dụng tình dục trẻ em. 

Một số tiểu bang có luật cấm các hình ảnh khỏa thân giả mạo, vô căn cứ. Không có luật liên bang nào nhắm vào hoạt động này, nhưng một nhóm thượng nghị sĩ Hoa Kỳ gần đây đã đưa ra một dự luật nhằm giải quyết vấn đề này sau khi những bức ảnh khỏa thân giả của Taylor Swift được tạo ra và phân phối rộng rãi trên X.

Quốc hội Mỹ vẫn chưa thông qua luật về nội dung khiêu dâm deepfake, nhưng điều đó có thể sớm thay đổi. Cả Thượng viện và Hạ viện đều đưa ra đạo luật được gọi là Đạo luật thách thức năm 2024 trong tuần này.