xAI Hạn chế Grok AI trong bối cảnh châu Âu siết chặt giám sát deepfake

xAI Hạn chế Tính năng Tạo ảnh của Grok Dưới Áp lực Quy định

xAI của Elon Musk đã hạn chế các chức năng chỉnh sửa hình ảnh của chatbot Grok sau phản ứng dữ dội từ các cơ quan quản lý châu Âu. Hành động này được thực hiện sau khi công cụ AI này bị phát hiện tạo ra hàng nghìn hình ảnh deepfake mang tính tình dục hóa của phụ nữ và trẻ vị thành niên, điều này đã thúc đẩy các cuộc điều tra chính thức của các cơ quan chức năng như Ofcom của Vương quốc Anh.

Tổng quan Tình hình

Cuộc tranh cãi này nhấn mạnh thách thức trong việc kiểm soát AI tạo sinh. Các cơ quan quản lý ở Vương quốc Anh và EU, viện dẫn Đạo luật An toàn Trực tuyến và Đạo luật Dịch vụ Kỹ thuật số tương ứng, đã dán nhãn các hình ảnh này là bất hợp pháp. Để đáp lại, xAI thông báo đã chặn người dùng tạo hình ảnh người mặc trang phục hở hang tại các khu vực pháp lý nơi nội dung đó là bất hợp pháp, mặc dù các cuộc điều tra của cơ quan quản lý vẫn đang tiếp diễn.

Ý nghĩa Pháp lý và Quy định

Sự cố này làm nổi bật những rủi ro pháp lý và tuân thủ nghiêm trọng đối với các nhà phát triển AI. Theo các quy định như Đạo luật An toàn Trực tuyến của Vương quốc Anh, các nền tảng có thể phải đối mặt với khoản tiền phạt lên tới 10% doanh thu toàn cầu nếu không ngăn chặn và nhanh chóng xóa bỏ nội dung bất hợp pháp. Trách nhiệm pháp lý đối với các deepfake do AI tạo ra vẫn là một vấn đề phức tạp đối với cả nền tảng và người dùng.

Tóm tắt

Mặc dù động thái của xAI là một phản ứng đáng chú ý, các cơ quan quản lý đã báo hiệu rằng cuộc chiến chống lại nội dung do AI tạo ra có hại vẫn còn lâu mới kết thúc. Các quan chức tiếp tục kêu gọi thực thi mạnh mẽ hơn và đã bày tỏ sẵn sàng tăng cường các luật hiện hành để giải quyết sự gia tăng của deepfake.

Câu hỏi thường gặp

Hỏi: Tại sao xAI lại áp đặt các hạn chế đối với chatbot Grok của mình?
Đ: Công ty đã hành động do áp lực quy định từ Vương quốc Anh và EU sau khi chatbot được sử dụng để tạo ra các hình ảnh deepfake rõ ràng và không có sự đồng thuận.

Hỏi: Các nền tảng không kiểm soát được nội dung như vậy có thể phải chịu những hình phạt nào?
Đ: Theo Đạo luật An toàn Trực tuyến của Vương quốc Anh, việc không tuân thủ nghiêm trọng có thể dẫn đến khoản tiền phạt lên tới 10% doanh thu toàn cầu của công ty.

Nguồn: Reuters qua Investing.com