Công cụ và giao thức mới được Facebook hợp tác phát triển cùng với các chuyên gia an toàn và tổ chức vận động, trong đó có Mạng lưới chấm dứt bạo lực quốc gia, Trung tâm nghiên cứu xã hội, tổ chức chống trả thù khiêu dâm (Anh) và Sáng kiến quyền công dân mạng.

Có nhiều bước để xử lý trả thù tình bằng “ảnh nóng” theo quy tắc của Facebook. Người dùng được khuyến khích báo cáo ảnh có mặt họ và người khác bị đăng mà không có sự cho phép. Facebook cũng làm một hướng dẫn để giúp mọi người làm quen với quy trình tại đây.

Sau khi một bức ảnh được báo cáo, các đại diện đã được đào tạo từ trung tâm cộng đồng Facebook sẽ đánh giá và gỡ bỏ nếu vi phạm tiêu chuẩn cộng đồng của nền tảng. Chính sách chống trả thù tình mới của Facebook không phụ thuộc vào công cụ nhận diện ảnh trí tuệ nhân tạo mà chuyển trách nhiệm đánh giá cho con người. Theo Giám đốc An toàn toàn cầu Antigone Davis, sự thận trọng là điều cần thiết cho vấn đề nhạy cảm như thế này.

Tài khoản của người đăng ảnh không phép đã bị xóa sẽ bị vô hiệu hóa “trong phần lớn trường hợp”, song họ có thể kháng nghị lên Facebook. Ngoài ra, sau khi ảnh bị đánh dấu và xóa, công nghệ khớp ảnh sẽ ngăn chúng không được đăng lên lần nữa. Nếu ai đó cố tình chia sẻ bức ảnh đó, họ sẽ bị cấm chia sẻ và cảnh báo vi phạm chính sách cộng đồng.

Trả thù tình không phải vấn đề duy nhất Facebook đang muốn ngăn chặn. Tháng trước, mạng xã hội cũng mở rộng và củng cố công cụ ngăn chặn tự tử, sử dụng trí tuệ nhân tạo để xác định người dùng nào có thể gây hại cho bản thân.

Nguồn ICTNews