Tính năng livestream trên Facebook rất phổ biến
Vì vậy mạng xã hội này đang cho thử nghiệm sử dụng trí thông minh nhân tạo (AI) cho tính năng livestream trên Facebook để phát hiện những nội dung được cho là “không phù hợp” như khiêu dâm hay bạo lực.
AI – Phát hiện những nội dung “không phù hợp” của livestream trên Facebook
Trước đây, Facebook thường dựa vào báo cáo của người dùng và đánh giá của nhân viên để xác định một video livestream có vi phạm "Tiêu chuẩn cộng đồng" của hãng hay không, nhưng nó phải dựa vào ý kiến chủ quan và không thể xử lí hết được nếu số lượng báo cáo quá lớn.Tại một cuộc họp vừa được tổ chức tại trụ sở Facebook vừa qua, Joaquin Candela, giám đốc bộ phận ứng dụng máy học (machine learning) của hãng cho biết họ đang lên kế hoạch thử nghiệm AI để phát hiện các nội dung livestream vi phạm.
AI là công cụ giúp lọc những nội dung không phù hợp trên mạng xã hội
Trước đó, Facebook đã thử nghiệm một thuật toán tương tự vào tháng Sáu để phát hiện những video vi phạm trong các nhóm (group). Giờ đây, Facebook muốn áp dụng thuật toán này cho cả các video phát sóng trực tiếp để giúp loại bỏ triệt để hơn các nội dung bạo lực hoặc khỏa thân trên News Feed của người dùng. "Giao thức mới là một thuật toán cho phép tìm ra ảnh bạo lực, khỏa thân hay bất cứ thứ gì vi phạm điều khoản của chúng tôi", ông Candela cho biết.
Hãy giữ cho New Feeds luôn lành mạnh
Bên cạnh việc phát triển AI, Facebook cũng phải trả lời được câu hỏi đâu mới là những nội dung được xem là "không phù hợp". Vào tháng Chín, Facebook đã từng bị chỉ trích mạnh mẽ sau khi cho xóa bỏ bức ảnh "Em bé Napalm" có giá trị lịch sử chụp trong chiến tranh Việt Nam. Nguyên nhân dẫn tới việc này là do hệ thống kiểm duyệt hiện tại, tức là thông qua báo cáo của người dùng và đánh giá của nhân viên Facebook đã nhận định đó là một nội dung vi phạm theo ý kiến chủ quan.
Những nội dung trên Facebook phải được lọc và kiểm duyệt thật kỹ càng
Yann Lecun, giám đốc nghiên cứu AI của Facebook nhận thức được sự yếu kém của hệ thống kiểm duyệt hiện tại. Vì vậy, ông LeCun muốn tạo ra một hệ thống AI có thể đạt được sự cân bằng giữa việc chọn lọc và kiểm duyệt. Hiện tại, hệ thống AI của Facebook vẫn đang nằm trong quá trình thử nghiệm. AI chỉ được áp dụng chỉ khi độ tin cậy của nó được xác định trong việc kiểm duyệt các video Livestream trên Facebook.
