ImageNet Roulette phơi bày mặt tối của AI

    Chia sẻ
Nhiều ứng dụng liên quan đến AI giúp tạo ra tác động tích cực lên cuộc sống chúng ta. Nhưng ImageNet Roulette không thuộc dạng này, thay vào đó, hệ thống phơi bày mặt tối của AI.

Mô hình này hiện đang được trưng bày trong triển lãm Đào tạo con người của Trevor Paglen và Kate Crawford tại Bảo tàng Fondazione Prada ở Milan.

Theo mô tả của người tạo: “ImageNet Roulette ra đời với mục đích giúp chúng tôi nhìn thấy những cách mà con người được xếp vào hệ thống máy học. Mô hình sử dụng một mạng lưới thần kinh được đào tạo trên các danh mục “Con người” từ bộ dữ liệu ImageNet với hơn 2.500 thẻ dùng để phân loại hình ảnh của mọi người.”

Hệ thống sử dụng framework mã nguồn mở có tên Caffe deep learning được đào tạo trên những hình ảnh và thẻ thuộc nhóm “con người”. ImageNet Roulette trước tiên phát hiện các khuôn mặt trong những hình ảnh nhập vào. Nếu nhận diện ra, hình ảnh sẽ được gửi đến mô hình Caffe để phân loại. Còn không, hình gốc được trả lại vào thẻ ở góc bên trái.

Có rất nhiều doanh mục sau khi phân loại gây khó chịu như phân biệt chủng tộc và đôi khi không chính xác. Người tạo ra cho biết: “Chúng tôi muốn làm sáng tỏ những gì xảy ra khi các hệ thống kỹ thuật được đào tạo với những dữ liệu có vấn đề. Phân loại AI ít được hiển thị cho người dùng. ImageNet Roulette cung cấp một cái nhìn thoáng qua về quá trình đó – và để chỉ ra những cách mọi thứ có thể đi sai.”

Như hình, mạng lưới thần kinh mô tả hình ảnh mẫu của Leonardo Dicprio với những cụm từ như “đạo đức giả”, “người giả dối”, “người giả bộ”,…Tuy nhiên, điều xấu nhất là phần mô tả mà hệ thống cung cấp: “một người tự tin thể hiện ý kiến, và anh ta không giữ, che giấu cảm xúc hoặc động cơ thực sự của mình.”

Trên thực tế, ImageNet Roulette là ví dụ về những gì một mô hình AI không nên có và mức độ sẽ xấu hơn nếu sử dụng sai bộ dữ liệu để đào tạo.

Trần Kiên

BÌNH LUẬN

 Refresh

Văn phòng phía Bắc Tầng 8 - 164 Xã Đàn 2 - Đống Đa - Hà Nội
Điện thoại 0246.2939.936
Văn phòng phía Nam 180/50 Nguyễn Hữu Cảnh - Q. Bình Thạnh - TP.HCM
Điện thoại 0282.2508.555
Liên hệ nội dung toasoan@nghenhinvietnam.vn
Powered by ePi Technologies
DMCA.com Protection Status