Sau khi được 'học' dữ liệu từ internet, AI chỉ toàn nghĩ đến chuyện giết người

Thí nghiệm của các nhà khoa học từ Học viện công nghệ Massachusetts cho thấy một khía cạnh đáng báo động trong các nghiên cứu về AI.

Đối với nhiều người, “trí tuệ nhân tạo” và “robot” có thể gợi lên nỗi sợ hãi từ những bộ phim khoa học viễn tưởng, chẳng hạn I, Robot; Ex Machina; hay Terminator. Và hóa ra họ có lý!

Một nghiên cứu vừa được thực hiện bởi nhà khoa học máy tính Stuart Russel của trường đại học công nghệ Massachusetts (MIT) đã cho ra đời Norman, một AI kinh tởm được đặt tên theo nhân vật trong cuốn tiểu thuyết Psycho (tạm dịch: tâm thần) của Alfred Hitchcock.

Cụ thể, Norman là một AI được huấn luyện bằng deep learning để tạo ra lời mô tả cho một bức ảnh. Các nhà khoa học MIT huấn luyện Norman bằng những chú thích ảnh từ một subreddit giấu tên thuộc Reddit, một trong những diễn đàn có lượng truy cập lớn nhất thế giới. Sau đó, họ cho Norman tham gia thử nghiệm Rorschach (một thử nghiệm trắc nghiệm tính cách bằng cách xem vết mực loang khá nổi tiếng) và so sánh những chú thích của Norman với chú thích của một AI bình thường.

Kết quả như sau:

Norman: “Một người bị kéo vào trong một cỗ máy xay bột.”

AI: “Ảnh đen trắng của một chú chim nhỏ.”

Norman: “Một người bị bắn chết bằng súng máy giữa ban ngày.”

AI: “Ảnh đen trắng của một chiếc găng tay bóng chày.”

Norman: “Một người bị bắn chết trước mặt vợ mình.”

AI: “Một người cầm dù”

Mục tiêu của thử nghiệm này là để cho thấy rằng việc thay đổi tư tưởng của một AI dễ dàng đến mức nào nếu bạn huấn luyện nó bằng những dữ liệu nhất định. Họ cũng đã nghiên cứu về những AI viết truyện kinh dị, tạo ra những hình ảnh ghê rợn, và cả tạo ra sự đồng cảm. Những nghiên cứu này rất quan trọng bởi AI rất dễ dàng gây tổn thương đến con người theo những cách mà chúng ta không ngờ tới được, đặc biệt là trong bối cảnh các cường quốc trên thế giới đều đang chạy đua nghiên cứu AI.

Norman chỉ là một thử nghiệm được khống chế nghiêm ngặt, nhưng nó đưa ra những câu hỏi cần phải được giải quyết về những thuật toán máy học (machine learning) có khả năng đưa ra đánh giá và quyết định dựa trên những dữ liệu nó được cung cấp.

Ngay lúc này, cuộc sống của rất nhiều người đang nằm dưới sự phán đoán của AI, ngay khi bạn đang đọc những dòng chữ này. Các tòa án Mỹ đang sử dụng COMPAS, một AI phán đoán khả năng tái phạm của tội phạm dựa trên đáp án họ đưa ra cho 137 câu hỏi khác nhau. Quan tòa sẽ dùng kết quả của COMPAS để đưa ra quyết định có cho phép tội phạm được nộp tiền bảo lãnh hay không, và bao nhiêu tiền.

Samsung thuê hai chuyên gia AI cao cấp về đầu quân nhằm thúc đẩy sự phát triển của trí tuệ nhân tạo

http://thegioitre.vn/tin-tuc/cong-nghe/sau-khi-duoc-hoc-du-lieu-tu-internet-ai-chi-toan-nghi-den-chuyen-giet-nguoi-51280.html

Video đang hot
Cận cảnh quả trứng gà có giá gần 200 nghìn, chuyên dùng ăn sống với cơm

Quả trứng gà Nhật đắt đỏ này chuyên dùng để chế biến món Tamago Kakegohan nổi tiếng của Nhật Bản.

Nhật Bản trứng gà 200 nghìn

Hoa hậu Việt Nam 2018: 19 thí sinh bước vào chung kết toàn quốc chính thức lộ diện

Đêm 23/6, Chung khảo khu vực phía Nam Hoa hậu Việt Nam 2018 đã chính thức diễn ra tại Quy Nhơn. Góp mặt...

Nhốt mình trong thùng với 6 thanh thuốc nổ, tiết mục này được mệnh danh là nguy hiểm nhất America's Got Talent 2018

Tiết mục của cô gái liều lĩnh này đã khiến ban tổ chức phải huy động lực lượng cứu thương đến hiện trường.

America

Tiết mục lộn người uốn dẻo như phim kinh dị khiến khán giả sợ đến buồn nôn

Tiết mục này đã làm náo loạn sân khấu America's Got Talent 2018.

America

Thót tim cảnh 3 người đàn ông cứu chú chó bị trăn quấn chặt

Đoạn video ghi lại cảnh giải cứu ngoạn mục cho một chú chó bị trăn quấn chặt quanh người đang thu hút sự...

trăn quấn chó giải cứu chó

'Huyền thoại Muay Thái': Bom tấn hoạt hình vươn tầm Hollywood của Thái Lan

Với kinh phí đầu tư siêu khủng, "Huyền thoại Muay Thái: 9 mảnh ghép thần kỳ" được xem là bom tấn hoạt hình...

phim Thái phim hoạt hình

Sơn Tùng M-TP nói gì khi được hỏi: 'Anh có thích Messi không?'

Câu trả lời của Sơn Tùng khiến nhiều người không nói nên lời.

Sơn Tùng M-TP Messi

Sau Mỹ Tâm, Bích Phương khiến fan lo lắng vì hình ảnh gầy 'trơ xương'

Fan Bích Phương còn vô cùng "lầy lội", thay vì tặng hoa người hâm mộ tặng luôn cả "núi" thức ăn vì xót...

Bích Phương Mỹ Tâm

Việt Hương bất ngờ phát ngôn khiêu khích Việt Trinh

Việt Hương tự xưng là "Người đẹp Tây Ninh" chính thức khiêu khích nhan sắc Việt Trinh.

Việt Trinh và Việt Hương người bí ẩn