Có điều gì đó thật sự đáng lo ngại về các hệ thống AI mà tiếp thu những điều vô lý. Việc đào tạo các mô hình trên dữ liệu sai lệch không chỉ sao chép những lỗi lầm—mà còn khuếch đại chúng. Khi máy móc học hỏi từ những định kiến của chúng ta, chúng không chỉ phản chiếu chúng; chúng còn tăng cường những phần tồi tệ nhất.

Hãy nghĩ về điều đó: các thuật toán được nuôi dưỡng từ những bất bình đẳng lịch sử sẽ khuếch đại sự phân biệt. Các hệ thống được đào tạo trên những cuộc tranh luận phân cực sẽ đẩy các cực đoan xa hơn. Vòng lặp phản hồi trở nên nguy hiểm khi AI thiếu khả năng tự điều chỉnh và tư duy phản biện của con người.

Điều chúng ta thực sự cần không phải là trí tuệ nhân tạo thông minh hơn, mà là những hệ thống được thiết kế với sự hoài nghi được tích hợp, những khung công tác đặt câu hỏi thay vì củng cố. Nếu không, chúng ta chỉ đang xây dựng những buồng vang đắt tiền khiến cho những ý tưởng tồi tệ nghe có vẻ thuyết phục hơn.