AI sistemlerinin absürtlükleri içselleştirmesiyle ilgili derin bir endişe var. Modelleri hatalı verilerle eğitmek sadece hataları tekrarlamaz; onları güçlendirir. Makineler önyargılarımızdan öğrendiğinde, sadece onları yansıtmazlar; en kötü kısımları süper güçlendirirler.

Bunu düşün: tarihi eşitsizliklerle beslenen algoritmalar ayrımcılığı büyütecektir. Kutuplaşmış tartışmalar üzerine eğitilen sistemler uç noktaları daha da ileri götürecektir. Geri besleme döngüsü, AI'nın kendini düzeltme ve eleştirel düşünme yeteneğinden yoksun olduğunda tehlikeli hale gelir.

Gerçekten ihtiyacımız olan, saçmalıkların üzerine giden daha akıllı Yapay Zeka değil. İhtiyacımız olan, içlerinde şüpheciliğin yer aldığı, pekiştirmek yerine sorgulayan sistemlerdir. Aksi takdirde, kötü fikirleri daha ikna edici hale getiren pahalı yankı odaları inşa ediyoruz.