AIシステムが不条理を内面化することには、深刻な懸念があります。欠陥のあるデータでモデルを訓練することは、単にエラーを再現するだけでなく、それらを増幅させます。機械が私たちのバイアスから学ぶとき、彼らはそれを単に反映するだけではなく、最悪の部分を超強化します。

考えてみてください：歴史的な不平等に基づいて訓練されたアルゴリズムは、差別を拡大させます。極端な議論に基づいて訓練されたシステムは、極端をさらに押し進めます。AIが自己修正と批判的思考の人間の能力を欠くと、フィードバックループは危険になります。

私たちが本当に必要なのは、無意味なことを強化するようなより賢いAIではありません。私たちが必要なのは、内蔵された懐疑心を持つシステム、強化するのではなく疑問を持つフレームワークです。さもなければ、私たちは悪いアイデアをより説得力のあるものにする高価なエコーチャンバーを作っているだけです。