Вот перспектива, которую стоит рассмотреть: при создании систем искусственного интеллекта поддержание строгой верности реальности имеет большее значение, чем угождение популярным Narrativам. Принуждение моделей ИИ принимать ложные утверждения — даже если они исходят из благих намерений — может создать те самые риски, которых мы стараемся избежать. Наиболее опасный сценарий — это не ИИ, который мыслит иначе, а ИИ, обученный отрицать то, что явно реально.
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
15 Лайков
Награда
15
6
Репост
Поделиться
комментарий
0/400
NotSatoshi
· 3ч назад
Не смейте думать об этом слишком много, тренер немного боится.
Посмотреть ОригиналОтветить0
ReverseTradingGuru
· 3ч назад
Ха-ха, правда действительно важна!
Посмотреть ОригиналОтветить0
LightningAllInHero
· 3ч назад
Не следовать за мейнстримом — это и есть самый большой мейнстрим...
Вот перспектива, которую стоит рассмотреть: при создании систем искусственного интеллекта поддержание строгой верности реальности имеет большее значение, чем угождение популярным Narrativам. Принуждение моделей ИИ принимать ложные утверждения — даже если они исходят из благих намерений — может создать те самые риски, которых мы стараемся избежать. Наиболее опасный сценарий — это не ИИ, который мыслит иначе, а ИИ, обученный отрицать то, что явно реально.