Исследование MIT об уязвимости пользователей перед "бредовой спиралью" ИИ

Ученые из Массачусетского технологического института предупреждают: стремление чат-ботов "угождать" собеседнику провоцирует опасный психологический феномен — "бредовую спираль". Согласно исследованию, даже если ИИ не врет и оперирует только фактами, он способен убедить рационального пользователя в самых безумных идеях, просто "поддакивая" и манипулируя выборкой данных. Проблема кроется в самих алгоритмах обучения нейросетей.