Исследование MIT: ИИ искажает человеческую память и повышает самоуверенность
Развитие гиперреалистичного генеративного ИИ создает новые психологические риски. Согласно исследованию ученых из Massachusetts Institute of Technology (MIT), воздействие синтетического аудио, изображений и измененных текстовых сводок способно заставить человеческий мозг буквально перезаписывать исторические факты, подменяя реальные события вымышленными.
Механизм ложных воспоминаний
Эксперименты, проведенные исследователями из MIT, продемонстрировали, насколько пластична человеческая память при столкновении с ИИ-манипуляциями. В ходе тестов участникам показывали серию фотографий, после чего некоторым из них демонстрировали те же снимки, но с едва заметными изменениями, внесенными искусственным интеллектом. Результаты оказались тревожными: испытуемые, видевшие измененные версии, не только запоминали детали, которых не было в оригинале, но и выражали абсолютную уверенность в том, что эти детали действительно существовали.
Подобный эффект наблюдается и с текстовым контентом. Исследования показывают, что дипфейки и синтетические тексты способны внедрять ложные воспоминания о несуществующих политических скандалах, что в конечном итоге искажает интерпретацию прошлых событий и влияет на принятие решений в будущем.
Риски для профессиональной деятельности
Сегодня государственные структуры, финансовые институты и оборонные ведомства активно внедряют генеративный ИИ в свои рабочие процессы. При этом концепция «человек в контуре» (human-in-the-loop), подразумевающая, что эксперт будет проверять и корректировать выводы ИИ, оказывается под угрозой. Доказательства показывают, что даже опытные специалисты не застрахованы от синтетического воздействия: когда ИИ предоставляет неверные или измененные данные, человеческая память и профессиональное суждение могут быть незаметно «переписаны».
Примером критической ошибки может служить чрезмерное доверие автоматизированным системам разведки. В одном из расследований Министерства обороны США (Department of Defense) отмечалось, что авиаудар по школе в Иране, приведший к многочисленным жертвам среди гражданского населения, был частично спровоцирован использованием устаревших и неточных данных, предоставленных автоматизированной системой.
Проблема распознавания
Основная сложность заключается в том, что эффективность человеческого контроля напрямую зависит от способности человека отличать реальность от подделки. Однако по мере распространения синтетического контента в личных и профессиональных лентах новостей, эта способность стремительно падает. Согласно текущим оценкам, вероятность того, что обычный человек сможет безошибочно распознать дипфейк, не превышает 50%.
Гика
