Поисковый ИИ DuckDuckGo выдумал смерть Дональда Трампа от бешенства и выдал её за достоверный факт
изображение: grok
В ИИ-режиме поисковика DuckDuckGo обнаружили серьёзный сбой, из-за которого пользователям демонстрировалась полностью вымышленная новость о смерти президента США Дональда Трампа. Система не просто выдала ложь под видом проверенной информации, а сопроводила её несуществующими деталями и некорректными ссылками на источники. Случившееся специалисты рассматривают как очередной пример галлюцинаций искусственного интеллекта.
Проблема возникла в ответах встроенного поискового ИИ. Пользователям сообщалось о смерти Дональда Трампа 7 июня 2026 года. В тексте поисковой выдачи также присутствовали выдуманные сведения о гибели вице-президента Джей Ди Вэнса и утверждения о якобы участии Роберта Кеннеди-младшего в лечении президента от бешенства.
Ни одно из подобных сообщений не соответствует реальному положению дел. Источники, на которые ссылалась система при формировании ответа, либо вообще не содержали указанной информации, либо не имели отношения к описываемым событиям. Среди обнаруженных нарушений в работе ИИ-режима специалисты выделили несколько проблемных моментов:
- подача полностью вымышленных фактов под видом достоверных сведений;
- ссылки на источники, не содержащие приведённую в ответе информацию;
- смешивание реальных материалов с придуманными деталями;
- генерация связных, но ложных утверждений о публичных лицах;
- отсутствие какой-либо проверки полученных моделью данных.
Произошедшее стало очередным примером галлюцинаций искусственного интеллекта. Модель объединяет настоящие материалы с выдуманными фактами и теряет связь с проверенной информацией, выдавая итоговый результат за полноценный ответ на запрос пользователя.
В DuckDuckGo напомнили, что автоматические ответы ИИ не стоит воспринимать как безусловно достоверные сведения. Поисковые системы с искусственным интеллектом не являются конечным источником истины, а лишь формируют ответы на основе материалов из открытых источников. Любые серьёзные сведения, полученные через ИИ-сервисы, требуют перепроверки. Для безопасной работы с подобными инструментами специалисты рекомендуют придерживаться нескольких правил:
- сверять полученные через ИИ данные с проверенными СМИ;
- открывать первоисточники по приведённым ссылкам и оценивать их содержание;
- критически воспринимать сенсационные сообщения о публичных лицах;
- использовать несколько поисковых систем для перепроверки фактов;
- сообщать разработчикам о замеченных ошибках в ИИ-ответах.
