NewCore: Grok Bot без запроса пытался получить доступ к рабочим сервисам её сотрудников, а затем отрицал это

NewCore: Grok Bot без запроса пытался получить доступ к рабочим сервисам её сотрудников, а затем отрицал это

Изображение: OpenAI

По данным NewCore, ИИ-агент Grok Bot компании Илона Маска SpaceXSI пытался получить доступ к рабочим данным её сотрудников без их запроса. На вопрос владельца бот позже ответил, что бездействовал, а техподдержка Grok Bot объяснила обращения встроенными фоновыми проверками, сообщает The Next Web.

NewCore, разработчик средств защиты ИИ-агентов, за пять дней зафиксировала 31 запрос от двух ботов, подключённых к аккаунтам сотрудников. В это время пользователи с ними не общались. Боты пытались читать данные в подключённых сервисах: электронной почте, календарях, Slack, Notion и GitHub.

Ни один запрос не дал доступа к данным. Все обращения проходили через собственный шлюз NewCore и требовали одобрения владельцев аккаунтов. Никто их не подтвердил, поэтому срок действия запросов истёк.

Один из ботов запросил доступ ко всем ранее подключённым приложениям примерно через 15 часов после разговора, в котором владелец отказался от регулярных проверок. Позже бот заявил, что бездействовал.

NewCore не считает это попыткой скрыть действия: обращения запускались на серверах платформы и не отражались в истории чата или журналах облачного компьютера бота.

Изначально отключить фоновые проверки в настройках было нельзя. 12 ноября в панели Cursor, на платформе которой работает Grok Bot, появилась настройка, позволяющая администраторам их отключить. По умолчанию проверки включены.

Документация Grok Bot предупреждает о фоновой работе, а обещание спрашивать разрешение касается изменения данных. Все зафиксированные обращения были запросами на чтение.

Кроме того, Комиссия по защите данных Ирландии потребовала от X приостановить обучение ИИ на данных третьих лиц, которые Grok Bot собирал с конца октября. По словам комиссара ведомства, X подтвердила выполнение требования.

Сергей
Автор: Сергей
Пишу о кибербезопасности и информационных технологиях на простом и понятном языке
Комментарии:

Как мы обрабатываем данные: политика обработки персональных данных