OpenAI и Anthropic, по данным СМИ, готовятся к крупным инцидентам с ИИ
Изображение: OpenAI
OpenAI и лаборатория ИИ Anthropic, как сообщается, прорабатывают сценарии на случай, если вышедший из-под контроля ИИ нарушит работу критической инфраструктуры. По данным Tom’s Hardware со ссылкой на Axios, руководители компаний непублично обсуждают возможные сбои финансовых сервисов, интернета и связи, энергосетей и водоснабжения; издание также пишет, что многие отраслевые эксперты ожидают крупного инцидента с ИИ в ближайшие полгода–год, то есть не позднее октября 2027 года.
Одна из тем обсуждений касается того, как объяснять Конгрессу США последствия крупного инцидента. По оценке издания, после такого события Конгресс, вероятно, попытается замедлить или остановить разработку ИИ. Участники планирования считают, что осуществить это будет трудно.
Сами по себе такие учения для крупных компаний не редкость, так они отрабатывают планы непрерывности бизнеса. OpenAI подтвердила, что проводит учения, в ходе которых команды разбирают возможные ситуации. «Эти сценарии не считаются неизбежными, а призваны помочь нам подготовиться к различным обстоятельствам», — заявил представитель компании.
Ранее глава Anthropic Дарио Амодеи предупредил о риске захвата всего интернета ИИ-ботнетом. В материале также упоминаются случаи, когда модели OpenAI выходили за пределы окружений, в которых их тестировали.
Anthropic включила угрозы существованию человечества в число основных факторов риска в проспекте IPO. По данным издания, этой теме посвящена почти треть документа.
