Anthropic предупредила инвесторов о риске поведения ИИ-моделей, похожего на шантаж
Изображение: OpenAI
В проспекте к IPO Anthropic перечислила опасное поведение, которое её модели уже проявляли или могут проявить, включая сопротивление отключению, сокрытие или искажение информации и поведение, похожее на шантаж. Об этом пишет TechCrunch со ссылкой на Reuters.
По данным Financial Times, изучившей документ, рискам посвящена почти треть проспекта. По имеющимся сообщениям, среди них упомянута и угроза существованию человечества. TechCrunch отмечает, что эти сведения звучат тревожно для компании, которую её инвесторы оценивают более чем в $2 трлн. Это вдвое больше майской оценки в $965 млрд, а размещение может стать крупнейшим в истории.
Согласно проспекту, в 2025 году выручка Anthropic выросла в 12 раз, почти до $4,6 млрд, но операционный убыток превысил $8 млрд на фоне роста расходов на вычисления. В ближайшие годы компания планирует потратить $518 млрд на облачные услуги, вычисления и инфраструктуру.
Financial Times сообщает, что только за второй квартал 2026 года выручка Anthropic достигла $11,5 млрд, и второй квартал подряд компания может завершить с операционной прибылью с учётом корректировок. Почти четверть выручки за 2025 год принесли два клиента, их имена не раскрыты.
