Глава Anthropic потребовал дать властям США право блокировать запуск опасных моделей ИИ
изображение: grok
Генеральный директор Anthropic Дарио Амодеи призвал ужесточить регулирование искусственного интеллекта и наделить американские власти полномочиями запрещать выпуск моделей, угрожающих обществу или национальной безопасности. Своими взглядами он поделился в интервью Bloomberg. Разработчики ИИ, по его мнению, обязаны проходить независимую проверку систем перед выходом на рынок.
Тестирование должен проводить сторонние организации с охватом нескольких направлений риска. Среди приоритетов глава Anthropic назвал угрозы кибербезопасности и потенциал применения ИИ для создания биологического оружия. Если проверка покажет неприемлемые риски, государству следует получить право не только контролировать распространение технологии, но и полностью запрещать её внедрение.
Bloomberg отмечает, что подобная позиция стала одним из самых жёстких публичных призывов к усилению государственного контроля со стороны руководителя крупной ИИ-компании. Этап добровольного раскрытия информации и публикации отчётов о прозрачности постепенно завершается, заявил Дарио Амодеи. Развитие технологий требует появления обязательных и юридически закреплённых механизмов контроля.
Скорость прогресса в сфере искусственного интеллекта может превзойти способности государственных институтов адаптироваться к новым вызовам. Руководитель Anthropic призвал ускорить разработку регулирующих норм, учитывающих угрозы и преимущества технологий одновременно. Его заявления прозвучали вскоре после презентации новой линейки моделей Anthropic.
Компания представила:
- производительную систему под названием Mythos;
- модель Fable 5 со встроенными ограничениями против кибератак;
- защиту от использования при создании биологического и химического оружия;
- расширенные средства внутреннего контроля над поведением моделей.
Дискуссия о регулировании ИИ развивается и на уровне американских властей. В начале июня президент США Дональд Трамп представил подход к управлению рисками искусственного интеллекта в сфере кибербезопасности. Одним из элементов политики стало предоставление правительству доступа к наиболее продвинутым моделям для предварительной оценки.
Советник Anthropic и бывший консультант Белого дома по вопросам ИИ Бен Бьюкенен ранее предупреждал о реальности угрозы создания биологического оружия с помощью современных систем. Руководители Anthropic, OpenAI, Google DeepMind и Microsoft AI обратились к Конгрессу США с призывом обязать поставщиков синтетической ДНК проверять клиентов и поступающие заказы.
