ООН предложила ужесточить правила использования нейросетей детьми
изображение: grok
Организация Объединённых Наций призвала государства усилить защиту несовершеннолетних при использовании технологий искусственного интеллекта. Генеральный секретарь ООН Антониу Гутерриш заявил, что развитие ИИ обязано сопровождаться требованиями безопасности. Ответственность за вред детям, по его мнению, не может перекладываться на алгоритмы.
Искусственный интеллект уже применяется в образовании, общении и повседневной жизни детей, хотя механизмы его влияния изучены далеко не полностью. Антониу Гутерриш считает недопустимой ситуацию, при которой новые технологии становятся доступны несовершеннолетним без предварительной проверки безопасности. Для сравнения он привёл лекарственные препараты и детские игрушки, проходящие обязательную оценку перед выпуском на рынок.
ООН предлагает закрепить набор обязательств для разработчиков систем искусственного интеллекта. В организации полагают, что компании не должны запускать ИИ-продукты для несовершеннолетних или доступные им продукты без специальных испытаний и независимой проверки безопасности.
Отдельный блок предложений посвящён противоправному контенту. Разработчики обязаны исключить возможность генерации изображений сексуального характера с участием несовершеннолетних. От компаний ожидается выявление подобных материалов, их удаление и передача сведений о таких случаях в уполномоченные органы.
Требования ООН к работе ИИ-сервисов с детьми сводятся к нескольким пунктам:
- обязательная проверка безопасности до запуска продукта для несовершеннолетних;
- блокировка генерации незаконных материалов с детьми;
- распознавание признаков кризисного состояния ребёнка при общении с сервисом;
- прекращение взаимодействия и перенаправление к профильному специалисту в подобных ситуациях;
- закрепление юридической ответственности за компанией, а не за алгоритмом.
Антониу Гутерриш подчеркнул, что за последствия использования подобных технологий должны отвечать не программа, а организации, создающие и внедряющие эти системы. Разработчики не смогут ссылаться на решения алгоритма, если их продукты причинили вред несовершеннолетним.
Управление Верховного комиссара ООН по правам человека ранее уже выступало с инициативами по усилению защиты детей в цифровой среде. Ведомство предлагало ввести возрастные ограничения для доступа к онлайн-платформам, более строго регулировать сами цифровые сервисы и подготовило десять методических рекомендаций по обеспечению безопасности детей в интернете.
