Минцифры хочет встроить цензуру прямо в нейросети
Изображение: grok
В России начали формировать правила для ИИ, и одна из главных идей — фильтровать запросы и ответы нейросетей на уровне самой технологии. Замглавы Минцифры Александр Шойтов на форуме «ИИ режима доверия» заявил, что ИИ-системы должны работать с ограничениями и на входе, и на выходе. Параллельно Путин поручил правительству подготовить национальный план внедрения ИИ к 2030 году — так что государство движется сразу в двух направлениях.
По словам Александра Шойтова, часть пользовательских запросов должна отсеиваться ещё до обработки, а определённые типы ответов — блокироваться или корректироваться.
Логика простая: ИИ не человек, у него нет тех же прав, значит и принципы контроля могут быть другими. Предполагается, что фильтры будут встроены в саму архитектуру систем и станут реагировать на заданные правила.
Минцифры уже вынесло на обсуждение законопроект с риск-ориентированной моделью регулирования. Документ затрагивает требования к разработчикам и пользователям, вопросы инфраструктуры и ограничения для отдельных типов решений. Если закон примут, он заработает с 1 сентября 2027 года, и у участников рынка пока есть время перестроить и продукты, и процессы.
Путин 10 апреля поручил правительству вместе с регионами разработать национальный план по внедрению ИИ в промышленность, логистику, образование, энергетику и госуправление. При этом президент оговорился, что регулирование не должно тормозить отрасль — иначе пострадает конкурентоспособность страны.
В итоге складывается модель, где технологии развивают и одновременно обкладывают правилами. Компании, работающие с ИИ, уже сейчас вынуждены закладывать будущие ограничения в свои планы, не дожидаясь, пока требования станут формальными.
