Как ИИ помогает усилить безопасность проектов

Вайб-кодинг позволяет делать многие вещи быстрее и с меньшими усилиями. Но пока что человек должен следить за процессом и контролировать, как работают программы, созданные ИИ. Хорошая новость в том, что с этим нейросеть тоже может помочь: встроить проверки и усилить безопасность сервисов и приложений.

Как именно искусственный интеллект улучшает безопасность и стабильность разработки, рассказывает DevRel-разработчик Битрикс24 Владимир Верхотуров.

Где именно ИИ помогает разработчикам

Компании-разработчики ИИ-инструментов начинают создавать отдельные инструменты для работы с информационной безопасностью. Это логично, потому что искусственный интеллект может генерировать полезные инструменты почти на всех шагах разработки сервисов и приложений.

На этапе разработки ИИ-агент может сразу найти значительную часть проблем.

Во-первых, ИИ умеет создавать тесты-проверки разных уровней, которые покажут поведение кода в разных ситуациях. Например, что будет, если пользователь введет в форму пустое значение, или что произойдет при ошибке.

Во-вторых, ИИ может указать на риски: потенциальные ошибки и уязвимости, которые могут сломать программу в разных ситуациях.

На этапе ревью — проверки кода другими разработчиками — ИИ выступает как второй ревьюер и обращает внимание на нестандартные ситуации и подсказывает, какие еще могут возникнуть проблемы. Это полезно, потому что человек часто может пропустить очевидные вещи.

На этапе эксплуатации работа не заканчивается. Нужно следить, как система ведет себя в реальности. Здесь ИИ помогает анализировать записи о работе системы и необычное поведение. Например, машина быстрее человека увидит необычные запросы и подозрительную активность.

Иногда ИИ находит баги и ошибки так эффективно, что это может быть потенциально опасно и использовано злоумышленниками. Компания Anthropic даже заявила, что не будет выпускать в открытый доступ свою последнюю модель для работы с кибербезопасностью. Нейросеть показала очень высокие результаты по поиску уязвимостей и нашла проблемы в известных системах, которые оставались незамеченными много лет.

ИИ не только помогает, но и создает риски

Нужно помнить, что ИИ ускоряет ошибки так же, как и разработку. Если раньше разработчик делал одну ошибку за час, то с ИИ он может сделать десять, а компания — причинить урон репутации и финансам.

Вот несколько примеров угроз, которые создают нейросети в программировании.

Машины периодически галлюцинируют: придумывают ответы и советуют неправильные решения. Это может выглядеть логично, и компьютер чаще всего подает свое решение очень уверенно, но в реальной жизни такой код не работает — или работает с ошибками и уязвимостями.

ИИ может копировать плохие практики, потому что учится на огромном количестве кода из интернета. Поэтому может добавить в код небезопасные подходы и устаревшие решения.

Отдельный риск — психологический. Если в проекте задействован искусственный интеллект, может возникнуть ложное ощущение, что всё работает идеально. Но это не так: ИИ не гарантирует безопасность, а только помогает ее проверять.

В 2025 году в популярном инструменте разработки Nx появилась уязвимость из-за фрагмента кода, который создал Claude Code — а позже эту уязвимость использовали для успешной атаки и кражи данных у тысяч разработчиков. При этом в инциденте нет прямой вины ИИ или доказательств бесполезности нейросети. Единственный вывод в том, что искусственный интеллект может ошибаться, и об этом нужно всегда помнить.

Как правильно использовать ИИ для безопасности

Чтобы нейросети действительно помогали, нельзя полагаться только на них. В особо критичных системах использование ИИ сильно ограничено и требует дополнительного контроля, например, в космических миссиях.

В большинстве случаев лучшим подходом будет использовать комбинацию технологий и проверять все предложения ИИ.

Чтобы следить за качеством кода, еще до появления вайб-кодинга использовали разные инструменты. Сегодня эти вещи помогают контролировать качество работы нейросетей.

Одни программы умеют автоматически проверять код на базовые ошибки и соответствие стандартам — они называются линтеры. ИИ хорошо дополняет их, потому что может анализировать более сложные сценарии. Другие приложения анализируют весь код целиком, проверяют логику и ищут возможные уязвимости и утечки. Вместе с искусственным интеллектом такие проверки становятся глубже и тщательнее.

Но главное на сегодня — это ручное ревью, когда человек смотрит на код и разбирается, как он будет работать на самом деле. Без человеческой проверки запускать программы в реальной рабочей среде пока что опасно.

Почему «безопасность по умолчанию» — это будущее

На практике разработчики часто пропускают часть проверок: времени не хватает, а сроки важнее проверок. Поэтому индустрия движется к точке, когда безопасность встроена в приложения и сервисы изначально.

Реальным ответом на эти изменения становятся уже подготовленные платформы вайб-кодинга. В таких решениях уже настроены тесты, проверки запускаются автоматически, и ошибки ловятся без участия разработчика. Среди таких платформ на сегодня — Replit, Vercel и Битрикс24 VibeCode.

Вместо того чтобы думать о безопасности в конце пути, она становится частью процесса.

Пример реальной работы ИИ с безопасностью

Медицина — одна из самых атакуемых сфер. В ней много персональных данных, а остановка системы может создать риски для жизни пациентов: врач не может открыть карту пациента, посмотреть анализы, назначить лечение.

В сентябре 2025 года сеть больниц St. Luke’s внедрила ИИ-агента Security Copilot для структурирования работы с безопасностью. Главной проблемой команды были письма мошенников, и в первую очередь ИИ анализировал подозрительные письма и отсеивал ложные срабатывания системы безопасности. Сейчас эта система экономит 200 часов человеческой работы в месяц.

Кроме автоматизации рутины, ИИ-агент начал анализировать угрозы в реальном времени, ускорил реагирование на инциденты, помогал находить слабые места и стал общим центром управления, который связывал всю картину безопасности в одном месте.

Новая роль разработчика

Программист сегодня чаще не пишет код с нуля: он управляет ИИ, проверяет результат и отвечает за безопасность. Работать стало удобнее и быстрее, но ответственность не исчезла — просто теперь человек отвечает за код, который написал не вручную с нуля, а с помощью нейросети.

Навыком №1 стала способность не писать код, а оценивать его качество.