Учёные НТИ создали систему для проверки защищённости ИИ-решений

Как пояснили эксперты, решение представляет собой веб-сайт для загрузки моделей машинного обучения в облако, где они в автоматическом режиме проходят тестирование на устойчивость к разным видам атак.

Отмечается, что в результате пользователь получает как оценку возможности системы сохранять работоспособность в условиях внешних воздействий и изменений, так и версию дообученной модели, которая будет более устойчива к атакам.

«В последние годы с активным внедрением систем ИИ в повседневную жизнь — например, голосовых банковских помощников, автопилотов, сервисов медицинской диагностики, систем идентификации на транспорте — стало понятно, что тематика устойчивости к атакам скоро станет очень востребована», — заметил эксперт центра доцент факультета ВМК МГУ Денис Гамаюнов.

Решение, разработанное специалистами МГУ, можно применять для любых систем, построенных на основе нейросетевых моделей.

Наиболее полезно оно будет в случае с автопилотами для грузовых автомобилей и поездов, системами идентификации объектов на изображениях и видео, распознавания диктора по голосу и текста из аудиосообщений, так как они наиболее часто подвергаются кибератакам, заметил Гамаюнов.

Команда уже создала прототип решения и сейчас работает с рядом крупных российских клиентов над повышением устойчивости их ИИ-продуктов.

Собеседник RT спрогнозировал, что в ближайшие годы рынок средств защиты систем ИИ вырастет в несколько раз.

«Традиционно рынок кибербезопасности растёт вслед за своим клиентом, то есть рынок безопасности ИИ-решений кратно вырастет вслед за ростом числа их внедрений», — заключил он.

Ранее стало известно, что в России разработали отечественный программно-аппаратный комплекс «Квадросим» для подготовки операторов беспилотных летательных аппаратов (БПЛА) любого уровня.