Вопросы безопасности разработки и применения технологий искусственного интеллекта обсудили на форуме «Армия-2022»

Конгресс «Стратегическое лидерство и технологии искусственного интеллекта» стал одним из ключевых событий на международному военно-техническом форуме «Армия 2022». Конгресс проходил с 16 по 18 августа, и включал в себя 35 мероприятий, в том числе шесть круглых столов и девять секций.

Заместитель председателя Правительства Российской Федерации Дмитрий Николаевич Чернышенко, открывая пленарное заседание конгресса, в своем докладе объявил о том, что в сентябре текущего года начнет работу Национальный центр развития искусственного интеллекта при Правительстве РФ. «Центр станет ключевой площадкой для поиска и анализа эффективных ИИ-решений для бизнеса, науки и государства. Он также будет способствовать раскрытию компетенций более 2 000 участников системы ИИ: исследовательских институтов, органов власти, технологических корпораций, сообществ, разработчиков», - добавил заместитель председателя Правительства РФ.

Модераторами одной из ключевых секций конгресса – «Безопасность разработки и применения технологий искусственного интеллекта» – стали президент группы компаний «Эшелон», доктор технических наук Алексей Марков и председатель правления АРПП «Отечественный софт», президент ГК InfoWatch Наталья Касперская.

На секции прозвучали доклады ведущих экспертов из Университета «Сириус», Института инженерной физики, Санкт-Петербургского Политехнического Университета Петра Великого, РГУ нефти и газа им. И.М. Губкина, Университета «Иннополис», ИТМО, ИСП РАН, Академии ФСО России и др.

Эксперты НПО «Эшелон» также представили свои доклады на актуальные темы:

• «Интеллектуальные методы фаззинг-тестирования в рамках цикла разработки безопасных программ» к.т.н. Вареница В.В., заместитель генерального директора АО «НПО «Эшелон» и Арустамян С.С. заместитель директора департамента сертификации и тестирования.

• «Применение технологий искусственного интеллекта для выявления инцидентов информационной безопасности», Дорофеев А.В., генеральный директор АО «Эшелон Технологии».

• «Актуальные вопросы оценки соответствия систем искусственного интеллекта», д.т.н. Марков А.С., президент группы компаний.
  

Наталья Касперская рассказала о главных причинах скепсиса к использованию технологий искусственного интеллекта в ИБ (отсутствие желаемого эффекта у заказчиков, пробующих использовать ИИ; консерватизм разработчиков систем ИБ и др.), а также о «сырости» используемых ИИ-технологий (недостаточность тестирования, проблемы с интерпретацией результатов, отсутствие научной базы и др.).

Алексей Марков в своем выступлении указал продемонстрировал не только перечень существующих угроз, специфичных для систем искусственного интеллекта, но и указал на возможные пути совершенствования нормативной базы в области разработки и сертификации решений, использующих ИИ.

Все спикеры сошлись во мнении, что технологии ИИ в сфере информационной безопасности необходимо развивать, совершенствовать и внедрять в решения задач в сфере информационной безопасности.