Обсуждения

Публичное обсуждение проекта продлится до 2 января 2024 г.

Целесообразность разработки проекта национального стандарта объясняется тем, что технологии искусственного интеллекта являются особо важными и перспективными инструментами для реализации разного рода задач во многих отраслях экономики. В настоящем стандарте представлены критерии, применимые для оценки робастности нейронных сетей и определены способы проверки нейронных сетей с помощью формальных методов на каждой стадии жизненного цикла ИИ-системы. При использовании формальных методов могут возникнуть сложности с точки зрения масштабируемости, однако они по-прежнему применимы ко всем типам нейронных сетей, выполняющих различные задачи с несколькими типами данных. Формальные методы уже давно используются в традиционных программных системах, однако их применение по отношению к нейронным сетям началось сравнительно недавно и все еще является активной областью исследований.

Настоящий стандарт направлен на то, чтобы помочь разработчикам ИИ, которые используют нейронные сети и перед которыми стоит задача оценить их робастность на соответствующих стадиях жизненного цикла ИИ-системы.

Благодаря установлению единой терминологии и набора понятий для таких систем, настоящий проект предоставляет основу для ясного объяснения как систем, так и различных соображений, касающихся их проектирования и использования.