9 ноября 2023
—
заканчивается
2 января 2024
Проект
Разработчик
Автономная некоммерческая организация «Институт развития информационного общества»
Технический комитет
Международные аналоги
Настоящий стандарт идентичен международному стандарту ИСО/МЭК 24029-2:2023 «Искусственный интеллект (ИИ). Оценка робастности нейронных сетей. Часть 2. Методология использования формальных методов» (ISO/IEC 24029-2:2023 «Artificial intelligence (AI) — Assessment of the robustness of neural networks — Part 2: Methodology for the use of formal methods», IDT).
ОКС/МКС/ISO
ОКС 35.020
Описание
Настоящий стандарт определяет методологию использования формальных методов оценки свойств робастности нейронных сетей. Основное внимание уделяется тому, как выбирать и применять формальные методы, а также управлять ими для подтверждения свойств робастности.
1 обсуждение
Публичное обсуждение проекта продлится до 2 января 2024 г.
Целесообразность разработки проекта национального стандарта объясняется тем, что технологии искусственного интеллекта являются особо важными и перспективными инструментами для реализации разного рода задач во многих отраслях экономики. В настоящем стандарте представлены критерии, применимые для оценки робастности нейронных сетей и определены способы проверки нейронных сетей с помощью формальных методов на каждой стадии жизненного цикла ИИ-системы. При использовании формальных методов могут возникнуть сложности с точки зрения масштабируемости, однако они по-прежнему применимы ко всем типам нейронных сетей, выполняющих различные задачи с несколькими типами данных. Формальные методы уже давно используются в традиционных программных системах, однако их применение по отношению к нейронным сетям началось сравнительно недавно и все еще является активной областью исследований.
Настоящий стандарт направлен на то, чтобы помочь разработчикам ИИ, которые используют нейронные сети и перед которыми стоит задача оценить их робастность на соответствующих стадиях жизненного цикла ИИ-системы.
Благодаря установлению единой терминологии и набора понятий для таких систем, настоящий проект предоставляет основу для ясного объяснения как систем, так и различных соображений, касающихся их проектирования и использования.