9 ноября 2023
—
заканчивается
2 января 2024
Проект
Разработчик
Автономная некоммерческая организация «Институт развития информационного общества»
Технический комитет
Международные аналоги
Настоящий стандарт идентичен международному стандарту ИСО/МЭК 42001:2022 «Информационные технологии. Искусственный интеллект. Система управления» (ISO/IEC 42001:2022 «Information technology — Artificial intelligence — Management system», IDT).
ОКС/МКС/ISO
ОКС 35.020
Описание
Настоящий стандарт определяет требования и рекомендации по созданию, внедрению, поддержанию в рабочем состоянии и постоянному улучшению системы менеджмента искусственного интеллекта (ИИ) в среде организации.
Настоящий стандарт предназначен для использования организациями, предоставляющими или использующими продукты или услуги, применяющие ИИ-системы. Настоящий стандарт призван помочь организациям ответственно разрабатывать или использовать ИИ-системы для достижения своих целей и соответствовать применимым нормативным требованиям, обязательствам, связанным с заинтересованными сторонами, и ожиданиями от них.
Настоящий стандарт применим к любой организации независимо от размера, типа и рода деятельности, которая предоставляет или использует продукты или услуги, применяющие ИИ-системы.
1 обсуждение
Публичное обсуждение проекта продлится до 2 января 2024 г.
Целесообразность разработки проекта национального стандарта объясняется тем, что искусственный интеллект (ИИ) все чаще применяется во всех секторах, использующих информационные технологии, и, как ожидается, станет одним из основных экономических факторов. Вследствие этой тенденции, некоторые приложения могут привести к возникновению социальных проблем в ближайшие годы.
Цель настоящего стандарта — помочь организациям ответственно выполнять свою роль в отношении ИИ-систем (например, использовать, разрабатывать, осуществлять мониторинг работы или предоставлять продукты или услуги, использующие ИИ). ИИ потенциально поднимает конкретные вопросы, такие как:
- автоматическое принятие решений с использованием ИИ, иногда непрозрачным и необъяснимым способом, может потребовать специального управления, выходящего за рамки управления классическими ИТ-системами;
- использование анализа данных, озарения и машинного обучения, а не предписанной человеком логикой проектирования систем, как расширяет возможности применения ИИ-систем, так и изменяет способ разработки, обоснования и развертывания таких систем;
- во время использования, ИИ-системы, осуществляющие непрерывное обучение, меняют свое поведение. Для обеспечения ответственного использования ИИ-систем даже при таком постоянно меняющемся поведении требуется особое внимание.
Важно обеспечить интеграцию системы менеджмента ИИ с процессами организации и общей структурой управления. При проектировании процессов, информационных систем и разработке мер управления необходимо учитывать конкретные факторы, связанные с ИИ. Критически важными примерами таких процессов управления являются:
- определение организационных целей, вовлечение заинтересованных сторон и организационная политика;
- управление рисками и возможностями;
- процессы управления факторами, связанными с надежностью ИИ-систем, такими как защита, безопасность, справедливость, прозрачность, качество данных и качество ИИ-систем на протяжении всего их жизненного цикла.
В настоящем проекте стандарта содержатся рекомендации по развертыванию применимых мер управления для поддержки таких процессов и отсутствуют конкретные указания по процессам управления. Для внедрения важнейших процессов, таких как управление рисками, жизненным циклом и качеством данных организация может сочетать общепринятые концепции и свой собственный опыт.
Организация, соответствующая требованиям настоящего проекта стандарта, может создать свидетельство своей ответственности и подотчетности касательно своей роли в отношении ИИ-систем. Настоящий проект стандарта может использоваться, при желании, для проведения самооценки, оценки заинтересованной стороной или независимой верификации (например, сертификации) на основании этих свидетельств/доказательств.