Обсуждения

Публичное обсуждение проекта продлится до 16 августа 2023 г.

Объектом стандартизации является управляемость системы искусственного интеллекта как важная фундаментальная характеристика, обеспечивающая безопасность таких систем для конечных пользователей. Под управляемостью в настоящем документе понимается способность управлять системой искусственного интеллекта, имеющаяся у человека либо иного внешнего управляющего агента. В документе описываются особенности управляемости, и как происходит процесс управления, но не предопределяется, кто или что осуществляет управление.

Методы искусственного интеллекта применяются в различных приложениях для многих социально-значимых сфер и отраслей производства. Некоторые характеристики (например, недостаточная объяснимость) систем искусственного интеллекта могут внести неопределенность в поведение таких систем, что может привести к непредсказуемым последствиям для конечных пользователей. По этой причине очень важна управляемость интеллектуальных систем, чтобы использование преимуществ данной технологии строилось ответственным образом. В этом документе описываются особенности управляемости в контексте предметной области, и укрепляется понимание управляемости системы искусственного интеллекта как фундаментальной характеристики, обеспечивающая безопасность данных систем для конечных пользователей.