Ростехнадзор утвердил ограничения применения искусственного интеллекта в критических системах безопасности атомных объектов

Ростехнадзор утвердил принципы применения искусственного интеллекта на атомных объектах, закрепив их в заявлении, одобренном Научно-техническим советом 7 октября и опубликованном 12 октября. Документ устанавливает ключевые ограничения: ИИ не может принимать самостоятельные решения в критических системах безопасности (категории А, В, С) и информационных функциях категорий А и В, а также использоваться в управляющих процессах. Основной акцент сделан на принципе "доказанного доверия": модели должны проходить строгую верификацию, обеспечивать объяснимость, детерминированность и защиту от внешних воздействий.

В качестве "красных линий" выделены два ключевых ограничения: запрет на дообучение ИИ в эксплуатации без жестких аппаратных и программных барьеров и требование локализации вычислений внутри охраняемой зоны без подключения к интернету или облачным сервисам. Программное обеспечение с элементами ИИ для оценки безопасности допускается только после экспертизы в специализированных организациях Ростехнадзора.

Что это значит Для разработчиков систем безопасности, включая СКУД и видеонаблюдение, новые подходы означают необходимость проектировать решения с учетом строгой изоляции сетей и исключения управляющего воздействия ИИ на критические компоненты. Ожидается, что в ближайшем будущем требования будут закреплены в федеральных нормах, что потребует адаптации существующих продуктов под ограниченные архитектуры и жесткий контроль над изменениями в моделях. Это создает вызов для интеграции ИИ в охранные системы, но также открывает возможность для разработки специализированных решений, соответствующих новым стандартам.