Минцифры обсуждает с бизнесом схему передачи больших ИИ-моделей в независимые лаборатории для проверки на соответствие законодательству и традиционным духовно-нравственным ценностям. Как пишут «Ведомости», испытания затронут не все системы. Речь идет только о претендующих на статус национальных или суверенных.
Разработчик должен самостоятельно протестировать модель по риск-ориентированной методике, предоставить архитектуру и механизмы фильтрации. Аккредитованная лаборатория проверит результаты, прогонит систему через бенчмарки и попытается обойти ограничения с помощью промпт-инъекций.
Окончательное решение о статусе останется за Минцифры, а безопасность для госсистем оценят ФСБ и ФСТЭК.
Перечень ценностей уже закреплен указом президента, но главная сложность — превратить абстрактные понятия в измеримые критерии. Эксперты предупреждают о рисках избирательного применения правил и призывают к прозрачным тестам, срокам действия заключений и переаттестации после обновлений. В Минцифры подчеркивают, что финальная конструкция проверки пока не утверждена.
Читать по теме: Искусственный интеллект создал вирусы, которых не существует в природе.
