Заместитель директора юридического департамента ЦБ Екатерина Дёмкина предложила сделать архитектуру принятия решений ИИ и структуру данных, на которых они обучаются, предметом жесткого регулирования. Основная претензия заключается в невозможности верифицировать входящую информацию и «закрытости» логики глобальных вендоров. Когда десятки кредитных организаций полагаются на один и тот же алгоритм, возникает риск синхронизации ошибок. Председатель комиссии по финансовой безопасности совета ТПП РФ Тимур Аитов предупреждает, что в отдельных сегментах это может привести к потере 3–5% кредитного портфеля за квартал.

Помимо риска ошибок, эксперты указывают на инфраструктурную зависимость и расширение поверхности для кибератак. Злоумышленники, манипулируя входными данными, могут заставить общую модель систематически ошибаться, при этом банки не способны оперативно исправить уязвимость без участия разработчика. Генеральный директор Morizo Денис Царев отмечает, что отечественные аналоги решают проблему контроля, так как обучаются на российской нормативной базе и позволяют развернуть систему внутри закрытого контура банка.

Ожидается, что регуляторные меры будут включать введение обязательного «паспорта ИИ-модели». В него войдут требования к составу обучающих выборок, контроль за «галлюцинациями» алгоритмов, лимиты на использование внешних решений и закрепление персональной ответственности за автоматизированные решения. Виктор Достов из Ассоциации участников рынка электронных денег добавляет, что альтернативой может стать внедрение жестких предустановленных правил и перекрестное сравнение моделей для минимизации рисков.