Николаев описал риск, который возникает при аварии с устройством, созданным с помощью ИИ: ответственность может оказаться неясной — между моделью, автором запроса и инженером. На разных этапах разработки система способна пропускать небольшие требования в ГОСТах и технических условиях или добавлять несуществующие. При создании схем и кода ИИ также не опирается на накопленные знания конкретного производителя, а предлагает решения, основанные на наиболее часто встречавшихся примерах, отметил эксперт.
Для проверки алгоритмов и программного обеспечения Николаев предложил использовать независимого арбитра — эталонную модель, которая оценивает физическую реализуемость решения. «ИИ формирует абстрактные конструкции, но не подставляет под них физику: гирю сдвинет, а пушинку поднять не сможет», — пояснил он. Эксперт предостерёг и от проверки результата одной модели другой: такая схема не снимает вопроса о надёжности оценки. Риски есть и при аттестации, если и разработчик, и аккредитующий орган полагаются на требования, сгенерированные ИИ.
При разборе инцидентов языковые модели, по словам Николаева, не понимают физику и могут строить гипотезы вокруг самого эмоционального сообщения. Снизить этот риск поможет прослеживаемость всей работы над изделием — от появления идеи до готового устройства.
«Не надо ждать уникальных моделей. Надо писать нормативную документацию в машиночитаемом формате, чтобы машина могла корректно индексировать и применять требования», — сказал Николаев. Он считает, что регуляторам следует учитывать официальное и неофициальное применение ИИ уже сейчас: иначе трудности могут возникнуть на каждом этапе разработки.




Комментарии (0)
Пока нет комментариев. Будьте первым!