Использование технологий искусственного интеллекта в рамках недавней олимпиады по экономике продемонстрировало как потенциал автоматизации, так и специфические риски. В ходе соревнований две модели ИИ осуществляли параллельную проверку ответов школьников, а при возникновении разногласий в оценках к процессу привлекалась третья система. Несмотря на техническую сложность, финальное слово всегда оставалось за членами жюри, о чем сообщает Lenta.ru со ссылкой на пресс-службу конференции ВДЕЛЕ.
Специалист Фёдоровых отметил, что нейросети проявили большую последовательность в проверке, чем люди, однако столкнулись с системной ошибкой в одной из задач. Данный дефект обнаружился лишь после того, как участники подали массовые апелляции. По словам Фёдоровых, у ИИ существует характерная черта: если в настройках не прописано требование к повышенной строгости или указание трактовать спорные моменты в пользу ученика, модель начинает систематически завышать результаты. При этом стандартные апелляции не способны выявить подобный перекос в оценке.
В контексте контроля за алгоритмами председатель совета по противодействию технологическим правонарушениям КС НСБ России Игорь Бедеров в интервью RT подчеркнул необходимость верификации ответов ИИ в ходе диалогов. По мнению эксперта, глубина такой проверки должна базироваться на риск-ориентированном подходе.
