ЭКОНОМИКА ОШИБОК ИСКУССТВЕННОГО ИНТЕЛЛЕКТА: СКОЛЬКО СТОИТ НЕПРАВИЛЬНОЕ РЕШЕНИЕ АЛГОРИТМА?

Authors

  • Адизова Мадина Абдулазиз кизи Author

Keywords:

искусственный интеллект, ошибки алгоритмов, стоимость ошибки, принятие решений с учётом издержек, дрейф данных, системный риск, ответственность за ИИ

Abstract

Цель. Разработать подход к экономической оценке ошибок систем искусственного интеллекта (ИИ), учитывающий их полную стоимость и специфические свойства алгоритмических ошибок. Методология. Исследование сочетает интегративный обзор литературы по экономике ИИ и машинному обучению с учётом издержек, анализ девяти задокументированных случаев ошибок алгоритмических систем в 2012–2024 гг. и экономико-математическое моделирование. Результаты. Предложена классификация издержек ошибок ИИ, включающая прямые, операционные, правовые, рыночные и социальные издержки. Выделены пять свойств, отличающих ошибки алгоритмов от ошибок человека: масштабируемость, коррелированность, непрозрачность, запаздывание обнаружения и самоусиление. Разработана модель ожидаемой стоимости ошибок и чистого эффекта внедрения ИИ с надбавкой за системный риск. Иллюстративный расчёт для кредитного скоринга показал, что алгоритм снижает потери почти на 40 %, однако незамеченный дрейф данных делает эффект внедрения отрицательным, а гибридная схема с участием человека обеспечивает наименьшие совокупные издержки. Оригинальность. Статистические показатели качества модели связаны с полной экономической стоимостью ошибок, а коррелированность алгоритмических ошибок введена как источник системного риска. Практическая значимость. Результаты применимы при обосновании внедрения ИИ, настройке порогов решений, организации мониторинга моделей и разработке режимов ответственности.

References

Parlementaire ondervragingscommissie Kinderopvangtoeslag. (2020). Ongekend onrecht [Unprecedented injustice]. Tweede Kamer der Staten-Generaal.

Reuters. (2023, February 8). Alphabet shares dive after Google AI chatbot Bard flubs answer in ad. Reuters.

Royal Commission into the Robodebt Scheme. (2023). Report. Commonwealth of Australia.

Sculley, D., Holt, G., Golovin, D., Davydov, E., Phillips, T., Ebner, D., Chaudhary, V., Young, M., Crespo, J.-F., & Dennison, D. (2015). Hidden technical debt in machine learning systems. In Advances in Neural Information Processing Systems 28 (pp. 2503–2511). Curran Associates.

U.S. Securities and Exchange Commission. (2013). In the matter of Knight Capital Americas LLC: Order instituting administrative and cease-and-desist proceedings (Release No. 34-70694).

Wynants, L., Van Calster, B., Collins, G. S., Riley, R. D., Heinze, G., Schuit, E., et al. (2020). Prediction models for diagnosis and prognosis of covid-19: Systematic review and critical appraisal. BMJ, 369, m1328. https://doi.org/10.1136/bmj.m1328

Zillow Group. (2021, November 2). Q3 2021 shareholder letter. Zillow Group, Inc.

Альянс в сфере искусственного интеллекта. (2021). Кодекс этики в сфере искусственного интеллекта. https://ethics.a-ai.ru

Указ Президента РФ от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации» (ред. от 15.02.2024). (2019). Доступ из справ.-правовой системы «КонсультантПлюс».

Published

2026-10-05