ЭКОНОМИКА ДОВЕРИЯ В ЭПОХУ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА: КАК ЦИФРОВЫЕ ТЕХНОЛОГИИ МЕНЯЮТ ПОВЕДЕНИЕ ПОТРЕБИТЕЛЕЙ
Keywords:
экономика доверия, искусственный интеллект, поведение потребителей, алгоритмическое отторжение, калиброванное доверие, объяснимый ИИ, кредитный скоринг, рекомендательные системы.Abstract
Статья посвящена трансформации доверия как экономического ресурса в условиях массового внедрения систем искусственного интеллекта (ИИ) в потребительские рынки. Цель исследования — выявить механизмы, определяющие доверие и недоверие потребителей к алгоритмическим решениям при совершении покупок, в потребительском кредитовании и при выборе услуг. Методологической основой работы является интегративный обзор рецензируемых публикаций в области поведенческой экономики, маркетинга, финансов, информационных систем и инженерной психологии, дополненный анализом регуляторных документов. Показано, что доверие к ИИ носит двухуровневый характер: ожидания доброжелательности и честности, неприменимые к алгоритму, переносятся на оператора системы и институциональную среду. Установлено, что противоречие между эффектами алгоритмического отторжения и алгоритмического признания снимается при учёте характера задачи, опыта взаимодействия с системой и возможности контроля над её решениями. Сравнительный анализ трёх сфер демонстрирует, что по мере роста ставок решения механизм формирования доверия смещается от приобретённого опыта к институциональным гарантиям, а ключевыми факторами становятся объяснимость, справедливость и право на оспаривание. Предложена концептуальная модель калиброванного доверия потребителей к ИИ и сформулированы семь исследовательских предложений для последующей эмпирической проверки. Результаты имеют значение для компаний, применяющих ИИ во взаимодействии с клиентами, и для регуляторов цифровых рынков.References
Acquisti, A., Brandimarte, L., & Loewenstein, G. (2015). Privacy and human behavior in the age of information. Science, 347(6221), 509–514. https://doi.org/10.1126/science.aaa1465
Akerlof, G. A. (1970). The market for "lemons": Quality uncertainty and the market mechanism. The Quarterly Journal of Economics, 84(3), 488–500. https://doi.org/10.2307/1879431
Arrow, K. J. (1972). Gifts and exchanges. Philosophy & Public Affairs, 1(4), 343–362.
Bartlett, R., Morse, A., Stanton, R., & Wallace, N. (2022). Consumer-lending discrimination in the FinTech era. Journal of Financial Economics, 143(1), 30–56. https://doi.org/10.1016/j.jfineco.2021.05.047
Berg, T., Burg, V., Gombović, A., & Puri, M. (2020). On the rise of FinTechs: Credit scoring using digital footprints. The Review of Financial Studies, 33(7), 2845–2897. https://doi.org/10.1093/rfs/hhz099
Bonezzi, A., Ostinelli, M., & Melzner, J. (2022). The human black-box: The illusion of understanding human better than algorithmic decision-making. Journal of Experimental Psychology: General, 151(9), 2250–2258.
Burton, J. W., Stein, M.-K., & Jensen, T. B. (2020). A systematic review of algorithm aversion in augmented decision making. Journal of Behavioral Decision Making, 33(2), 220–239. https://doi.org/10.1002/bdm.2155
Castelo, N., Bos, M. W., & Lehmann, D. R. (2019). Task-dependent algorithm aversion. Journal of Marketing Research, 56(5), 809–825. https://doi.org/10.1177/0022243719851788
Davis, F. D. (1989). Perceived usefulness, perceived ease of use, and user acceptance of information technology. MIS Quarterly, 13(3), 319–340. https://doi.org/10.2307/249008
Dawes, R. M., Faust, D., & Meehl, P. E. (1989). Clinical versus actuarial judgment. Science, 243(4899), 1668–1674. https://doi.org/10.1126/science.2648573
Dietvorst, B. J., Simmons, J. P., & Massey, C. (2015). Algorithm aversion: People erroneously avoid algorithms after seeing them err. Journal of Experimental Psychology: General, 144(1), 114–126. https://doi.org/10.1037/xge0000033
Dietvorst, B. J., Simmons, J. P., & Massey, C. (2018). Overcoming algorithm aversion: People will use imperfect algorithms if they can (even slightly) modify them. Management Science, 64(3), 1155–1170. https://doi.org/10.1287/mnsc.2016.2643
Fuster, A., Goldsmith-Pinkham, P., Ramadorai, T., & Walther, A. (2022). Predictably unequal? The effects of machine learning on credit markets. The Journal of Finance, 77(1), 5–47. https://doi.org/10.1111/jofi.13090
Gefen, D., Karahanna, E., & Straub, D. W. (2003). Trust and TAM in online shopping: An integrated model. MIS Quarterly, 27(1), 51–90. https://doi.org/10.2307/30036519