Хотя ИИ помогает улучшить обслуживание клиентов и снизить затраты, Дас предупредил о других новых уязвимостях, включая увеличение числа кибератак, утечек данных и проблему аудита непрозрачных алгоритмов, управляемых ИИ.
Опасения Даса перекликаются с опасениями других глобальных финансовых институтов. В июльском отчете Европейский центральный банк (ЕЦБ) изложил свои опасения относительно влияния ИИ на финансовую стабильность.
ЕЦБ заявил, что хотя ИИ и «приносит пользу», когда поставщики ИИ слишком сконцентрированы, а инструменты широко используются в финансовом секторе, «операционный риск, концентрация рынка и экстерналии (воздействие рыночной транзакции на третьих лиц, не опосредованное рынком), связанные с принципом «слишком большой, чтобы обанкротиться», могут возрасти».
ЕЦБ также предупредил, что широкое внедрение ИИ может привести к стадному поведению, манипуляциям на рынке и инфляционному давлению.
Один из приведенных примеров — завышенный спрос на энергию во всем мире из-за вычислительной мощности, необходимой для поддержания ИИ, что приводит к повышению энергетических затрат.
Совсем недавно, 20 сентября, Центральный банк Канады также опубликовал краткое изложение своих опасений по поводу ИИ и финансовой нестабильности. «Внедрение ИИ может также привести к проблемам финансовой стабильности», — говорится в отчете, особенно потому, что «банки и финансовые учреждения инвестируют в ИИ для улучшения обслуживания клиентов, повышения комплаенса и управления рисками, а также для более эффективной оценки кредитных и ликвидных рисков».
Однако в отчете также указывается на то, что операционные риски могут сконцентрироваться у нескольких сторонних поставщиков услуг и распространиться через всю финансовую систему: «Прогностическая способность ИИ может неожиданно ухудшиться, страдать от галлюцинаций или быть предвзятой и дискриминационной».
hashtelegraph.com
