Как сделать применение AI-решений в финтех-продуктах безопасным

В банковской системе Казахстана AI уже давно стал частью повседневной инфраструктуры: около 75% банков страны используют его как для анализа поведения клиентов, так и для защиты от кибермошенничеств.

Директор по продукту, специалист по разработке банковских и финтех-продуктов, требующих глубокой экспертизы в предотвращении мошенничества и автоматизации процессов, Михаил Шебалков считает, что в будущем финансовым компаниям придется проверять уже не только человека, но и AI-агента, действующего от его имени. Полагаясь одновременно на опыт в управлении международными финансовыми продуктами, внедрении AI и риск-менеджменте, Михаил считает, что главный вопрос уже не в том, способен ли AI принимать финансовые решения, а в том, где должны проходить границы его самостоятельности и кто отвечает за последствия ошибки алгоритма. Участвуя в дискуссии об эффективности AI на Fintech Week London в сентябре 2026 года, Михаил подчеркивал: в финансовом продукте AI-модель должна либо увеличивать доход, либо сокращать расходы, либо улучшать клиентский опыт, либо снижать риск. Михаил рассказывает о собственном опыте запуска кредитных продуктов на основе данных о платежах и поведении клиентов, изменениях в борьбе с финансовым мошенничеством и границах самостоятельности AI-продуктов.

Михаил, вы специализируетесь в разработке сервисов для проверки клиентов и противодействия финансовым преступлениям. Сейчас много говорят про тенденцию «AI против AI». Можно ли сказать, что сейчас между мошенниками и финансовыми компаниями идет своего рода технологическая гонка? Кому AI пока дает больше преимуществ?

— У мошенников появилось гораздо больше доступных инструментов для экспериментов и проб. Раньше фишинговое письмо на казахском языке, составленное иностранцем, могло содержать кривые фразы, теперь же за минуту модель напишет его без единой ошибки. Голос родственника можно собрать из пары видео в соцсетях.

При этом банк или финансовая компания может ошибиться в обе стороны: пропустишь мошенника — клиент потеряет деньги, а заблокируешь честного человека — он не сможет заплатить за аренду или отправить деньги семье.

Но я бы не стал объявлять победителя в этой гонке. У компании есть история операций и возможность сопоставить несколько источников. Мошенник может почти идеально подделать паспорт, но подделать несколько лет обычной финансовой жизни человека гораздо труднее.

Преимущество будет у того, кто быстрее разбирается в собственных ошибках: почему система пропустила обман или заблокировала честного клиента. AI здесь хороший помощник, но отвечает за результат все равно именно компания.

Вы управляете продуктами в сфере FinCrime и автоматизации процессов с применением ML и LLM. Как дипфейки и генеративный AI меняют защиту от мошенничества? И что современные модели замечают такого, чего не видели системы, построенные на правилах?

— Правило видит одно событие: сумма выше порога, новый получатель или что-то еще. Модель же анализирует всю цепочку: человек заходит в приложение в непривычное время, долго держит открытым экран перевода, вводит сумму с паузами, будто ему диктуют, отправляет деньги незнакомому получателю. По отдельности эти действия не вызывают подозрения. Вместе это похоже на то, что пользователем прямо сейчас руководят по телефону. И это повод остановиться и спросить, а не обвинить: у необычного поведения бывает много честных причин.

С дипфейками нельзя рассчитывать на один универсальный детектор, решение должно опираться на несколько независимых сигналов. Дипфейк сам по себе не позволяет обойти проверки счетов, устройств и связей с другими участниками мошеннической схемы.

Казахстанский финтех-рынок развивается очень быстро, но при этом у него есть своя специфика — в поведении пользователей, регулировании и подходах к риску. Вы запускали Yango Pay в Гане и Кот-д’Ивуаре и знаете, как сильно один рынок может отличаться от другого. Что компании чаще всего недооценивают, когда пытаются перенести уже работающую модель в новую страну?

— Самая опасная ошибка — принять результат теста на старом рынке за доказательство качества на новом. Например, модель, обученная на европейских клиентах, считает подозрительными много мелких переводов разным людям. А в Западной Африке так часто выглядит обычная жизнь: человек помогает родственникам и расплачивается небольшими суммами. Признак тот же, смысл противоположный.

Первое, что пришлось поменять, — представление о том, как люди платят. В Европе продукт строят вокруг банковской карты. В Гане и Кот-д’Ивуаре карта есть далеко не у всех, зато у многих есть мобильный кошелек, и деньги на него кладут наличными у агента на соседней улице. Даже соседние страны оказались разными рынками: в Гане английский язык и валюта седи, в Кот-д’Ивуаре — французский язык, франк КФА и региональный центробанк. У обеих стран разные операторы и разные правила.

Поэтому мы не пытались сделать все сами: интегрировались с мобильными деньгами вместо карт, облегчали приложение под медленный интернет и недорогие смартфоны. Лицензии и отношения с регуляторами строили через местных партнеров, у которых это уже было.

Вы работаете над платформой для регистрации и выстраиваете оценку риска для людей без кредитной истории в целом ряде стран. Если на развитых рынках AI учится на годах накопленных данных, то на новом рынке данных почти нет и клиенты ведут себя иначе. Что приходится делать по-другому?

— На развитых рынках модель действительно учится на прошлом, а у нас прошлого не было. Поэтому мы начинаем с небольших лимитов и простых правил, которые можно объяснить, а затем расширяем лимиты по мере того, как клиент набрал историю. Первые месяцы, по сути, уходят на сбор данных. Это медленнее, чем хочется, но быстрее, чем потом разгребать последствия модели, обученной на другой стране.

Поэтому первым делом модель проверяют на местных данных и сравнивают с простым набором правил. Если сложная модель заметно не обыгрывает правила, ее лучше отложить: у простого решения хотя бы понятно, где оно ломается.

Пересматривать ее нужно и после запуска. Приходят новые клиенты, мошенники находят новые схемы, и то, что хорошо работало на первых тысячах клиентов, через год может начать ошибаться.

Какие слабые места чаще всего замечаете у стартапов, которые хотят работать с финансами?

— Оценивая стартапы, в том числе в жюри Burning Heroes London, чаще всего вижу одну проблему — команда приходит с сильной моделью и без ответа на вопрос, что будет, когда модель ошибется с деньгами клиента. Кто это заметит, кто отвечает перед регулятором, как откатить решение? Демо выглядит впечатляюще, но для банка, который будет это покупать, главный вопрос именно этот, а не точность на тестовой выборке.

Вторая типичная история — решение, которое ищет проблему. Берут LLM и думают, куда ее встроить. Сильные команды заходят с другой стороны: вот процесс, где аналитик тратит на кейс условно сорок минут, вот сколько это стоит, вот как мы сокращаем это время и как проверяем, что качество не упало. С такими командами проще разговаривать и банкам, и инвесторам.

Вы входите в консультативный совет клиентов Jumio — технологической компании, которая разрабатывает решения для цифровой идентификации и борьбы с мошенничеством по всему миру, — и занимаете консультативную позицию в IDEMS International, которая развивает AI-технологии для социальных проектов. Как вы сами решаете, какую задачу уже можно передать AI и где участие человека пока необходимо?

— Я начинаю с последствий ошибки. Если система подготовила неудачный черновик, его можно переписать. Если она ограничила человеку доступ к деньгам, цена ошибки совсем другая. Поэтому для каждой задачи нужно заранее решить, что система может делать сама, какие данные ей доступны и когда она обязана остановиться и позвать человека. Нужны проверка на реальных примерах и возможность быстро вернуться к прежнему процессу, если качество ухудшилось.

При этом просто присутствие человека в процессе ничего не гарантирует. Если сотруднику дают пять секунд и готовый вывод модели, он просто расписывается под ним. Чтобы человек действительно контролировал AI, ему нужны исходные данные, время подумать и право не согласиться. Без этого получается автоматизация, которая только выглядит как ручная проверка.