Раскрытие: взгляды и мнения, выраженные здесь, относятся исключительно к автору и не представляют взгляды и мнения Crypto.news.
Искусственный интеллект нагнетает финансовые преступления, а защита финансовой индустрии отстает. Преступники теперь используют ИИ для создания убедительных глубоких фрагментов, фишинговых атак, адаптированных по ремеслу и изготовления синтетической идентичности в масштабе. Эта тактика движется быстрее, чем традиционные системы соответствия могут отслеживать, выявляя роковой недостаток в современных подходах.
Несмотря на масштаб этой угрозы, многие организации спешат развернуть свои собственные системы ИИ, не гарантируя, что эти инструменты являются объяснимыми, прозрачными или даже полностью понятными. Если объясняемость не станет базовым требованием для любой системы ИИ, используемой в соответствии с финансовым соответствием, мы рискуем заменить одну форму непрозрачности другой, которая не будет доверять общественности или регуляторам.
Гонка вооружений уже началась
ИИ используется для того, чтобы сделать старые преступления быстрее и дешевле, и облегчение совершения новых видов преступности. Рассмотрим недавний всплеск мошенничества с синтетической идентичностью. Киберпреступники используют ИИ для сшивания реальных и поддельных данных в реалистичные, изготовленные идентичности. Эти профили могут открывать учетные записи, получать кредит и обходить системы проверки, при этом почти неразличимы от подлинных пользователей.
Технология DeepFake добавила еще одно оружие в арсенал. Убедительные подражания руководителям, регуляторам или даже членам семьи теперь могут быть получены с минимальными усилиями. Эти видео и аудио -клипы используются для инициирования мошеннических транзакций, вводящих в заблуждение сотрудников и запуска внутренних утечек данных.
Даже фишинг развивался. Инструменты естественного языка, управляемые ИИ, могут создавать гипер-личность, грамматически правильные сообщения, адаптированные к каждой цели на основе их публичных данных, поведения в Интернете и социального контекста. Это не послания спама прошлого. Это атаки на заказ, предназначенные для получения доверия и извлечения стоимости. В крипто -пространстве фишинга процветает, и ИИ ускоряет тенденцию.
Инструменты соответствия застряли в эпоху до-ай
Задача не только скорость или масштаб этих угроз; Это несоответствие между инновациями злоумышленника и инерцией защитника. Традиционные системы соблюдения правил являются реактивными и хрупкими. Они зависят от предварительно определенных триггеров и распознавания статического рисунка.
Машинное обучение и прогнозирующая аналитика предлагают более адаптивные решения, но многие из этих инструментов являются непрозрачными. Они генерируют выходы без ясности в отношении того, как они достигли заключения. Эта проблема «черного ящика» — это больше, чем техническое ограничение. Это головная боль в соответствии.
Без объяснения, нет ответственности. Если финансовое учреждение не может объяснить, как его система ИИ помечала транзакцию (или не смогла отметить одну), то оно не может защитить свое решение для регуляторов, клиентов или судов. Хуже того, он не может обнаружить, когда сама система принимает предвзятые или противоречивые решения.
Объяснение — это требование безопасности
Некоторые утверждают, что требование, чтобы системы ИИ были объяснены, замедлит инновации. Это недальновидно. Объяснение не роскошь; Это требование для доверия и законности. Без этого команды соответствия летят слепы. Они могут обнаружить аномалии, но они не узнают, почему. Они могут одобрить модели, но они не смогут проверить их.
Финансовый сектор должен прекратить рассматривать объяснение как технический бонус. Это должно быть условием развертывания, особенно для инструментов, связанных с KYC/AML, обнаружением мошенничества и мониторинга транзакций. Это не просто лучшая практика. Это важная инфраструктура.
В быстро меняющемся пространстве, как крипто, где доверие уже хрупкое, а проверка высока, это становится еще более срочным. Использование ИИ в области безопасности и соответствия должно быть не только эффективным, но и явно справедливым, проверенным и понятным.
Скоординированный ответ не подлежит обсуждению
Финансовые преступления больше не являются вопросом изолированных инцидентов. Только в 2024 году объем незаконного объема транзакции достиг 51 миллиарда долларов, что, вероятно, подчеркнула роль атак с усиленными AI. Ни один фирм, регулятор или поставщик технологий не может справиться с этой угрозой.
Скоординированный ответ должен включать:
- Обязательно объясняется в любой системе ИИ, используемой в функциях соответствия высокого риска.
- Включение общего интеллекта угроз выявлять новые модели атаки в фирмах.
- Обучение специалистам по соблюдению требований для опроса и оценки результатов ИИ.
- Требование внешних аудитов систем ML, используемых при обнаружении мошенничества и KYC.
Скорость всегда будет иметь значение. Но скорость без прозрачности — это ответственность, а не функция.
ИИ не является нейтральным, как и его неправильное использование
Разговор должен измениться. Недостаточно спросить, работает ли ИИ в соответствии. Мы должны спросить, можно ли это доверять. Можно ли допросить? Проверяется? Понял?
Неспособность ответить на эти вопросы подвергает риску всю финансовую систему. Не только от преступников, но и от инструментов, на которые мы полагаемся, чтобы остановить их.
Если мы не вкладываем прозрачность в нашу защиту, то мы не защищаем систему. Мы автоматизируем его сбой.
Роберт Макдональд является главным директором по юридическим и соблюдению в Bybit, второй по величине в мире бирже криптовалют путем торговли. С почти двумя десятилетиями опыта, охватывающего государственный сектор, традиционные финансы и крипто -индустрия, Роберт является опытным экспертом в области соблюдения нормативных требований, юридического управления и борьбы с финансовыми преступлениями. Роберт начал свою карьеру в качестве адвоката, специализирующегося на финансовых преступлениях в Лондоне, а затем работал в Министерстве юстиции Великобритании. Его путешествие перевело его по континентам, где он занимал руководящие должности в некоторых из самых выдающихся финансовых институтов мира, в том числе глобального гиганта управления активами, ведущей платформы электронной коммерции Южной Кореи и Binance, крупной крипто -биржи. В своей роли в Bybit Роберт курирует глобальную команду юридических советов и специалистов по соблюдению требований, которым поручено ориентироваться в развивающемся нормативном ландшафте. Его команда обращается к лицензированию, приверженности юрисдикционным требованиям, протоколам по борьбе с отмыванием денег (AML), протоколам «Знай-ваш клиент» (KYC) и ответственным клиентом. Обеспечение того, чтобы Bybit работает с целостностью и соблюдением по всему миру.
