Несмотря на «сложные» ограждения, фирма по инфраструктуре ИИ Антропика говорит, что киберпреступники по-прежнему находят способы неправильного использования своего чат-бота ИИ Клод для выполнения крупномасштабных кибератак.
В отчете «Интеллект угроз», опубликованном в среду, члены команды по разведке Антрии по угрозам, в том числе Алекс Моас, Кен Лебедев и Джейкоб Кляйн, поделились несколькими делами, когда преступники использовали чат -бот Клода, а некоторые атаки требовали выкуп на сумму более 500 000 долларов.
Они обнаружили, что чат -бот использовался не только для предоставления технических советов преступникам, но и для непосредственного выполнения взломов от их имени через «Взлом», позволяя им совершать атаки только с базовыми знаниями кодирования и шифрования.
В феврале прогнозируемые крипто -мошенничество фирмы по безопасности блокчейна могут провести свой самый большой год в 2025 году, поскольку генеративный ИИ сделал его более масштабируемым и доступным для атак.
Антропик обнаружил одного хакера, который «взломал» с Клодом, чтобы украсть конфиденциальные данные как минимум 17 организаций, включая здравоохранение, аварийные службы, правительственные и религиозные учреждения, с требованиями выкупа в размере от 75 000 до 500 000 долларов в биткойнах.
Хакер обучил Клода оценить украденные финансовые записи, рассчитать соответствующие суммы выкупа и написать пользовательские ноты выкупа, чтобы максимизировать психологическое давление.
В то время как Антропик позже запретил нападающего, инцидент отражает, как ИИ облегчает даже самым кодерам базового уровня, чтобы провести киберпреступность до «беспрецедентной степени».
«Актеры, которые не могут самостоятельно реализовать основное шифрование или понимать механики SYSCALL в настоящее время успешно создают вымогатели с возможностями уклонения [and] Внедрение методов антианализа ».
ИТ -работники Северной Кореи также использовали Claude’s Antropic
Антропический также обнаружил, что северокорейские ИТ -работники используют Клода для создания убедительных идентичностей, проходить технические тесты кодирования и даже обеспечить удаленные роли в технологических компаниях Fortune 500 US Fortune 500. Они также использовали Клод для подготовки ответов на интервью для этих ролей.
Клод также использовался для проведения технической работы после нанятия, сказал Антропический, отметив, что схемы занятости были разработаны для передачи прибыли в северокорейский режим, несмотря на международные санкции.
Ранее в этом месяце северокорейский ИТ-работник был противостоят, где было обнаружено, что команда из шести из шести дел не менее 31 поддельных личностей, получившая все, от правительственных идентификаторов и номеров телефонов до покупки счетов LinkedIn и Upwork, чтобы замаскировать свои истинные личности и наземные криптовые рабочие места.
Один из работников, предположительно опрошенных на позиции инженера с полным стеком в Polygon Labs, в то время как другие доказательства показали сценарий ответов на собеседование, в которых они утверждали, что имеют опыт на NFT Marketplace Opensea и Blockchain Oracle Provider Cheatelink.
Антропик заявил, что его новый отчет направлен на публичное обсуждение случаев злоупотребления злоупотреблением, чтобы помочь более широкому сообществу безопасности и безопасности искусственного интеллекта, а также для укрепления обороны широкой отрасли от злоупотреблений ИИ.
В нем говорилось, что, несмотря на реализацию «сложных мер безопасности и безопасности», чтобы предотвратить неправильное использование Клода, злонамеренные актеры продолжали найти способы вокруг них.
