Последний отчет Gartner показывает, что Cyberatcks с AI, работающими с AI, стали самым большим риском, сталкивающимися с предприятиями и были ранжированы первыми в течение трех четвертей. Отчет основан на опросе 286 высокопоставленных руководителей риска и аудита, и 80% респондентов выразили обеспокоенность по поводу злонамеренных атак, связанных с Эфи. Злоумышленники используют ИИ для написания вредоносных программ, создания реалистичных фишинговых электронных писем и даже проводят крупномасштабные распределенные атаки отказа в обслуживании. Применение ИИ снижает порог для киберпреступности, позволяя злоумышленникам с более низкими техническими уровнями легко выполнять сложные кибератаки, что ставит серьезные проблемы для защиты безопасности предприятия.
Согласно последнему отчету, опубликованному Gartner, применение искусственного интеллекта (ИИ) в кибератаке стало самым большим риском, сталкивающимся с предприятиями для трех кварталов подряд.
Консалтинговая фирма опросила 286 высокопоставленных руководителей риска и аудита в период с июля по сентябрь и обнаружила, что 80% респондентов выразили глубокую обеспокоенность по поводу злонамеренных нападений, усиленных AI. Эта тенденция не удивительна, так как есть доказательства того, что кибератаки с использованием ИИ находятся на подъеме.
Примечания источника изображения: изображение генерируется ИИ, а изображение авторизованное поставщик услуг Midjourney
В отчете также перечислены некоторые другие возникающие риски, в том числе A-A-A-Advisted Information, вводящую в заблуждение, растущую политическую поляризацию и несоответствующее распределение организационных талантов. Злоумышленники используют ИИ для написания вредоносных программ, создавать фишинговые электронные письма и многое другое. Возьмите HP в качестве примера, исследователи перехватили кампанию по электронной почте, которая распространяет вредоносное ПО в июне, подозревая, что его сценарии были написаны с помощью генеративного ИИ. Сценарий хорошо структурирован, и у каждой команды есть комментарии, которые не распространены в ручном письме.
Согласно данным о безопасности компании VIPRE, количество атак мошенничества с электронными письмами в бизнес -электронном виде увеличилось на 20% во втором квартале 2023 года по сравнению с аналогичным периодом прошлого года, причем почти 50% из которых были получены ИИ. Генеральные директора, HRS и ИТ -персонал являются основными целями. Главный директор Vipre по продукту и технологиям Усман Чоудхари сказал, что преступники используют сложные алгоритмы ИИ для создания убедительных фишинговых электронных писем, которые имитируют тон и стиль законных общений.
Кроме того, розничные места перенесли в среднем 569 884 атаки с AI в день, согласно отчету Imperva Wreate Research. Исследователи отметили, что такие инструменты, как CHATGPT, Claude и Gemini, а также роботы, которые специализируются на сканировании данных веб -сайта для обучения крупных языковых моделей, используются для выполнения таких видов деятельности, как распределенное отказ в атаках обслуживания и злоупотребление бизнес -логикой.
Все больше и больше этических хакеров также признали использование генеративного искусственного интеллекта, а процент увеличился с 64% в прошлом году до 77%. Исследователи говорят, что ИИ может помочь с многоканальными атаками, атаками впрыскивания отказа и автоматическими атаками, которые могут одновременно атаковать несколько устройств. Таким образом, если «хорошие люди» думают, что ИИ полезен, «плохие люди» также будут использовать эту технологию.
Рост ИИ не удивителен, потому что оно снижает порог для киберпреступности, позволяя преступникам с более низким техническим уровнем использовать ИИ для создания глубокой подделки, сканирования сетевых порталов, разведывательных данных и т. Д. Исследователи из Швейцарского федерального технологического института недавно разработали модель, которая может решить проблему Google Recaptcha V2 100%. Аналитики в области охранной компании Radware предсказали в начале этого года, что появление частных моделей GPT будет использоваться для вредоносных целей, а количество уязвимостей нулевого дня и мошенничества с глубоким происхождением будет соответствующим образом.
Гартнер также отметил, что ключевые проблемы ИТ -поставщиков были в списке руководителей впервые. Захари Гинзбург, старший директор по рискам и практике аудита в Gartner, сказал, что клиенты, которые находятся в центре зависимости от одного поставщика, могут столкнуться с более высокими рисками. Так же, как инцидент, который DSTRIKE произошел в июле, парализуя 8,5 миллиона устройств Windows по всему миру, что оказало огромное влияние на аварийные службы, аэропорты и правоохранительные органы.
Короче говоря, двойной эффект Меча технологии искусственного интеллекта становится все более заметным. сетевые атаки и обеспечивают свою собственную безопасность в цифровую эпоху.