ШІ посилює кіберзлочинність, оскільки шахрайство зростає швидше, дешевше та складніше для виявлення

Кіберзлочинці використовують штучний інтелект для здійснення більш складних схем. Вони націлюються на все — від пенсійних заощаджень до корпоративних секретів — методами, які стає дедалі важче виявити.

Ту саму технологію, яка підбирає рекламу для онлайн-покупців, зловмисники тепер використовують для збору особистих даних і швидкого запуску індивідуальних онлайн шахрайств. Дуже швидко.

Великі ШІ-компанії, як-от Anthropic, OpenAI та Google, повідомляють, що злочинці використовують їхні платформи для організації складних фішингових операцій, розробки шкідливого програмного забезпечення та здійснення різноманітних цифрових атак. Фахівці з безпеки попереджають, що злочинці також створюють підроблені аудіо- та відеоролики керівників компаній, щоб обманом змусити співробітників розкрити конфіденційну інформацію.

Підприємства та урядові установи незабаром можуть зіткнутися з натовпами систем на основі ШІ, які можуть виявляти слабкі місця в комп'ютерних мережах, а потім планувати та здійснювати атаки практично без участі людини.

Технологія змінює те, як злочинці діють онлайн. Еліс Марвік очолює дослідження в Data & Society, незалежній організації з дослідження технологій. Вона розповіла Wall Street Journal, що найбільша зміна стосується розміру та охоплення. "Справжня зміна — це масштаб і обсяг. Онлайн шахрайство стає більшим, більш цілеспрямованим, більш переконливим."

Брайан Сінгер — докторант Університету Карнегі-Меллон. Він вивчає, як великі мовні моделі використовуються в кібератаках та захисті. Його оцінка? Половина або три чверті світового спаму та фішингових повідомлень тепер надходять від ШІ-систем.

Самі атаки стали більш правдоподібними. ШІ-системи, навчені на корпоративних комунікаціях, можуть створювати тисячі повідомлень, які звучать природно та відповідають стилю компанії. Вони копіюють, як пишуть керівники. Вони згадують останні новини, знайдені в публічних записах.

Технологія також допомагає зарубіжним шахраям приховувати мовні помилки, які раніше робили їхні спроби очевидними. Злочинці можуть видавати себе за жертв через підроблені відео та скопійовані голоси. Вони використовують ту саму підроблену особу для націлювання на кілька людей одночасно.

Джон Халтквіст — головний аналітик Google Threat Intelligence Group. Він описує головну зміну як "довіру в масштабі".

Зловмисники також стають кращими у виборі цілей. Вони використовують ШІ для перегляду соціальних мереж і пошуку людей, які стикаються з серйозними життєвими труднощами. Розлучення, смерть у сім'ї, втрата роботи та ситуації, які можуть зробити когось більш уразливим до романтичних обманів, інвестиційного шахрайства або фальшивих пропозицій роботи.

Ринки темної мережі знижують бар'єр входу

Бар'єр входу в кіберзлочинність знизився. Підпільні ринки тепер продають або здають в оренду ШІ-інструменти для злочинної діяльності всього за 90 доларів на місяць. Ніколя Крістен очолює відділ програмного забезпечення та соціальних систем Карнегі-Меллон.

Він сказав, що ці платформи мають різні рівні цін і підтримку клієнтів. "Розробники продають підписки на платформи атак з рівневими цінами та підтримкою клієнтів."

Ці сервіси мають назви на кшталт WormGPT, FraudGPT та DarkGPT. Вони можуть створювати шкідливе програмне забезпечення та фішингові кампанії. Деякі навіть включають навчальні матеріали з технік хакерства.

Маргарет Каннінгем — віце-президент з безпеки та ШІ-стратегії в Darktrace, компанії з безпеки. Вона каже, що це просто. "Вам не потрібно знати, як кодувати, лише де знайти інструмент."

Є нещодавня розробка під назвою vibe-coding або vibe-hacking. Вона може дозволити майбутнім злочинцям використовувати ШІ для створення власних шкідливих програм, а не купувати їх з підпільних джерел. Anthropic повідомила раніше цього року, що зупинила кілька спроб використати свій Claude AI для створення програм-вимагачів "злочинцями з невеликими технічними навичками".

Самі злочинні операції змінюються. Кіберзлочинність працює як бізнес-ринок уже кілька років, за словами експертів. Типова операція з програмами-вимагачами включала різні групи. Брокери доступу, які проникали в мережі компаній і продавали вхід. Команди вторгнення, які рухалися системами, крадучи дані. І постачальники програм-вимагачів як послуги, які випускали зловмисне ПЗ, вели переговори та ділили гроші.

Швидкість та автоматизація змінюють злочинні мережі

ШІ збільшив швидкість, розмір та доступність цієї системи. Робота, яку раніше виконували люди з технічними знаннями, тепер може виконуватися автоматично. Це дозволяє цим групам працювати з меншою кількістю людей, меншим ризиком і вищими прибутками. "Думайте про це як про наступний рівень індустріалізації. ШІ збільшує продуктивність без необхідності більше кваліфікованої робочої сили", пояснює Крістен.

Чи може ШІ запускати атаки повністю самостійно? Поки що ні. Експерти порівнюють ситуацію з прагненням до повністю самокерованих транспортних засобів. Перші 95% досягнуто. Але остання частина, яка дозволила б автомобілю їздити будь-де, будь-коли самостійно, залишається недосяжною.

Дослідники тестують хакерські здібності ШІ в лабораторних умовах. Команда з Карнегі-Меллон за підтримки Anthropic відтворила відому витік даних Equifax, використовуючи ШІ раніше цього року. Сінгер очолював роботу в Інституті безпеки та конфіденційності CyLab Карнегі-Меллон. Він називає це "великим стрибком".

Злочинці використовують ШІ у шкідливих цілях. Але ШІ-компанії кажуть, що ті самі інструменти можуть допомогти організаціям зміцнити свій цифровий захист.

Anthropic та OpenAI створюють ШІ-системи, які можуть безперервно перевіряти програмний код для виявлення слабких місць, які злочинці можуть використати. Однак люди все одно повинні затверджувати будь-які виправлення. Нещодавня ШІ-програма, розроблена дослідниками Стенфорда, працювала краще, ніж деякі люди-тестувальники при пошуку проблем безпеки в мережі.

Навіть ШІ не зупинить усі порушення. Ось чому організації повинні зосередитися на створенні надійних мереж, які продовжують працювати під час атак, каже Халтквіст.

Якщо ви читаєте це, ви вже попереду. Залишайтеся там з нашою розсилкою.