Перейти до основного вмісту
Запит на надання послуг

      Штучний інтелект (ШІ) швидко стає вагомим рушієм змін у організаціях, сприяючи трансформації бізнесових моделей, операцій та процесів прийняття рішень. Від віртуальних помічників та автономних агентів до прогностичних систем та моделей оптимізації, ШІ допомагає переформатувати основні бізнес-процеси в таких сферах, як операційна діяльність, обслуговування клієнтів, управління персоналом та маркетинг.

      Нещодавнє дослідження, проведене Мельбурнським університетом у співпраці з KPMG, показує, що впровадження ШІ набирає обертів, але довіра залишається критичною проблемою, відображаючи коливання між перевагами та ризиками. Опитані повідомляють як про позитивні, так і про негативні наслідки використання ШІ. Хоча відзначається підвищення ефективності, доступності, поліпшення процесу прийняття рішень та інновацій, поширеними є побоювання щодо кібербезпеки, конфіденційності та інтелектуальної власності, дезінформації, розриву зв'язків між людьми, втрати робочих місць та декваліфікації. 

      Амбівалентність громадськості щодо ШІ є очевидною, а думки про те, чи виправдовують переваги всі ризики, пов’язані з ШІ, в розвинених економіках, розділилися.

      Так, наприклад, відповідаючи на запитання про ризики та негативні наслідки використання ШІ, 85% опитаних вбачають основні проблеми в ризиках кібербезпеки, поряд із втратою людського спілкування та зв'язку (наприклад, втратою можливості спілкуватися з постачальником послуг).

      Швидке впровадження моделей ШІ, особливо автономних агентів, які приймають рішення або взаємодіють із системами, створює нові вектори атак. Неправильно налаштований агент або агент, навчений на упереджених даних, може наражати системи на загрози або приймати рішення, що суперечать політиці безпеки організації.
      Геннадій Резніченко
      Геннадій Резніченко

      Директор, керівник напряму консультаційних послуг у сфері кібербезпеки, KPMG в Україні

      Крім того, ШІ посилює традиційні загрози та вразливості, перетворюючи їх на менш передбачуваний і швидко зростаючий ризик. З огляду на цю ситуацію виникає новий виклик, пов'язаний з фундаментальною двоїстістю: як забезпечити безпеку систем ШІ, одночасно використовуючи ШІ в конкретних сферах, таких як кібербезпека. Як підкреслюється в Звіті KPMG про питання кібербезпеки на 2025 рік (англ. Cybersecurity considerations 2025), основоположні принципи кібербезпеки, такі як закріплення довіри та переваги інтеграції ШІ в кібербезпеку та конфіденційність, стають ще більш важливими.

      Очікується, що подолання цієї двоїстості — використання ШІ для захисту та одночасний захист від ризиків ШІ — стане центральним елементом сучасних стратегій кібербезпеки.

      Розчарування та загрози, пов'язані зі штучним інтелектом

      Більшість програмних рішень зараз мають вбудований штучний інтелект, переважно у вигляді чат-ботів. Хоча вони можуть додати швидкості та зручності, вони також можуть значно ускладнити життя фахівцям з безпеки, які стикаються з «переходом між вікнами» — швидким перемиканням між декількома розмовами для моніторингу та управління різними системами. Це не просто проблема зручності використання: по мірі того, як інженерія підказок стає все більш досконалою, а зловмисники експериментують з «введенням підказок», кожна розмова стає потенційним вектором для маніпуляцій і неправильної конфігурації. З огляду на використання різних інструментів штучного інтелекту, команди з кібербезпеки можуть страждати від «розмовної втоми», що в деяких випадках може перешкоджати їхній здатності діяти швидко і рішуче.

      Неконтрольоване впровадження ШІ також може призвести до безконтрольного витоку даних. Інструменти ШІ можуть розкрити конфіденційні дані про організацію та її клієнтів, які можуть потрапити до рук третіх осіб. Окрім підвищення вразливості до атак, порушення безпеки даних також може призвести до порушення нормативних вимог і спричинити штрафи та втрату довіри зацікавлених сторін. Опитування KPMG показало, що однією з двох головних проблем для керівників служб безпеки є сумніви в якості даних або в їх повноті (30%).

      Багато організацій також стикаються з розривом між впровадженням штучного інтелекту на рівні підприємства, залученням команди з кібербезпеки та рішеннями штучного інтелекту для конкретних продуктів. Ці різні ресурси часто не інтегровані, що призводить до створення ізольованих чат-ботів зі штучним інтелектом. Важко застосовувати послідовний підхід до кібербезпеки, коли використовується так багато різних, фрагментованих інструментів штучного інтелекту, які можуть надавати різні повідомлення про загрози та інциденти.

      Штучний інтелект використовується не тільки організаціями для зміцнення кібербезпеки, зловмисники також використовують цю технологію для здійснення атак. 

      Як тільки вони виявляють вразливість, вони можуть швидко генерувати вектори атак і коди. Три чверті (76%) респондентів опитування заявляють, що вони стурбовані зростаючою складністю нових кіберзагроз і кібератак. Щоб уточнити ці дані, аналітики запитали, які типи зловмисників викликають у опитаних керівників служб безпеки найбільше занепокоєння. Майже дві третини відповіли, що це організовані групи кіберзлочинців, які використовують шкідливе програмне забезпечення, інсайдери (працівники або підрядники / постачальники) та окремі хакери та «хактивісти».

      З іншого боку, ШІ підвищує рівень кібербезпеки

      Оскільки ШІ має потенціал прискорювати та посилювати кіберризики, стає надзвичайно важливим інвестувати та вдосконалювати рішення за допомогою інструментів ШІ, які можуть відповідати швидкості, масштабу та складності нових загроз. Наведені нижче приклади стосуються необхідності посилення кібербезпеки, а також підвищення ефективності та рентабельності інвестицій:

      • Розширене виявлення загроз за допомогою поведінкового аналізу: штучний інтелект аналізує величезні обсяги даних, щоб виявити закономірності та аномалії, які можуть вказувати на зловмисну діяльність. На відміну від традиційних систем, що базуються на правилах, він може виявляти незначні або раніше невідомі загрози в режимі реального часу, допомагаючи скоротити час перебування зловмисника та запобігти шкоді на ранніх етапах ланцюжка атак.
      • Автоматизація управління ідентифікацією та доступом: штучний інтелект покращує контроль доступу, постійно оцінюючи поведінку користувачів та нелюдських об'єктів, динамічно коригуючи дозволи на основі контексту та ризику. Це допомагає зменшити ручну роботу, мінімізувати людські помилки та покращити захист від атак на основі ідентифікаційних даних.
      • Реагування на інциденти за допомогою штучного інтелекту: штучний інтелект допомагає командам з безпеки визначати пріоритетність сповіщень, співвідносити дані з різних джерел і навіть запускати автоматизовані заходи з локалізації інцидентів. Це може значно скоротити середній час виявлення та реагування, підвищуючи ефективність обмежених ресурсів безпеки.
      • Оцінка ризиків та відповідності вимог третіх сторін: ШІ прискорює оцінку зовнішніх партнерів шляхом перегляду документів, сертифікатів та поведінки у великих масштабах. Це допомагає швидко виявляти прогалини у відповідності вимогам та ризики безпеки, сприяючи оптимізації процесу належної перевірки та зменшенню вразливості ланцюга поставок.

      Це спонукає нас замислитися над тим, як ці можливості, що базуються на штучному інтелекті, можна ефективно структурувати та інтегрувати у багатовекторну систему кіберуправління, що дозволить організаціям підвищити рівень безпеки завдяки професійним рекомендаціям та постійній технічній підтримці.

      Як організації можуть інтегрувати штучний інтелект у свої заходи з безпеки, не збільшуючи при цьому складність або ризики? 

      Три кроки до побудови об'єднаної кібербезпеки (на основі ШІ)

      • Крок 1

        Створіть систему управління безпекою ШІ, яка дозволить керівникам служб інформаційної безпеки (CISO) та іншим керівникам контролювати, які моделі ШІ застосовуються в організації та в кожному програмному рішенні. Це дозволить уникнути одночасного впровадження занадто великої кількості різних інструментів та технологій автоматизації і допоможе вибрати ті, що найбільше відповідають потребам організації. Глобальний підхід фахівців KPMG базується на концепції Trusted AI framework, яка пропонує систему управління ШІ, побудовану на 10 стовпах, одним з яких є безпека. У цьому контексті основні виклики в галузі безпеки ШІ варіюються від впровадження цієї системи управління до розробки механізмів захисту для життєвого циклу цих систем, їх безпечної інтеграції з архітектурою та даними, а також перевірки компонентів ШІ.

      • Крок 2

        Штучний інтелект не повинен впроваджуватися окремими підрозділами організації, оскільки це часто призводить до дублювання та ускладнення процесів. Замість того, щоб винаходити велосипед, фахівці з кібербезпеки повинні співпрацювати з іншими командами для впровадження корпоративної платформи штучного інтелекту. Інтегруючи різні рішення з кібербезпеки в корпоративні рішення за допомогою спільного «двигуна» штучного інтелекту, всі діалогові підказки повинні координуватися через одну платформу, що допоможе зменшити або навіть потенційно усунути «перескакування підказок». А оскільки агентний ШІ стає більш вдосконаленим, автоматизовані агенти ШІ можуть почати взаємодіяти з програмно-специфічними агентами, щоб отримати бажані результати. Все це дає більш чітке, в режимі реального часу, загальне уявлення про загрози, які переміщуються в організації, що допомагає швидко їх локалізувати.

      • Крок 3

        Створіть захисні бар'єри в рамках штучного інтелекту, щоб захистити дані від ненавмисного розкриття. Використовуючи корпоративний штучний інтелект, організації можуть розробляти індивідуальні моделі на основі власних даних, а не покладатися на загальнодоступні дані, які використовуються в більшості великих мовних моделей. Такі моделі споживають значно менше обчислювальної потужності та дають більш надійні відповіді, оскільки інтегрують приватні набори даних і внутрішні технічні рішення.

      Велика потужність передбачає велику відповідальність

      «ШІ представляє безпрецедентну можливість трансформувати бізнес-процеси та посилити можливості кібербезпеки. Але водночас він створює складні ризики та нові площини для атак, які не можна ігнорувати. Ця двоїстість вимагає від організацій відповідальних дій, належних систем управління, технічних засобів контролю, постійного навчання та безперервної оцінки компонентів ШІ. — зазначає Геннадій Резніченко. — Якщо організації зможуть узгодити ініціативи з безпеки на основі ШІ з більш широкими стратегіями бізнесу, ризиків та безпеки, вони зможуть розкрити величезний потенціал ШІ в кібербезпеці. Це допоможе їм створити безпечне середовище, побудувати довіру та сприяти інноваціям».

      Trust, attitudes and use of artificial intelligence

      Trust, attitudes and use of artificial intelligence

      Звіт англійською мовою

      Завантажити
      window

      Мистецтво передбачити ризики, посилити захист та забезпечити стійкість бізнесу у будь-яких обставинах
      Докладніше