Уряд США опублікував нові рекомендації щодо безпеки AI для критичної інфраструктури

Великі можливості, що їх надають сьогодні технології штучного інтелекту та машинного навчання, використовуються, на жаль, не лише у цілях добра. Ними все частіше зловживають злочинці. На це навіть звернули увагу співробітники провідних розвідок світу. Зокрема альянс Five Eyes (FVEY), до якого входять Австралія, Канада, Нова Зеландія, Великобританія та США, опублікував інформаційний бюлетень з кібербезпеки, в якому були викладені основні рекомендації щодо того, як треба конфігурувати, розгортати та контролювати системи ШІ так, щоб вони не стали інструментом у руках зловмисників. 

Слідом за цим, використовуючи в т.ч. висновки експертів FVEY, новий посібник з безпеки у сфері ШІ випустив і DHS. Документ охоплює такі аспекти, як планування, експлуатація, управління та контроль ШІ-систем протягом усього життєвого циклу. 

Зокрема, рекомендується розробити комплексну культуру управління ризиками ШІ, застосовувати індивідуальний контекстний підхід до кожного проєкту, запровадити дієві метрики для оцінки, аналізу та відстеження вразливостей ШІ, вибудувати (на основі пріоритетів) систему реагування на загрози та інциденти. 

Однією із загроз, на боротьбу з якими спрямовані згадані рекомендації, є «злом» великих мовних моделей (LLM jailbreak). Все частіше зловмисникам вдається обійти вбудовані механізми захисту та спровокувати ШІ на створення шкідливого контенту. Для цього використовуються особливі послідовності ретельно продуманих питань або підказок, які поступово призводять до того, що LLM генерує інформацію, що заборонено показувати. 

Крім того, як виявило одне з недавніх наукових досліджень, за допомогою LLM вдається успішно зламувати сайти використовуючи метод «одноденних уразливостей» (exploit one-day vulnerabilities) — коли дірки у безпеці ШІ знаходить швидше, аніж розробник встигає їх закрити. 

Рекомендовані DHS передові методи охоплюють заходи із дотримання безпеки середовища розгортання, перевірку джерела моделей ШІ та безпеки ланцюжка постачання ПЗ, забезпечення надійної та перевіреної архітектури середовища розгортання, контроль конфігурацій, перевірку цілісності ШІ-системи та ін. Додатково рекомендовано реалізувати суворий контроль доступу до даних та моделей, а також запровадити надійний і прозорий процес журналювання всіх дій.