Co zrobić w sytuacji, gdy te inteligentne maszyny zostaną wykorzystane przez cyberprzestępców? Sztuczna inteligencja jeszcze wzmocni złośliwe oprogramowanie, będzie wykorzystywać pozyskane dane do wysyłania e-maili z phishingiem, które będą wyglądać jak autentyczne wiadomości wysłane przez człowieka – ostrzegał w artykule opublikowanym na łamach portalu BBC szef ds. bezpieczeństwa cybernetycznego w Capgemini UK, Andy Powell.

Jakie jest prawdopodobieństwo takiego zagrożenia? 

To nie jest teoretyczne zagrożenie, które może wydarzyć się w przyszłości. To realny problem. Inteligentne, złośliwe oprogramowanie, samodzielnie mutujące exploity lub automatycznie generowany i dynamicznie zmieniający się spam już od jakiegoś czasu istnieją.

Oczywiście, sztuczna inteligencja jest bardzo szerokim terminem, a możliwości najczęściej spotykanego dzisiaj złośliwego oprogramowania i narzędzi służących do cyberataków są bliższe inteligentnemu termostatowi niż komputerowi HAL 9000 z filmu 2001: Odyseja kosmiczna, ale trend jest wyraźnie widoczny.

Zachętą dla cyberprzestępców do sięgania po rozwiązania bazujące na sztucznej inteligencji jest fakt, że wykrywanie złośliwego oprogramowania jest powszechnie realizowane w oparciu o sygnatury. Dlatego złośliwy kod musi się zaadaptować i następnie ewoluować, aby skutecznie działać unikając wykrycia. Ponadto szkodliwe oprogramowanie może być znacznie bardziej efektywne, jeśli będzie miało możliwość podejmowania własnych decyzji i wyboru odpowiedniej broni w oparciu o rozpoznanie środowiska, w którym się znalazło.

Jak powinno zmienić się podejście do cyberbezpieczeństwa, by powstrzymać to zagrożenie?

Przede wszystkich trzeba wyjść poza metody wykrywania złośliwego oprogramowania w oparciu o sygnatury.

Eksperci firmy Balabit ostrzegają, że nie wystarczą już proste działania prewencyjne podejmowane przeciwko atakom, które już zdążyły ujrzeć światło dzienne. Specjaliście od bezpieczeństwa IT muszą zrobić dwie rzeczy:

1. podnieść poprzeczkę, jeśli chodzi o bezpieczeństwo systemu operacyjnego i aplikacji. Złośliwe oprogramowanie bezlitośnie wykorzystuje wady i luki pozostawione w tych systemach. Należy przeprowadzać bardziej rygorystyczne testy, aby wyeliminować jak najwięcej błędów logicznych i błędów w programowaniu, które mogłyby być wykorzystane przez cyberprzestępców.
2. przystąpić do „wyścigu zbrojeń” i wykorzystywać siłę sztucznej inteligencji również do działań obronnych. Firmy oferujące programy antywirusowe robią to już od jakiegoś czasu, ale pojawienie się na rynku rozwiązań służących do analizy zachowań użytkownika (User Behavior Analysis) pokazuje, że istnieje potrzeba stosowania takich algorytmów w tym zakresie .

Jakie jest bezpośrednie zagrożenie ze strony cyberprzestępców wykorzystujących sztuczną inteligencję? 

Najtrudniejsza jest sytuacja, kiedy cyberprzestępcy zaczynają opracowywać metody, które starają się osłabiać i dezorientować algorytmy obronne AI. Problem znany jest w przestrzeni badawczej jako „adversarial machine learning” („przeciwne uczenie maszynowe”) i jest szczególnie trudnym wyzwaniem do pokonania. Sprawienie, by komputer „uczył się” w prawidłowy sposób nie jest łatwe: dane z prawdziwego życia są nieuporządkowane, a ataki stosunkowo rzadkie, co znacznie utrudnia pracę sztucznej inteligencji. Tworzenie algorytmów, które są odporne na działania podjęte przez inteligentnego napastnika, który celowo działa tak, by je zmylić, wymaga szczególnej ostrożności i wiedzy.