Ryzyka związane z korzystaniem z AI

Korzystanie z narzędzi opartych o sztuczną inteligencję (AI) generuje podwyższone ryzyko:

• Naruszenia praw autorskich
• Naruszenia poufności
• Nieuprawnionego ujawnienia danych

Eksperci Baker McKenzie zwracają uwagę, że zgodnie z projektowanymi regulacjami to firmy korzystające z rozwiązań AI, a nie ich twórcy czy dostawcy, ponoszą odpowiedzialność za naruszenia praw.

Zabezpieczanie interesów użytkowników AI

W umowach na usługi AI praktyką rynkową staje się zabezpieczenie sytuacji użytkownika poprzez przenoszenie odpowiedzialności za działanie systemów AI z powrotem na dostawcę.

Kluczowe regulacje i wytyczne

1. Unijne rozporządzenie AI Act (wejdzie w życie w całości za dwa lata)
2. Wytyczne formułowane przez instytucje publiczne w oparciu o założenia do AI Act
3. Katalog klauzul sugerowanych wydany przez Komisję Europejską (dotyczący umów zawieranych z dostawcami przez urzędy unijne)

Eksperci Baker McKenzie spodziewają się, że klauzule te staną się inspiracją dla rynku i przenikną również do prywatnych umów.

Stanowisko ekspertów

Marcin Fijałkowski, partner kierujący praktyką IP Tech w kancelarii Baker McKenzie, stwierdza:

Przedsiębiorcy nie czekają na ustabilizowanie się sytuacji prawnej wokół narzędzi AI, ponieważ nie chcą utracić przewagi konkurencyjnej, jaką może dać im nowa technologia. Jednak korzystanie w obecnej sytuacji prawnej z AI wymaga od nich zarówno korekty dotychczasowych praktyk i polityk związanych z ochroną danych osobowych, jak i przewidywania przyszłości i swoich przyszłych zobowiązań prawnych.

Potencjalne ryzyka dla przedsiębiorców

1. Niezamierzone błędy w modelu AI lub w danych używanych do trenowania narzędzia, których efektem będzie nieadekwatny wynik – na przykład dyskryminujący lub sugerujący działania niezgodne z prawem
2. Spory dotyczące własności treści wytworzonych przy wsparciu AI
3. Spory dotyczące danych wejściowych używanych do trenowania modelu
4. Nieuprawnione wykorzystanie lub ujawnienie informacji poufnych
5. Naruszenie ochrony danych osobowych

Modelowe klauzule umowne - korzyści i wyzwania

Jakub Falkowski, senior counsel w praktyce IP Tech w Baker McKenzie, komentuje:

Katalog zaproponowanych modelowych klauzul na kontraktowanie w obszarze AI w instytucjach publicznych stanowi pewien drogowskaz ale też duże ułatwienie z punktu widzenia przedsiębiorców nie działających w sektorze publicznym, jednak dostawcy usług AI powinni zwrócić szczególną uwagę na warunki, jakie przyjmują, jeśli umowę oparto właśnie na tych wstępnych propozycjach opublikowanych na stronach internetowych Komisji Europejskiej. Klauzule te bowiem są bardzo restrykcyjne dla dostawców, a w niektórych przypadkach praktycznie niemożliwe do zaakceptowania przez dostawców.

Zobowiązania dostawców według modelowych klauzul

Projekt modelowych klauzul sugeruje:

• Całkowite przenoszenie na dostawcę obowiązków opisanych w AI Act
• Zapewnienie obszernej dokumentacji
• Wdrożenie rozbudowanych systemów zarządzania ryzykiem i jakością
• Wprowadzenie procedur dotyczących:
• Kontroli systemów AI
• Zarządzania danymi
• Zgłaszania incydentów
• Zagwarantowanie, że system będzie przetestowany, przejrzysty i umożliwi zrozumienie, które jego elementy odpowiadają za uzyskany wynik
• Pokazanie, jak zmiana danych wejściowych wpływa na wynik i jakie informacje należałoby podać, by uzyskać inny rezultat
• Zagwarantowanie, by dane treningowe, walidacyjne i testowe używane do stworzenia systemu były adekwatne i niestronnicze w stosunku do kontekstu, w jakim mają być użyte

Wyzwania w negocjowaniu umów

Marcin Fiałka, senior associate w zespole IP Tech w Baker McKenzie, ostrzega:

Tego rodzaju zapisy kontraktowe wyglądają dobrze na papierze, ale często są niemożliwe do spełnienia. Mamy świadomość, że obszar odpowiedzialności w umowach jest niezwykle trudny do negocjowania, ale przestrzegałbym dostawców systemów AI przed pokusą automatycznego przyjmowania tak daleko idących zapisów i zakładaniem, że kontrahent nie podejmie próby ich egzekwowania w praktyce. Dotyczy to w równej mierze wszystkich potencjalnych obszarów odpowiedzialności, w tym za naruszenie ochrony danych osobowych lub za bezprawne wykorzystanie cudzych informacji poufnych. Szczególnie wrażliwym obszarem wydają się dane osobowe, gdzie potencjalna odpowiedzialność finansowa może sięgać astronomicznych kwot.

Przyszłość regulacji AI

Zdaniem ekspertów Baker McKenzie, obecnie mamy do czynienia z transformacją biznesu AI w kierunku dziedziny o wysokim poziomie regulacji, natomiast w kontraktowaniu tych usług najistotniejsze będzie przełożenie odgórnych regulacji na zapisy umowne.

Martyna Czapska, senior associate w zespole IP Tech w Baker McKenzie, podsumowuje:

Najistotniejsza z punktu widzenia przedsiębiorców jest świadomość, że AI będzie jednym z najsilniej regulowanych obszarów biznesu. Pod względem prawnym poziom tych regulacji można porównać tylko do takich obszarów jak regulacje sektora finansowego czy newralgicznych typów produktów, na przykład produktów medycznych. Przepisy prawne dopiero powstają, ale kontraktowanie usług już teraz powinno uwzględniać reguły, które dopiero zostaną przetestowane w praktyce.