AI a RODO — obowiązki przy wdrożeniu sztucznej inteligencji w firmie

Wdrożenie sztucznej inteligencji nie tworzy nowej kategorii obowiązków — dotyczą go te same przepisy o ochronie danych, co każdego innego przetwarzania. Zmienia się jednak skala i charakter ryzyka: dane trafiają do zewnętrznego dostawcy, bywają przetwarzane poza Unią, a system potrafi wyciągać wnioski, których nikt wprost nie zaprogramował. To sprawia, że część obowiązków, zwykle traktowanych formalnie, nabiera realnego znaczenia.

Autor: zespół Convert Studio — software house z Kielc i Krakowa, projektujemy aplikacje webowe, sklepy i wdrożenia AI dla firm.

Kiedy RODO w ogóle ma zastosowanie

Przepisy dotyczą przetwarzania danych osobowych — informacji o zidentyfikowanej lub możliwej do zidentyfikowania osobie fizycznej. System AI, który klasyfikuje anonimowe opisy produktów, nie przetwarza danych osobowych. System, który czyta korespondencję z klientami, streszcza rozmowy handlowe albo wyciąga dane z faktur wystawionych przez przedsiębiorców będących osobami fizycznymi — przetwarza.

Warto pamiętać, że danymi osobowymi są także informacje pośrednie: numer telefonu, adres e-mail z imieniem i nazwiskiem, identyfikator klienta powiązany z historią zakupów. Większość wdrożeń w obsłudze klienta, sprzedaży i dokumentach firmowych wchodzi w zakres przepisów.

Obowiązki w pigułce

Podstawa prawna dla nowego celu

Dane zebrane w jednym celu nie mogą być swobodnie wykorzystywane w innym. Adres e-mail podany w formularzu kontaktowym służy obsłudze zapytania — użycie treści tego zapytania do analizy nastrojów klientów albo profilowania to nowy cel, który wymaga oceny.

W praktyce przy wdrożeniach wspierających obsługę klienta podstawą bywa prawnie uzasadniony interes administratora albo wykonanie umowy. Przy wykorzystaniu danych do celów wykraczających poza pierwotne oczekiwania osoby — zwykle potrzebna jest analiza zgodności celów, a czasem zgoda. Tę ocenę warto przeprowadzić i zapisać, zanim system zacznie działać.

Umowa powierzenia z dostawcą modelu

Dostawca modelu, któremu przekazujesz dane klientów do przetworzenia, działa zwykle jako podmiot przetwarzający w Twoim imieniu. Wymaga to umowy określającej zakres, cel, czas przetwarzania i obowiązki stron.

• Zakaz wykorzystywania danych do własnych celów dostawcy, w tym do trenowania modeli.
• Okres przechowywania przesłanych treści i sposób ich usunięcia.
• Lokalizacja przetwarzania i podstawa ewentualnego transferu poza EOG.
• Lista podwykonawców dostawcy i tryb informowania o zmianach.
• Środki bezpieczeństwa stosowane przez dostawcę.
• Obowiązek zgłaszania naruszeń w terminie pozwalającym dotrzymać Twojego terminu zgłoszenia do organu.
• Pomoc w realizacji praw osób, których dane dotyczą.

Duzi dostawcy udostępniają standardowe umowy do akceptacji w panelu. Warto sprawdzić, czy umowa została faktycznie zawarta i czy obejmuje usługę, z której korzystasz — warunki kont konsumenckich i biznesowych bywają zupełnie różne, o czym pisaliśmy w materiale o danych firmowych w modelach chmurowych.

Obowiązek informacyjny

Osoby, których dane dotyczą, mają prawo wiedzieć, że ich dane przetwarza system AI i kto jest odbiorcą tych danych. W polityce prywatności warto uwzględnić:

• Cel przetwarzania z użyciem AI, opisany zrozumiale, a nie ogólnikiem o „nowoczesnych technologiach".
• Kategorię odbiorców — dostawców usług AI.
• Informację o transferze poza EOG, jeśli ma miejsce.
• Informację o zautomatyzowanym podejmowaniu decyzji, jeśli występuje, wraz z zasadami jego działania.
• Okres przechowywania danych przetwarzanych przez system.

Przy systemach rozmawiających z klientami dochodzi dodatkowy wymóg przejrzystości: rozmówca powinien wiedzieć, że komunikuje się z systemem, a nie z człowiekiem.

Ocena skutków dla ochrony danych

Ocena skutków jest obowiązkowa, gdy przetwarzanie może powodować wysokie ryzyko dla praw osób. Przy wdrożeniach AI przesłanki pojawiają się często.

• Przetwarzanie na dużą skalę.
• Wykorzystanie nowych technologii.
• Profilowanie i ocena osób — na przykład scoring klientów czy analiza zachowań.
• Dane szczególnych kategorii, w tym dotyczące zdrowia.
• Decyzje wpływające na dostęp do usług lub warunki umowy.
• Monitorowanie pracowników.

Ocena powinna opisywać przetwarzanie, oceniać jego niezbędność i proporcjonalność, identyfikować ryzyka oraz wskazywać środki ich ograniczenia. Przeprowadza się ją przed rozpoczęciem przetwarzania, nie po fakcie.

Decyzje zautomatyzowane

To obszar, w którym wdrożenia AI najczęściej wchodzą w konflikt z przepisami bez świadomości właściciela. Osoba ma prawo nie podlegać decyzji opartej wyłącznie na zautomatyzowanym przetwarzaniu, która wywołuje wobec niej skutki prawne lub w podobny sposób istotnie na nią wpływa.

Najprostszym sposobem uniknięcia problemu jest projektowanie systemów, w których AI przygotowuje rekomendację, a decyzję podejmuje człowiek — i to rzeczywiście, a nie formalnie zatwierdzając wszystko bez czytania. O granicach takich zastosowań pisaliśmy przy okazji AI w obsłudze klienta.

Realizacja praw osób

Wdrożenie AI nie zmienia katalogu praw, ale może utrudnić ich realizację. Osoba żądająca dostępu do swoich danych ma prawo wiedzieć także o tych, które trafiły do systemu AI. Żądanie usunięcia obejmuje również kopie przechowywane w dziennikach systemu i u dostawcy.

Warto zaprojektować system tak, żeby dało się ustalić, jakie dane konkretnej osoby zostały przetworzone i gdzie są przechowywane. Rejestr zapytań powiązany z identyfikatorem klienta rozwiązuje ten problem, zanim się pojawi.

Bezpieczeństwo danych w systemie AI

Przepisy wymagają stosowania środków technicznych i organizacyjnych odpowiednich do ryzyka. W systemach opartych na modelach językowych ryzyka mają swoją specyfikę, której klasyczne zabezpieczenia nie obejmują.

• Minimalizacja kontekstu. Do modelu trafiają wyłącznie dane niezbędne do konkretnej odpowiedzi, a nie cała kartoteka klienta.
• Maskowanie przed wysłaniem. Numery identyfikacyjne, rachunków i dokumentów usuwane automatycznie, jeśli zadanie ich nie wymaga.
• Rozdzielenie uprawnień. System obsługujący klientów nie ma dostępu do danych kadrowych ani finansowych.
• Ochrona przed manipulacją instrukcjami. Treść dostarczona przez użytkownika albo zawarta w dokumencie może próbować zmienić zachowanie systemu i wydobyć dane innych osób.
• Retencja dzienników. Zapisy rozmów przechowywane tylko tak długo, jak to uzasadnione, i usuwane zgodnie z określonym terminem.
• Procedura naruszenia. Ustalone, kto ocenia incydent i zgłasza go organowi w wymaganym terminie.

Ta ostatnia pozycja bywa pomijana, a przy systemach AI ma znaczenie praktyczne: wyciek przez błędnie skonfigurowany system jest trudniejszy do zauważenia niż włamanie, bo nie zostawia oczywistych śladów. Regularny przegląd dziennika zapytań bywa jedynym sposobem, żeby go wychwycić.

Warto też pamiętać, że dokumentacja zgodności nie jest jednorazowa. Każda zmiana dostawcy modelu, rozszerzenie zakresu danych albo nowe zastosowanie systemu wymaga przeglądu podstawy prawnej, umowy powierzenia i polityki prywatności. Najprościej wpisać ten przegląd do procedury zmiany systemu, żeby nie zależał od czyjejś pamięci.

Podsumowanie

AI nie jest wyłączona spod przepisów o ochronie danych, ale też nie wymaga tworzenia osobnego systemu zgodności. Wystarczy potraktować ją jak każde nowe przetwarzanie: ustalić podstawę prawną, zawrzeć umowę powierzenia, poinformować osoby, zaktualizować rejestr i — przy wyższym ryzyku — przeprowadzić ocenę skutków.

Zacznij od sprawdzenia, z jakiej usługi korzysta Twoje wdrożenie i czy została zawarta umowa powierzenia. To pytanie rozstrzyga o zgodności częściej niż wszystkie pozostałe razem wzięte. Następnie przejrzyj, czy system gdziekolwiek rozstrzyga o sytuacji klienta bez udziału człowieka — jeśli tak, to miejsce wymaga zmiany projektu, a nie tylko dokumentacji. Szerzej o obowiązkach na stronie internetowej pisaliśmy w materiale o RODO a strona internetowa, a o wdrożeniach AI — na stronie AI w firmie.