Weryfikacja przewoźnika za pomocą AI. Szybko, wygodnie i… czy na pewno bezpiecznie?


Sztuczna inteligencja coraz częściej trafia do codziennej pracy spedytorów. I trudno się temu dziwić.
AI może w kilka sekund przeanalizować polisę OCP, podsumować umowę, wyciągnąć z dokumentu najważniejsze informacje, wskazać potencjalne rozbieżności czy przygotować listę elementów wymagających dalszego sprawdzenia.
Problem pojawia się jednak wtedy, kiedy narzędzie wspierające zaczynamy traktować jak narzędzie weryfikujące. W procesie weryfikacji przewoźnika pojawiają się bowiem dwa zupełnie różne rodzaje ryzyka:
Pierwsze dotyczy informacji, które przekazujemy do AI.
Drugie – informacji, które otrzymujemy od AI.
Polisa OCP, umowa z kontrahentem, czy inne dokumenty wykorzystywane w procesie weryfikacji mogą zawierać dane osobowe oraz informacje poufne.
Mogą pojawić się w nich m.in. dane osób reprezentujących przedsiębiorstwo, dane kontaktowe, podpisy czy informacje wynikające z relacji handlowej pomiędzy stronami. Jeżeli taki dokument zostaje przesłany do zewnętrznej usługi AI, znajdujące się w nim dane są przetwarzane w ramach działania tej usługi. I tutaj pojawia się jedno z najczęstszych nieporozumień związanych z korzystaniem ze sztucznej inteligencji:
„Moje dane nie są wykorzystywane do trenowania modelu” nie oznacza „moje dane nie są przetwarzane”.
Żeby system AI mógł przeanalizować dokument i wygenerować odpowiedź, przekazane informacje muszą zostać przetworzone. To, co może się natomiast różnić w zależności od dostawcy, wersji usługi, konfiguracji oraz zawartych umów, to m.in. cel i zakres przetwarzania, retencja danych, zasady bezpieczeństwa czy możliwość wykorzystania treści do ulepszania modeli.
Przykładowo w osobistych przestrzeniach ChatGPT Free, Plus i Pro użytkownik może wyłączyć wykorzystywanie nowych rozmów do ulepszania modeli. W usługach biznesowych, takich jak ChatGPT Business i Enterprise, OpenAI deklaruje, że danych organizacji domyślnie nie wykorzystuje do trenowania modeli.
Ale jeszcze raz: brak wykorzystywania danych do treningu nie oznacza braku ich przetwarzania.
OpenAI w swoim Data Processing Addendum dla objętych nim usług biznesowych określa również zasady, na jakich przetwarza dane klientów zgodnie z ich instrukcjami. I właśnie dlatego pytanie spedytora nie powinno ograniczać się do: „Czy AI będzie trenowane na tym dokumencie?”
Powinno być znacznie szersze: Czy moja organizacja w ogóle pozwala przekazywać takie dane temu narzędziu? Na jakich zasadach będą one przetwarzane? Czy mamy do tego odpowiednią podstawę i właściwie uregulowaną relację z dostawcą?
Samo przetwarzanie danych przez narzędzie AI nie oznacza automatycznie naruszenia RODO. Albowiem RODO nie zakazuje przetwarzania danych – określa natomiast zasady, na jakich powinno się ono odbywać, w tym m.in. zgodność z prawem, ograniczenie celu, minimalizację danych oraz odpowiednie bezpieczeństwo.
To zależy od treści konkretnej umowy.
Jeżeli NDA pozwala na udostępnianie informacji określonym dostawcom usług, podwykonawcom lub innym upoważnionym podmiotom po spełnieniu określonych warunków, korzystanie z narzędzia AI może mieścić się w tych zasadach. Jeżeli jednak umowa ogranicza krąg podmiotów, którym informacje mogą być przekazywane, korzystanie z zewnętrznej usługi AI bez odpowiedniego umocowania może rodzić problem z punktu widzenia obowiązku zachowania poufności.
Co ważne, nie należy tutaj automatycznie przenosić terminologii z NDA na RODO. Na gruncie RODO „podmiot przetwarzający” i „strona trzecia” są odrębnymi pojęciami. Dlatego stwierdzenie, że „każdy dostawca AI jest osobą trzecią w rozumieniu RODO”, byłoby zbyt dużym uproszczeniem.
W praktyce trzeba więc sprawdzić zarówno zasady ochrony danych osobowych, jak i treść konkretnego zobowiązania do poufności.
I dopiero wtedy pojawia się drugie ryzyko. Bo nawet jeśli kwestie przetwarzania danych oraz poufności zostały prawidłowo uregulowane, nadal pozostaje pytanie:
Załóżmy, że spedytor wpisuje: „Zweryfikuj tego przewoźnika.” Kilka sekund później otrzymuje profesjonalnie wyglądający raport.
Wygląda świetnie.
Tylko skąd dokładnie pochodzą te dane? Czy model sprawdził aktualny wpis bezpośrednio w oficjalnym rejestrze? Czy korzystał z danych dostępnych na innych stronach internetowych? Czy informacja pochodziła z wyszukiwarki, z pośredniego agregatora danych, z dokumentu przesłanego przez użytkownika, czy może z wiedzy zapisanej wcześniej w modelu?
I przede wszystkim:
na jaki dzień i godzinę aktualne były te informacje? To nie jest detal techniczny. To sedno weryfikacji.
Model językowy może wygenerować odpowiedź, która brzmi bardzo przekonująco, mimo że zawiera błąd. Sami dostawcy modeli zwracają uwagę, że systemy AI nadal mogą generować informacje nieprawidłowe i że istotne dane powinny być sprawdzane w źródłach. Dlatego odpowiedź:
„AI potwierdziło, że przewoźnik ma licencję” nie jest tym samym co: „11 sierpnia o godz. 10:42 sprawdziliśmy przedsiębiorcę w KREPTD i zapisaliśmy wynik weryfikacji.”
Krajowy Rejestr Elektroniczny Przedsiębiorców Transportu Drogowego udostępnia dane właśnie w celu umożliwienia weryfikacji przedsiębiorców transportowych. Podobnie w przypadku ubezpieczenia – część zakładów ubezpieczeń udostępnia własne kanały pozwalające potwierdzić ochronę ubezpieczeniową. To właśnie oficjalne źródło powinno być punktem odniesienia.
Dopóki transport przebiega bez problemu, odpowiedź wygenerowana przez AI może wyglądać jak ogromna oszczędność czasu. Prawdziwy test zaczyna się dopiero wtedy, kiedy pojawia się szkoda. Jeżeli jedynym śladem procesu jest odpowiedź modelu AI, może być bardzo trudno wykazać:
Nie należy więc zakładać, że sama odpowiedź AI będzie wystarczającym potwierdzeniem dochowania należytej staranności.
Zakres dokumentów wymaganych przy szkodzie będzie zależał m.in. od konkretnej polisy, OWU, okoliczności zdarzenia i stanowiska ubezpieczyciela. Dlatego profesjonalny proces powinien pozostawiać po sobie możliwy do odtworzenia ślad weryfikacyjny – oparty na źródłach, które można później wskazać i udokumentować.
Nie. AI może świetnie:
Ale istnieje znacząca różnica pomiędzy: „AI pomaga mi zweryfikować przewoźnika” a „AI zweryfikowało przewoźnika za mnie”.
W pierwszym przypadku technologia wspiera proces. W drugim – człowiek oddaje jej decyzję, nie zawsze wiedząc nawet, na podstawie jakich danych została podjęta.
Jeżeli od poprawności weryfikacji zależy bezpieczeństwo ładunku, odpowiedzialność spedytora i możliwość późniejszego wykazania należytej staranności, kluczowe informacje nadal powinny być potwierdzane w źródłach pierwotnych – oficjalnych rejestrach, u właściwych instytucji oraz bezpośrednio u ubezpieczyciela.
źródła:
https://eur-lex.europa.eu/legal-content/PL/TXT/?uri=CELEX:32016R0679