Überprüfung von Frachtführern mithilfe von KI. Schnell, bequem und… wirklich sicher?


Künstliche Intelligenz hält zunehmend Einzug in den Arbeitsalltag von Spediteuren. Und das ist kaum überraschend.
KI kann innerhalb weniger Sekunden eine Frachtführer-Haftpflichtversicherung analysieren, einen Vertrag zusammenfassen, die wichtigsten Informationen aus einem Dokument extrahieren, mögliche Unstimmigkeiten aufzeigen oder eine Liste der Punkte erstellen, die einer weiteren Überprüfung bedürfen.
Problematisch wird es jedoch dann, wenn ein unterstützendes Werkzeug plötzlich als verifizierendes Werkzeug behandelt wird. Bei der Überprüfung eines Frachtführers treten nämlich zwei völlig unterschiedliche Arten von Risiken auf:
Das erste betrifft die Informationen, die wir an die KI übermitteln.
Das zweite betrifft die Informationen, die wir von der KI erhalten.
Eine Frachtführer-Haftpflichtpolice, ein Vertrag mit einem Geschäftspartner oder andere Dokumente, die im Rahmen der Überprüfung verwendet werden, können personenbezogene Daten sowie vertrauliche Informationen enthalten.
Darin können sich unter anderem Daten von Personen befinden, die ein Unternehmen vertreten, Kontaktdaten, Unterschriften oder Informationen, die sich aus der Geschäftsbeziehung zwischen den Parteien ergeben. Wird ein solches Dokument an einen externen KI-Dienst übermittelt, werden die darin enthaltenen Daten im Rahmen der Funktionsweise dieses Dienstes verarbeitet. Und genau an dieser Stelle entsteht eines der häufigsten Missverständnisse bei der Nutzung künstlicher Intelligenz:
„Meine Daten werden nicht zum Trainieren des Modells verwendet“ bedeutet nicht „Meine Daten werden nicht verarbeitet“.
Damit ein KI-System ein Dokument analysieren und eine Antwort generieren kann, müssen die übermittelten Informationen verarbeitet werden. Was sich je nach Anbieter, Version des Dienstes, Konfiguration sowie den abgeschlossenen Vereinbarungen unterscheiden kann, sind unter anderem Zweck und Umfang der Verarbeitung, die Speicherdauer der Daten, Sicherheitsgrundsätze oder die Möglichkeit, Inhalte zur Verbesserung von Modellen zu verwenden.
Beispielsweise kann der Nutzer in persönlichen ChatGPT-Arbeitsbereichen der Tarife Free, Plus und Pro die Verwendung neuer Unterhaltungen zur Verbesserung der Modelle deaktivieren. Bei Business-Diensten wie ChatGPT Business und Enterprise erklärt OpenAI, dass die Daten von Organisationen standardmäßig nicht zum Training der Modelle verwendet werden.
Aber noch einmal: Dass Daten nicht zum Training verwendet werden, bedeutet nicht, dass sie nicht verarbeitet werden.
OpenAI legt in seinem Data Processing Addendum für die davon erfassten Business-Dienste ebenfalls die Grundsätze fest, nach denen Kundendaten entsprechend den Weisungen des Kunden verarbeitet werden. Deshalb sollte sich die Frage eines Spediteurs nicht auf Folgendes beschränken: „Wird die KI anhand dieses Dokuments trainiert?“
Die Frage sollte deutlich weiter gefasst werden: Darf meine Organisation solche Daten überhaupt an dieses Tool übermitteln? Unter welchen Bedingungen werden sie verarbeitet? Verfügen wir dafür über eine geeignete Rechtsgrundlage und ist die Beziehung zum Anbieter entsprechend geregelt?
Allein die Verarbeitung von Daten durch ein KI-Tool bedeutet nicht automatisch einen Verstoß gegen die DSGVO. Die DSGVO verbietet die Verarbeitung personenbezogener Daten nämlich nicht, sondern legt die Regeln fest, nach denen diese Verarbeitung erfolgen muss. Dazu gehören unter anderem Rechtmäßigkeit, Zweckbindung, Datenminimierung und ein angemessenes Sicherheitsniveau.
Das hängt vom Inhalt der konkreten Vereinbarung ab.
Wenn eine Vertraulichkeitsvereinbarung die Weitergabe von Informationen an bestimmte Dienstleister, Subunternehmer oder andere autorisierte Unternehmen unter bestimmten Voraussetzungen zulässt, kann die Nutzung eines KI-Tools mit diesen Regelungen vereinbar sein. Beschränkt die Vereinbarung jedoch den Kreis der Stellen, an die Informationen weitergegeben werden dürfen, kann die Nutzung eines externen KI-Dienstes ohne entsprechende Berechtigung im Hinblick auf die Vertraulichkeitsverpflichtung problematisch sein.
Wichtig ist dabei, die Terminologie einer NDA nicht automatisch auf die DSGVO zu übertragen. Nach der DSGVO sind ein „Auftragsverarbeiter“ und ein „Dritter“ unterschiedliche Begriffe. Die Aussage, dass „jeder KI-Anbieter ein Dritter im Sinne der DSGVO ist“, wäre daher eine zu starke Vereinfachung.
In der Praxis müssen somit sowohl die Regeln zum Schutz personenbezogener Daten als auch der konkrete Inhalt der jeweiligen Vertraulichkeitsverpflichtung geprüft werden.
Und erst dann stellt sich das zweite Risiko. Denn selbst wenn die Fragen der Datenverarbeitung und der Vertraulichkeit ordnungsgemäß geregelt wurden, bleibt weiterhin die Frage:
Nehmen wir an, ein Spediteur gibt folgenden Befehl ein: „Überprüfe diesen Frachtführer.“ Wenige Sekunden später erhält er einen professionell aussehenden Bericht.
Sieht hervorragend aus.
Aber woher stammen diese Daten genau? Hat das Modell den aktuellen Eintrag unmittelbar in einem offiziellen Register geprüft? Hat es Informationen verwendet, die auf anderen Webseiten verfügbar waren? Stammten die Angaben aus einer Suchmaschine, einem externen Datenaggregator, einem vom Nutzer hochgeladenen Dokument oder vielleicht aus Informationen, die bereits zuvor im Modell enthalten waren?
Und vor allem:
Für welchen Tag und welche Uhrzeit waren diese Informationen aktuell? Das ist kein technisches Detail. Das ist der Kern der Überprüfung.
Ein Sprachmodell kann eine Antwort erzeugen, die äußerst überzeugend klingt und dennoch Fehler enthält. Auch die Anbieter solcher Modelle selbst weisen darauf hin, dass KI-Systeme weiterhin unzutreffende Informationen generieren können und dass wesentliche Angaben anhand der Quellen überprüft werden sollten. Deshalb ist die Aussage:
„Die KI hat bestätigt, dass der Frachtführer über eine Lizenz verfügt“ nicht dasselbe wie: „Am 11. August um 10:42 Uhr haben wir den Unternehmer im KREPTD überprüft und das Ergebnis der Überprüfung dokumentiert.“
Das Nationale Elektronische Register der Straßentransportunternehmer (KREPTD) stellt seine Daten gerade zu dem Zweck zur Verfügung, die Überprüfung von Transportunternehmen zu ermöglichen. Ähnlich verhält es sich bei Versicherungen: Ein Teil der Versicherungsgesellschaften stellt eigene Kanäle zur Verfügung, über die der Versicherungsschutz bestätigt werden kann. Gerade die offizielle Quelle sollte daher der maßgebliche Bezugspunkt sein.
Solange die Beförderung problemlos verläuft, kann eine von der KI generierte Antwort wie eine enorme Zeitersparnis wirken. Der eigentliche Test beginnt jedoch erst dann, wenn ein Schaden eintritt. Wenn der einzige Nachweis des durchgeführten Verfahrens aus einer Antwort des KI-Modells besteht, kann es äußerst schwierig sein nachzuweisen:
Es sollte daher nicht davon ausgegangen werden, dass die Antwort einer KI allein bereits einen ausreichenden Nachweis für die Einhaltung der gebotenen Sorgfalt darstellt.
Welche Dokumente im Schadenfall erforderlich sind, hängt unter anderem von der konkreten Versicherungspolice, den Allgemeinen Versicherungsbedingungen, den Umständen des Ereignisses und der Position des Versicherers ab. Ein professioneller Prozess sollte daher einen nachvollziehbaren Überprüfungsnachweis hinterlassen – auf Grundlage von Quellen, die später eindeutig benannt und dokumentiert werden können.
Nein. KI kann sehr gut:
Es besteht jedoch ein erheblicher Unterschied zwischen: „KI hilft mir dabei, einen Frachtführer zu überprüfen“ und „KI hat den Frachtführer für mich überprüft“.
Im ersten Fall unterstützt die Technologie den Prozess. Im zweiten Fall überlässt der Mensch die Entscheidung der Technologie – häufig ohne überhaupt zu wissen, auf welcher Datengrundlage diese Entscheidung getroffen wurde.
Wenn von der Qualität der Überprüfung die Sicherheit der Ladung, die Haftung des Spediteurs und die spätere Möglichkeit abhängen, die Einhaltung der gebotenen Sorgfalt nachzuweisen, sollten wesentliche Informationen weiterhin anhand von Primärquellen bestätigt werden – in offiziellen Registern, bei den zuständigen Institutionen und unmittelbar beim Versicherer.
Die Betrugsmethoden in der Transport- und Logistikbranche entwickeln sich ständig weiter. Das bedeutet, dass eine einmalige Überprüfung eines Frachtführers – oder das bloße Verlassen auf Unternehmensdokumente, Profile auf Transportbörsen und grundlegende Prüfungen – heute möglicherweise nicht mehr ausreicht.
BtrustUP unterstützt Speditionen, Frachtführer und Logistikunternehmen dabei, Geschäftspartner umfassender zu überprüfen, potenzielle Warnsignale frühzeitig zu erkennen und sicherere Entscheidungen zu treffen, bevor eine Sendung einem Vertragspartner anvertraut wird. Die Plattform bündelt wichtige Informationen für die Überprüfung von Vertragspartnern und automatisiert zeitaufwändige Prüfungen. So kann Ihr Team operative Risiken reduzieren, ohne das Tagesgeschäft unnötig zu verlangsamen.
Intelligenter überprüfen. Risiken reduzieren. Ihre Ladung schützen. Testen Sie BtrustUP kostenlos und sehen Sie, wie eine automatisierte Überprüfung von Frachtführern Ihr Unternehmen unterstützen kann.
Starten Sie noch heute Ihren kostenlosen Test.
Quellen:
https://eur-lex.europa.eu/legal-content/PL/TXT/?uri=CELEX:32016R0679