Rozwój sztucznej inteligencji powoduje, że przedsiębiorcy z branży TSL coraz częściej nie ograniczają się już do wykorzystywania AI do generowania tekstów, analizowania dokumentów czy przygotowywania zestawień. Coraz większe znaczenie mają tzw. agenci AI. Systemy, które nie tylko generują odpowiedzi, ale również mogą samodzielnie działać, korzystać z narzędzi, pobierać informacje z systemów przedsiębiorstwa i realizować określone zadania. Jednak czy przedsiębiorca może swobodnie korzystać z takich rozwiązań? Jak działalność agentów AI ogranicza AI Act.
W branży TSL może to oznaczać między innymi automatyczne analizowanie zleceń transportowych, wyszukiwanie przewoźników, przygotowywanie ofert, aktualizowanie danych w TMS, kontaktowanie się z klientami lub reagowanie na opóźnienia. Pojawia się zatem pytanie, czy przedsiębiorca może swobodnie korzystać z takich rozwiązań i czy działalność agentów AI jest ograniczona przez AI Act.
Czym jest agent AI?
Pierwszą kwestią wymagającą wyjaśnienia jest sama definicja agenta AI. AI Act nie wprowadza odrębnej, legalnej definicji „agenta AI”. Komisja Europejska wskazuje jednak, że przez agenta AI można rozumieć rozwiązanie zdolne do odbierania i przetwarzania informacji ze swojego otoczenia oraz wykonywania na ich podstawie działań, które mogą oddziaływać na środowisko, przykładowo poprzez wywoływanie funkcji lub korzystanie z narzędzi. Agent AI zazwyczaj wykorzystuje model AI ogólnego przeznaczenia (GPAI) i stanowi system AI. Oznacza to, że agent nie jest w AI Act osobną kategorią regulacyjną. Do agenta stosuje się przepisy dotyczące systemów AI oraz, w odpowiednim zakresie, przepisy dotyczące modeli GPAI.
Ma to istotne znaczenie praktyczne. AI Act definiuje system AI jako system maszynowy zaprojektowany do działania z różnym poziomem autonomii. Dla określonych celów wnioskuje on na podstawie otrzymanych danych, jak generować między innymi przewidywania, treści, zalecenia lub decyzje mogące wpływać na środowisko fizyczne lub wirtualne. Autonomia jest więc elementem samej definicji systemu AI. Nie jest natomiast cechą, która automatycznie powoduje zakwalifikowanie danego rozwiązania jako systemu wysokiego ryzyka. Sam fakt, że agent może wykonywać działania bez każdorazowego zatwierdzania ich przez człowieka, nie oznacza jeszcze, że jego używanie jest niedozwolone. Nie świadczy to też, że automatycznie podlega on najbardziej restrykcyjnym wymaganiom AI Act. W praktyce najważniejsze jest zatem nie pytanie, czy dane rozwiązanie jest „agentem”, lecz do czego agent jest wykorzystywany.
Co reguluje AI Act?
AI Act przyjmuje podejście oparte na ryzyku. Niektóre zastosowania AI są zakazane, inne podlegają obowiązkom przejrzystości, a jeszcze inne jeżeli spełniają określone kryteria mogą zostać uznane za systemy wysokiego ryzyka. W przypadku agentów szczególne znaczenie może mieć również ich zdolność do interakcji z ludźmi oraz generowania treści. Od 2 sierpnia 2026 r. obowiązują między innymi obowiązki przejrzystości przewidziane w art. 50 AI Act. Oznacza to, że jeżeli agent komunikuje się bezpośrednio z osobą fizyczną, w odpowiednich przypadkach osoba ta powinna wiedzieć, że ma do czynienia z systemem AI.
W branży TSL może to mieć bardzo praktyczne znaczenie. Jeżeli agent odpowiada na pytania klienta dotyczące dostępności transportu, przygotowuje informacje o statusie przesyłki albo prowadzi rozmowę dotyczącą warunków realizacji zlecenia, przedsiębiorca powinien ocenić, czy sposób działania agenta spełnia obowiązki dotyczące przejrzystości. Inaczej należy natomiast oceniać agenta wykorzystywanego wyłącznie wewnętrznie, który analizuje dokumenty przewozowe, wyszukuje dane w systemie TMS albo przygotowuje dla pracownika propozycję odpowiedzi. W takim przypadku nie można automatycznie przyjmować, że wszystkie obowiązki związane z komunikacją z osobami fizycznymi będą miały zastosowanie.
Szczególne znaczenie ma natomiast wykorzystanie AI do zarządzania pracownikami. AI Act przewiduje kategorię systemów wysokiego ryzyka obejmującą określone zastosowania związane z zatrudnieniem i zarządzaniem pracownikami. Dotyczy to między innymi systemów wykorzystywanych do rekrutacji i selekcji pracowników, oceny kandydatów, przydzielania zadań na podstawie indywidualnego zachowania lub cech pracownika oraz monitorowania i oceny jego wyników lub zachowania. W przedsiębiorstwie TSL może to mieć znaczenie przykładowo w przypadku systemu, który analizuje kierowców i na tej podstawie automatycznie przydziela im określone trasy, ocenia ich pracę albo podejmuje decyzje wpływające na ich sytuację zawodową. Nie oznacza to jednak, że każdy system służący do planowania transportu będzie systemem wysokiego ryzyka. Kluczowe znaczenie ma konkretne przeznaczenie systemu i sposób wykorzystywania danych.
Sztywne ramy
Jeżeli agent zostanie zakwalifikowany jako system wysokiego ryzyka, zakres obowiązków przedsiębiorcy może być zdecydowanie szerszy. AI Act przewiduje między innymi wymagania dotyczące zarządzania ryzykiem, dokumentacji, rejestrowania określonych zdarzeń, odpowiedniej jakości danych, nadzoru człowieka oraz bezpieczeństwa systemu. Szczególne znaczenie ma tzw. human oversight. System powinien być zaprojektowany w taki sposób, aby człowiek mógł skutecznie nadzorować jego działanie, interpretować jego wyniki oraz w odpowiednich przypadkach ingerować w działanie systemu.
W przypadku agenta TSL oznacza to, że przedsiębiorca powinien bardzo dokładnie określić, jakie czynności agent może wykonać samodzielnie, a jakie wymagają zatwierdzenia przez pracownika. Nie można przy tym utożsamiać poziomu ryzyka przewidzianego przez AI Act z ryzykiem cyberbezpieczeństwa. Jest to szczególnie istotne w przypadku agentów. System może nie być „high-risk” w rozumieniu AI Act, a jednocześnie stanowić bardzo poważne zagrożenie dla bezpieczeństwa przedsiębiorstwa. Przykładowo agent posiadający dostęp do poczty elektronicznej, systemu TMS, giełdy transportowej, danych klientów oraz systemu płatności może mieć możliwość wykonywania bardzo dużej liczby operacji. Jeżeli jego uprawnienia zostaną przejęte albo agent zostanie zmanipulowany, konsekwencje mogą być znacznie poważniejsze niż zwykły błąd w wygenerowanej odpowiedzi. Dlatego przy wdrażaniu agentów konieczne jest oddzielenie dwóch kwestii: klasyfikacji systemu na podstawie AI Act oraz oceny ryzyka związanego z jego cyberbezpieczeństwem i autonomią.
Agent – włamywacz
Dobrym przykładem skali tego problemu jest incydent dotyczący Hugging Face ujawniony w lipcu 2026 r. Firma poinformowała o włamaniu do części swojej infrastruktury, które – według przeprowadzonej przez nią analizy – zostało przeprowadzone od początku do końca przez autonomiczny system agentowy. Atak rozpoczął się od wykorzystania podatności w procesowaniu danych, następnie doszło między innymi do uzyskania dostępu do danych uwierzytelniających i przemieszczania się pomiędzy kolejnymi środowiskami. Hugging Face odtworzyło około 17 600 działań wykonanych przez agenta w trakcie kampanii.
Istotne jest przy tym, że nie chodziło o pojedyncze wygenerowanie szkodliwego kodu, lecz o możliwość wykonywania przez system tysięcy kolejnych działań i podejmowania decyzji w toku realizacji celu. Przypadek Hugging Face pokazuje problem, który może mieć szczególne znaczenie dla branży TSL. Tradycyjny system informatyczny wykonuje zazwyczaj ściśle określone operacje. Agent AI może natomiast samodzielnie wybierać kolejne działania prowadzące do realizacji określonego celu. Jeżeli taki agent otrzyma dostęp do wielu systemów przedsiębiorstwa, może powstać tzw. problem nadmiernej autonomii i nadmiernych uprawnień. Przykładowo agent spedycyjny może mieć dostęp do TMS, poczty, giełdy transportowej, systemu CRM oraz systemu rozliczeniowego. Z punktu widzenia biznesowego może to być bardzo wygodne, ponieważ agent może samodzielnie przeprowadzić cały proces od przyjęcia zlecenia do jego realizacji. Z punktu widzenia cyberbezpieczeństwa oznacza to jednak stworzenie jednego punktu, przez który możliwe jest oddziaływanie na wiele systemów przedsiębiorstwa.
Nie działasz w próżni
Właśnie dlatego AI Act nie powinno się analizować w oderwaniu od innych regulacji. W przypadku przedsiębiorstw TSL istotne znaczenie może mieć przede wszystkim dyrektywa NIS2 oraz wdrażająca ją w Polsce znowelizowana ustawa o krajowym systemie cyberbezpieczeństwa. Nowelizacja polskiej ustawy weszła w życie 3 kwietnia 2026 r. i wprowadziła między innymi podział na podmioty kluczowe i ważne oraz nowe obowiązki dotyczące zarządzania cyberbezpieczeństwem. Wśród sektorów objętych regulacją znajduje się transport, obejmujący transport lotniczy, kolejowy, wodny i drogowy. Nie oznacza to jednak, że każda firma transportowa automatycznie podlega wszystkim obowiązkom KSC konieczna jest analiza konkretnej działalności, wielkości przedsiębiorstwa i kryteriów określonych w ustawie.
Jeżeli przedsiębiorstwo TSL znajduje się w zakresie NIS2/KSC, wdrożenie agenta AI należy traktować również jako element systemu zarządzania ryzykiem cyberbezpieczeństwa. Regulacje cyberbezpieczeństwa wymagają bowiem odpowiednich środków zarządzania ryzykiem, bezpieczeństwa systemów informacyjnych oraz reagowania na incydenty. W Polsce podmioty objęte nowelizacją KSC mają między innymi obowiązki związane z wdrożeniem systemu zarządzania bezpieczeństwem informacji, zarządzaniem i zgłaszaniem incydentów oraz w określonych przypadkach audytami bezpieczeństwa. Ma to znaczenie również dlatego, że agent AI może stać się częścią infrastruktury krytycznej przedsiębiorstwa. Jeżeli system AI uzyskuje dostęp do TMS, systemów zarządzania flotą, danych lokalizacyjnych, systemów magazynowych czy innych systemów operacyjnych, jego bezpieczeństwo nie powinno być oceniane wyłącznie z perspektywy tego, czy generuje prawidłowe odpowiedzi. Należy również ustalić, co stanie się w przypadku przejęcia konta agenta, zmanipulowania jego instrukcji, wykorzystania podatności w narzędziu, z którego korzysta agent, albo uzyskania przez niego dostępu do danych, do których nie powinien mieć dostępu.
RODO – uwaga na dane wrażliwe
Kolejną regulacją, którą należy brać pod uwagę, jest RODO. Agent AI wykorzystywany w przedsiębiorstwie TSL może mieć dostęp do danych kierowców, pracowników, klientów, osób kontaktowych, danych lokalizacyjnych pojazdów czy informacji zawartych w korespondencji elektronicznej. Samo wykorzystanie AI nie powoduje wyłączenia stosowania przepisów o ochronie danych osobowych. Przedsiębiorca powinien zatem ustalić, jakie dane są przekazywane agentowi, w jakim celu, na jakiej podstawie prawnej oraz czy zakres dostępu agenta do danych jest rzeczywiście niezbędny. Szczególne znaczenie może mieć również wykorzystywanie AI do oceny pracowników i kierowców, ponieważ w takim przypadku problem AI Act i RODO może wystąpić jednocześnie.
W przypadku przedsiębiorstw objętych regulacjami dotyczącymi cyberbezpieczeństwa znaczenie może mieć również odporność całego łańcucha dostaw. Agent często nie działa samodzielnie. Korzysta z modelu AI dostarczanego przez zewnętrzny podmiot, bibliotek, API, narzędzi, serwerów, usług chmurowych i innych systemów. Oznacza to, że przedsiębiorca powinien analizować nie tylko bezpieczeństwo samego agenta, ale również bezpieczeństwo dostawców i komponentów, z których agent korzysta. Incydent Hugging Face pokazał, że w przypadku zaawansowanych agentów granica pomiędzy poszczególnymi środowiskami technicznymi może mieć bardzo duże znaczenie dla bezpieczeństwa. Nie oznacza to jednak, że przedsiębiorstwa powinny rezygnować z agentów AI. Wręcz przeciwnie – w branży TSL ich zastosowanie może przynieść bardzo duże korzyści. Agent może analizować setki zleceń, wyszukiwać przewoźników, porównywać stawki, kontrolować terminy, analizować dokumenty, monitorować statusy transportów czy przygotowywać komunikację z klientami. Kluczowe znaczenie ma jednak odpowiednie zaprojektowanie zakresu jego autonomii. Agent nie powinien otrzymywać automatycznie dostępu do wszystkich systemów tylko dlatego, że technicznie jest to możliwe.
Podstawowe zasady bezpiecznego modelu
W praktyce bezpieczny model korzystania z agenta AI powinien opierać się na kilku podstawowych zasadach. Po pierwsze, należy określić dokładny zakres zadań, które agent może wykonywać. Dodatkowo należy ograniczyć jego uprawnienia do minimum niezbędnego do realizacji tych zadań. Po trzecie, działania agenta należy rejestrować. Tak aby możliwe było ustalenie, jakie decyzje i operacje wykonano. Po czwarte, operacje o istotnym znaczeniu finansowym, prawnym lub operacyjnym powinny w odpowiednich przypadkach wymagać zatwierdzenia przez człowieka. I po piąte, powinno istnieć rozwiązanie pozwalające na szybkie odebranie agentowi dostępu do systemów lub całkowite zatrzymanie jego działania.
W przypadku agenta wykorzystywanego w spedycji może to wyglądać następująco: agent samodzielnie analizuje zapytanie klienta, wyszukuje potencjalnych przewoźników i przygotowuje rekomendację. Może również przygotować ofertę i projekt wiadomości do klienta. Nie powinien jednak bez ograniczeń samodzielnie zawierać umowy, zatwierdzać przelewu, zmieniać danych kontrahenta czy przydzielać zlecenia przewoźnikowi spoza zatwierdzonej listy. Takie ograniczenia nie wynikają wprost z jednego przepisu AI Act. Są jednak elementem racjonalnego zarządzania ryzykiem i mogą mieć znaczenie zarówno z punktu widzenia AI Act, jak i regulacji dotyczących cyberbezpieczeństwa, ochrony danych oraz odpowiedzialności przedsiębiorcy.
Dla przedsiębiorców najważniejszy wniosek jest zatem prosty: AI Act nie zakazuje korzystania z agentów AI. Nie istnieje ogólna zasada, zgodnie z którą agent musi być każdorazowo zatwierdzany przez organ administracji albo działać wyłącznie pod bezpośrednią kontrolą człowieka. Znaczenie ma sposób wykorzystania konkretnego systemu. Jeżeli agent wykonuje zadania o niewielkim wpływie na prawa i bezpieczeństwo ludzi, zakres obowiązków można stosunkowo ograniczyć. Jeżeli natomiast uczestniczy w decyzjach dotyczących pracowników, komunikuje się z osobami fizycznymi, wykonuje działania o istotnych konsekwencjach albo staje się elementem infrastruktury przedsiębiorstwa, konieczna jest znacznie bardziej szczegółowa analiza.
Nowy element infrastruktury przedsiębiorstwa
W branży TSL szczególnie istotne jest więc spojrzenie na agenta AI nie tylko jako na narzędzie zwiększające efektywność, ale również jako na nowy element infrastruktury przedsiębiorstwa. AI Act określa zasady dotyczące wykorzystania sztucznej inteligencji, natomiast NIS2 i polska ustawa o krajowym systemie cyberbezpieczeństwa odnoszą się do bezpieczeństwa systemów i zarządzania ryzykiem cybernetycznym. RODO reguluje natomiast sposób wykorzystywania danych osobowych. W zależności od konkretnej działalności zastosowanie mogą mieć również przepisy dotyczące odporności podmiotów krytycznych, prawa pracy, bezpieczeństwa transportu czy odpowiedzialności kontraktowej. Bezpieczne wdrożenie agenta AI wymaga więc nie tylko sprawdzenia, czy jego zastosowanie jest dopuszczalne na gruncie AI Act, ale również oceny tego, jakie dane agent przetwarza, do jakich systemów ma dostęp i jakie działania może wykonać samodzielnie.
W praktyce przed wdrożeniem agenta AI w przedsiębiorstwie TSL warto więc odpowiedzieć na kilka podstawowych pytań: jakie zadania agent wykonuje, jakie dane przetwarza, z jakich systemów może korzystać, jakie decyzje może podejmować samodzielnie, czy decyzje dotyczą pracowników lub innych osób fizycznych, czy agent komunikuje się bezpośrednio z klientami, jakie są jego maksymalne uprawnienia oraz co stanie się w przypadku błędnego działania lub przejęcia jego dostępu. Dopiero odpowiedzi na te pytania pozwalają prawidłowo ocenić, jakie wymagania wynikają z AI Act, a jakie z pozostałych regulacji.
Tak, ale pod kontrolą
Największym błędem byłoby zatem przyjęcie, że skoro dany agent nie jest systemem wysokiego ryzyka w rozumieniu AI Act, przedsiębiorca może pozostawić mu nieograniczony dostęp do infrastruktury firmy. AI Act określa przede wszystkim ryzyko związane z wykorzystaniem AI, natomiast bezpieczeństwo autonomicznego agenta wymaga szerszego podejścia obejmującego również cyberbezpieczeństwo, ochronę danych, zarządzanie dostępem i odpowiedzialność za działania wykonywane przez system. Przypadek Hugging Face pokazuje, że wraz ze wzrostem autonomii agentów problemem nie jest już wyłącznie to, czy AI wygeneruje błędną odpowiedź. Istotne staje się, ile działań może wykonać samodzielnie, do ilu systemów ma dostęp i co może się wydarzyć, jeżeli jego działanie zostanie wykorzystane przez osobę trzecią.
Tekst: Michał Krawczyk, aplikant radcowski w Trans Lawyers
