Prawo AI bez znieczulenia: za AI zawsze ktoś odpowiada (podsumowanie webinaru)

A żeby nie było tak łatwo - wprowadziliśmy małą zmianę. 

„Za każde «to zależy» do skarbonki wpada dycha."

Taka zasada obowiązuje na naszych webinarach od  22 września. Będzie dotyczyć wszystkich, bez wyjątku! Z uwagi na to, że gościmy w swoim gronie reprezentanta funduszu inwestycyjnego, czyli Przemka Jurgiel-Żyłę - dostaliśmy dofinansowanie w wysokości stówki na dziesięć “to zależy”. Żeby zobaczyć jak biedniejemy, musisz więc z nami zostać na dłużej! Spoiler: Paula nie dała się złapać ani razu, więc stówka przechodzi na kolejny odcinek, a oniżej najważniejsze odpowiedzi na prawne pytania..

(link do nagrania na końcu artykułu)

Kolega wkleił dane firmy do chatbota

Wyciek to najbardziej widowiskowy scenariusz, ale dość abstrakcyjny. Choć i on się zdarza: jak dowiedzieliśmy się w ostatnich dniach, rozmowy z ChatGPT, przy odklikniętej zgodzie na ulepszanie modelu, bywały w nie do końca kontrolowany sposób udostępniane dalej.

Przejdźmy jednak na poziom konkretów. 

Po pierwsze, jeśli kolega zrobił to z konta firmowego, zobaczy to osoba odpowiedzialna za bezpieczeństwo. Po drugie, Kodeks pracy: artykuł 100 zobowiązuje pracownika do dbania o dobro pracodawcy i ochrony jego informacji. Paula zna już przypadki zwolnień dyscyplinarnych w polskich firmach dokładnie z tego powodu. Po trzecie, dane powierzone do przetwarzania na podstawie RODO -jeśli klient albo partner biznesowy przekazał nam dane w konkretnym celu, wolno z nimi robić tylko to, na co pozwolił. Wklejenie ich do chatbota bez zgody to gotowy materiał na karę umowną, roszczenie albo wypowiedzenie umowy.

(artykuł dostępny jest pod adresem: aileaders.pl/od-czego-zaczac-realne-wdrozenia-ai-podsumowanie-webinaru - jeśli jeszcze nie jesteś zapisany/-a na nasz newsletetter, to zapraszamy do zostawienia swojego maila)

Oprogramowanie „z AI" zepsuło coś u klienta. Kto płaci?

Firma kolegi Artura wytwarza oprogramowanie, promptując je w narzędziach AI. Program u klienta kasuje część pracy albo wiesza system. Kto odpowiada?

Na start zła wiadomość - producenta chatbota można wykluczyć niemal od razu. Im większy dostawca, tym bardziej: hyperskalerzy pokroju Google, Microsoft czy AWS dają warunki w stylu „take it or leave it". Zostają dwie strony: twórca oprogramowania i jego klient.

Za to, co klient robi narzędziem w świecie, odpowiada klient: źle skonfigurował, dopuścił niewłaściwe osoby, dał sobie przejąć konto. Ale za to, że oprogramowanie nie dowiozło parametrów z umowy, odpowiada dostawca. Dlaczego? Wobec klienta staje się najpewniej dostawcą systemu AI w rozumieniu AI Actu (a im system wyższego ryzyka, tym obowiązków po stronie dostawcy więcej)Od 11 września stosuje się też Cyber Resilience Act, który dokłada producentom oprogramowania konkretne obowiązki: usuwanie podatności, aktualizacje, zgłaszanie podatności do CSIRT, odpowiedzialność odszkodowawczą (słowo-klucz: art. 14 Cyber Resillience Actu). Jeśli w grę wchodzą dane osobowe, a przy chatbotach zwykle wchodzą, uruchamia się dodatkowo RODO. Na koniec zostaje zwykły kodeks cywilny i roszczenie odszkodowawcze z uwagi na nienależyte wykonanie umowy.

Nagrywasz spotkania? Zgoda najpierw, nie po fakcie

Kolega włączył na spotkaniu narzędzie nagrywające i nikomu nie powiedział. Czy może wykorzystać albo opublikować to, co nagrał? Jak lubi wizyty w prokuraturze, to może. Ale Wy tak nie róbcie. Nakłada się tu kilka regulacji. RODO: do przetwarzania danych potrzebna jest podstawa prawna, a zgody (albo jej braku) nikt nie miał nawet szansy wyrazić. Tajemnica przedsiębiorstwa: jeśli firmy miały podpisane NDA, a na spotkaniu padały kwoty i strategie, jest gotowy materiał na notę obciążeniową i karę umowną. A jeśli nagranie trudnej rozmowy trafi do sieci, dochodzi jeszcze wątek karny oraz powództwo cywilne z uwagi np. na naruszenie dóbr osobistych.

Dobra wiadomość (taka łyżka miodu w beczce dziegciu): zgoda może mieć dowolną formę. Wystarczy zapytać na początku spotkania i usłyszeć „tak". Wstecz zgody wyrazić się nie da, ale strony mogą się dziś umówić: od teraz zgadzamy się na nagrywanie, a dotychczasowe nagrania i sposób ich wykorzystania walidujemy.

AI Act obowiązuje od 2024 roku, nie od 2 sierpnia 2026 r.

Na mieście mówią, że AI Act wszedł do Polski latem tego roku. Mówią tak co wakacje, od trzech lat. AI Act wszedł w życie w 2024 roku, a kolejne grupy przepisów zaczynały stosowanie etapami. W lutym 2025 zakazane praktyki, do których po zamieszaniu z Grokiem dopisano zakaz nudifierów, czyli aplikacji istniejących po to, żeby rozbierać ludzi. Zakaz dotyczy systemów dedykowanych takiemu celowi: samo to, że jakieś narzędzie da się po odpowiednim spromptowaniu wykorzystać źle, nie czyni go nielegalnym.

W sierpniu tego roku w pełni zaczęły obowiązywać przepisy o oznaczaniu treści AI. I tu zaczyna się najciekawsze.

Sześć rąk u programisty nie wymaga oznaczenia, ale prawniczka na jachcie już może

Programista z sześcioma rękami jest ewidentnie zmyślony, więc oznaczać nie trzeba. Prawniczka na jachcie to scena zupełnie możliwa, więc taką grafikę trzeba oznaczyć. Paradoksalnie oznaczenia wymaga też podkręcony, idealny pomidor w reklamie sklepu, bo pozoruje sytuację, która wygląda realnie, a takiego pomidora w sklepie nie ma. Z kolei deepfake w ścisłym sensie to podrabianie konkretnej osoby: generyczny syntetyczny głos czytający cenę pomidorów deepfakiem nie jest.

A tekst? 

Post na LinkedInie może mieć zero wkładu własnego i oznaczać go nie trzeba, chyba że dotyczy spraw interesu publicznego. Obowiązek zdejmuje też kontrola redakcyjna: ktoś przeczytał własnymi oczami i zatwierdził. Jest jednak pułapka. Jeśli po weryfikacji odsyłasz tekst do czata po poprawki i już ich nie sprawdzasz, wygenerowane poprawki anulują wcześniejszą weryfikację. A jeśli z ostrożności oznaczysz wszystko? Kary nie ma. Najwyżej ludzie się pośmieją.

Prawa autorskie: zarabiać możesz, wyłączności nie masz

Tu nic się w ostatnim czasie nie zmieniło: według polskiego prawa autorem może być tylko człowiek, więc obrazek, tekst czy muzyka wygenerowane jeden do jednego przez model nie są utworem. Zarabiać na nich można. Nie ma za to wyłączności: jeśli kampania reklamowa była czystym wytworem narzędzia, konkurent może ją wziąć i wykorzystać, a autor niewiele z tym zrobi.

Granicę przesuwa twórczy wkład człowieka. Sam prompt może być utworem. I ważny drobiazg: wrzucenie własnego utworu do AI nie unieważnia autorstwa, które istniało wcześniej. W USA zdarza się już, że sądy zobowiązują strony czy pełnomocników do zabezpieczenia i udostępnienia promptów jako dowodów. 

A opt-out z trenowania modeli? Unijne przepisy nakazują dać twórcy możliwość sprzeciwu. Problem w tym, że nie ma systemowych narzędzi, żeby zweryfikować, czy ktoś ten sprzeciw respektuje. 

Oznaczenie czegoś jako deepfake nie sprawia, że mamy nagle zgodę na korzystanie z czyjegoś wizerunku 

Reklama z wygenerowanym Rafałem Brzoską o sześciu rękach? Nie. To, że postać jest ewidentnie nierealna, nie zmienia faktu, że wykorzystujesz cudzy wizerunek bez zgody. „Podobny, ale nie taki sam" też nie pomaga: podobieństwo rodzi oczywiste skojarzenia, a wtedy w grę wchodzą dobra osobiste, a przy nakłanianiu do zakupu kryptowalut nawet kradzież tożsamości. Wyjątkiem jest satyra, dopóki nie przechodzi w zniesławienie albo znieważenie.

A gdy ktoś wygeneruje taką reklamę z Tobą? Pierwszy odruch, czyli blokowanie konta, jest najgorszy, bo odcina dostęp do dowodów. Kolejność jest inna: screenuj i zbieraj dowody, zgłoś platformie, złóż zawiadomienie na policji, a jeśli znasz sprawcę, dołóż wezwanie do zaprzestania naruszeń i ewentualny pozew. Zostaje jeszcze skarga do UODO, bo twarz (a ściślej: obraz/wizerunek twarzy) to dana osobowa. 

W pełni wymyślony influencer to inna historia: tworzenie takich postaci i zarabianie na nich jest legalne. Warunek: każdy pojedynczy materiał musi być oznaczony jako wygenerowany, w sposób odporny na usunięcie przy repostach, bo jedna rolka potrafi żyć osobnym życiem poza profilem.

Agent podpisał umowę? Nie, to Ty ją podpisałeś

Kolega Artura kazał agentowi „zrobić wszystkie rzeczy do wykonania", a ten przy okazji podpisał umowę z katalogu zadań. Czy umowa jest ważna i skuteczna? Jak najbardziej.  

Możliwa jest ewentualnie jedna droga wyjścia: jeśli dostawca zobowiązał się, że w takich sytuacjach agent zatrzyma się i zapyta (jak robot sprzątający, który wpadł na ścianę i woła o pomoc), a tego nie zrobił, kosztami wyjścia z umowy można obciążyć dostawcę. Sama umowa i tak pozostaje ważna. Dwa autonomiczne systemy również mogą zawrzeć ze sobą skuteczną umowę, chyba że prawo wymaga formy szczególnej, na przykład aktu notarialnego. Notariuszy jeszcze nie uagentowiono.

AI literacy: odpowiadasz za ludzi jak za dzieci (kto pracuje w korpo, ten się nie śmieje)

Czy pracodawca musi szkolić ludzi z tego, czego nie wolno wkleić i co oznaczać? Musi, i to nie tylko dlatego, że przed światem zewnętrznym odpowiada za nich „jak za dzieci". Artykuł 4 AI Act nakazuje organizacjom korzystającym z AI budować kompetencje ludzi, dopasowane do tego, co kto realnie robi, a nie do nazwy stanowiska. I mieć na to dowody: szkolenia z egzaminem, certyfikaty, okresowe quizy, politykę, testy z podpuchą.

Haczyk: nie istnieje lista akredytowanych jednostek ani ustalony zakres takiego szkolenia. Technicznie certyfikat może mieć dowolną formę. Kary za brak realizacji obowiązku mogły być wymierzane już od ubiegłego roku, tylko nie miał kto tego robić. To się jednak zmienia - jesteśmy w przededniu uformowania się Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, czyli polskiego organu nadzorczego

Chiny, modele lokalne i „zakazane dane"

Korzystanie z chińskich modeli jest legalne: sam kraj pochodzenia nie ma znaczenia, liczy się to, co za pomocą modelu robimy (osobna historia to produkty podwójnego zastosowania, jak drony). Jeśli jednak korzystasz z usługi chmurowej hostowanej w Chinach, dane faktycznie transferujesz i przy danych osobowych trzeba zrobić ocenę ryzyka i skutków takiego transferu. Model uruchomiony lokalnie transferu nie robi.

Model lokalny nie daje też żadnych forów w AI Act (open-source częściowo tak). Pomaga z punktu widzenia wymagań RODO, cyberbezpieczeństwie czy przepisach sektorowych typu DORA. Nie istnieje też ustawowy katalog danych, których nie wolno wrzucać do AI: obostrzenia zależą od tego, kim jesteś, bo inne ma bank, inne szpital, a inne kancelaria.

I rada na koniec dla każdego, kto ma lęk przed danymi osobowymi w procesie: zamiast kombinować, jak za wszelką cenę zablokować wklejanie danych osobowych (nawet kosztem produktywności), zaprojektuj proces tak, żeby te dane były dopuszczone i zabezpieczone. Zbyt trudne narzędzie sprawi tylko, że ludzie będą robić swoje cichaczem. Jak kolega Artura.

Co możesz sprawdzić u siebie w tym tygodniu?

1. Zapytaj, kto w firmie wie, czego nie wolno wkleić do chatbota. I czy masz na to dowód: szkolenie, politykę, quiz. 
2. Sprawdź narzędzia do nagrywania spotkań. Czy uczestnicy słyszą pytanie o zgodę, zanim ruszy nagranie? Gdzie później trzymamy nagrania i transkrypcje? Jak długo? Kto ma do nich dostęp? 
3. Przejrzyj publikowane treści z AI. Grafiki pozorujące realne sceny wymagają oznaczenia, ewidentna fikcja nie.
4. Zajrzyj do warunków dostawcy wykorzystywanych przez Ciebie systemów AI. Czy np. Dostawca zobowiązał się, że agent zapyta przed czynnością wymagającą zgody? Od tego zależy, czy w razie wpadki masz do kogo pójść.

Pełna rozmowa, przykłady liczbowe i odpowiedzi na pytania uczestników są w nagraniu:

OBEJRZYJ NAGRANIE NA YOUTUBE (nie zapomnij zasubskrybować kanału)

W AI Leaders prawo traktujemy jako część wdrożenia, a nie przypis na końcu. Łączymy technologię z biznesem, wdrożeniami i prawem, żeby uczestnicy potrafili przełożyć możliwości AI na codzienną pracę swojej organizacji. Bez wizyt w prokuraturze.

Sprawdź program AI Leaders