Co to są systemy AI?
Systemy AI to rozwiązania oparte na działaniu maszyn, które analizują dane wejściowe i na ich podstawie generują konkretne rezultaty, takie jak prognozy, rekomendacje, klasyfikacje lub decyzje.
TMedia Group to agencja marketingowa AI-first specjalizująca się w pozycjonowaniu stron (SEO), kampaniach reklamowych Google Ads i Meta Ads, tworzeniu stron internetowych oraz content marketingu B2B.
Taki system może działać autonomicznie lub półautonomicznie. Jedną z jego kluczowych cech jest zdolność dostosowywania zachowania do nowych warunków, czyli reagowania na zmiany w otoczeniu lub w dostarczanych danych.
Sztuczna inteligencja wykorzystuje algorytmy, modele danych oraz mechanizmy uczenia. Obejmuje między innymi:
- uczenie maszynowe,
- głębokie uczenie,
- uczenie ze wzmocnieniem,
- sieci neuronowe,
- systemy symboliczne.
Dzięki tym metodom system AI potrafi rozpoznawać wzorce, wyciągać wnioski i działać nawet wtedy, gdy dane są niepełne. Może też skuteczniej funkcjonować w sytuacjach, które zmieniają się w czasie.
Typowy system AI składa się z trzech głównych elementów: danych wejściowych, logiki działania oraz wyniku. Dane mogą pochodzić z czujników, baz danych, tekstu, obrazów albo aktywności użytkownika.
Logika działania odpowiada za przetwarzanie informacji przy użyciu algorytmów. Efekt tego procesu może pozostać w świecie cyfrowym, na przykład jako rekomendacja wyświetlona na ekranie, albo uruchomić konkretne działanie fizyczne.
Człowiek może wchodzić w interakcję z systemem AI na kilka sposobów: przekazywać dane, odbierać sugestie, a także sprawdzać i kontrolować rezultaty pracy modelu.
Do takich rozwiązań należą między innymi chatboty, asystenci głosowi, systemy diagnostyczne, narzędzia scoringowe oraz roboty przemysłowe.
Systemy AI znajdują zastosowanie w wielu branżach: w medycynie pomagają analizować obrazy, w finansach oceniają ryzyko kredytowe, w handlu dopasowują produkty do klientów, a w przemyśle wykrywają awarie maszyn.
Jakie typy i modele systemów AI istnieją?
W praktyce systemy AI można podzielić na kilka kategorii. Najczęściej uwzględnia się zakres wykonywanych zadań, sposób uczenia, konstrukcję modelu oraz poziom samodzielności danego rozwiązania.
Do najważniejszych typów sztucznej inteligencji należą:
- wąska sztuczna inteligencja, czyli ANI — specjalizuje się w jednym, jasno określonym zadaniu, na przykład klasyfikowaniu zdjęć, analizie tekstu, ocenie zdolności kredytowej lub rekomendowaniu produktów,
- system AI ogólnego przeznaczenia — obsługuje różne typy zadań, takie jak tworzenie treści, analiza dokumentów, pisanie kodu czy praca z obrazami,
- ogólna sztuczna inteligencja, czyli AGI — oznacza system, który mógłby uczyć się i działać w wielu dziedzinach podobnie jak człowiek. Obecnie AGI pozostaje celem rozwoju, a nie rozwiązaniem powszechnie stosowanym w praktyce.
Jakie są kategorie ryzyka systemów AI?
Po omówieniu systemów AI według zakresu działania warto przyjrzeć się klasyfikacji wynikającej z AI Act. Rozporządzenie wyróżnia cztery poziomy ryzyka: niedopuszczalne, wysokie, ograniczone oraz minimalne.
Podział zależy przede wszystkim od tego, jaki wpływ dany system może mieć na ludzi — ich bezpieczeństwo, zdrowie oraz prawa podstawowe. Istotne są także decyzje podejmowane z użyciem AI, szczególnie wtedy, gdy bezpośrednio dotyczą konkretnej osoby.
Systemy AI niedopuszczalnego ryzyka są zakazane, ponieważ mogą naruszać prawa obywateli lub stwarzać zagrożenie dla ich bezpieczeństwa.
Jakie zakazane praktyki i systemy AI przewiduje AI Act?
W praktyce za systemy AI o niedopuszczalnym ryzyku uznaje się rozwiązania, które mogą realnie szkodzić ludziom. Dotyczy to przede wszystkim narzędzi wykorzystujących manipulację, dyskryminację, bezprawne dane biometryczne lub nadużycia przy ocenianiu osób.
Do zakazanych praktyk w obszarze AI należą w szczególności:
- wpływanie na zachowanie człowieka za pomocą technik podprogowych, zwodniczych lub celowo ukrytych, jeśli system może istotnie zmienić decyzję danej osoby i wyrządzić jej szkodę,
- wykorzystywanie podatności wynikającej z wieku, niepełnosprawności albo trudnej sytuacji społecznej lub ekonomicznej, na przykład wobec dzieci, osób starszych lub osób w szczególnie trudnym położeniu,
- stosowanie scoringu społecznego, czyli ocenianie ludzi na podstawie ich zachowania, cech osobistych lub statusu społecznego, jeśli prowadzi to do nieuzasadnionego albo nadmiernie niekorzystnego traktowania,
- prowadzenie zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej na potrzeby ścigania przestępstw, przy czym AI Act dopuszcza jedynie bardzo wąskie wyjątki,
- masowe pobieranie zdjęć twarzy z internetu lub nagrań monitoringu w celu tworzenia albo rozbudowy baz danych służących do rozpoznawania twarzy.
Jakie obowiązki stawia AI Act dla systemów AI wysokiego ryzyka?
Po systemach zakazanych kolejną kategorią są systemy AI wysokiego ryzyka. Nie są one automatycznie niedozwolone, jednak ze względu na możliwy wpływ na zdrowie, bezpieczeństwo lub prawa podstawowe podlegają szczególnym wymaganiom określonym w AI Act.
Najwięcej obowiązków spoczywa na dostawcach, czyli podmiotach, które tworzą system AI albo wprowadzają go na rynek. Część zasad dotyczy również organizacji i osób korzystających z takich narzędzi w ramach swojej działalności.
Do najważniejszych obowiązków związanych z systemami AI wysokiego ryzyka należą:
- zarządzanie ryzykiem przez cały cykl życia systemu — od projektowania i testowania, przez wdrożenie oraz późniejsze modyfikacje, aż po bieżące monitorowanie działania,
- prowadzenie dokumentacji technicznej — obejmującej m.in. opis systemu, jego cel, strukturę, wykorzystywane dane, ograniczenia, testy, mechanizmy kontroli oraz wyniki oceny ryzyka,
- przeprowadzenie oceny zgodności — zanim system zostanie wprowadzony do obrotu albo oddany do używania,
- odpowiednie zarządzanie danymi — w szczególności dbanie o ich jakość, trafność i reprezentatywność oraz ograniczanie ryzyka błędów i stronniczości,
- zapewnienie przejrzystości — tak, aby użytkownicy rozumieli, do czego służy system, jakie ma ograniczenia i jak należy z niego korzystać.
Jak przebiega ocena zgodności i certyfikacja systemów AI wysokiego ryzyka?
Ocena zgodności systemu AI wysokiego ryzyka powinna zostać przeprowadzona przed wprowadzeniem go na rynek lub oddaniem do użytku w Unii Europejskiej. Jej celem jest potwierdzenie, że system spełnia wymagania AI Act oraz może być wykorzystywany w sposób bezpieczny, przejrzysty i zgodny z prawem.
Proces rozpoczyna się od klasyfikacji systemu AI. Dostawca ustala, czy dany system należy do kategorii wysokiego ryzyka, analizując jego przeznaczenie, sposób działania oraz obszar zastosowania.
Do obszarów, w których system AI może zostać uznany za wysokiego ryzyka, należą między innymi rekrutacja, edukacja, infrastruktura krytyczna, ocena zdolności kredytowej, egzekwowanie prawa, migracja oraz dostęp do usług publicznych.
Następnym etapem jest wdrożenie systemu zgodnie z wymaganiami AI Act, w tym przygotowanie odpowiednich procedur, dokumentacji oraz mechanizmów kontroli ryzyka.
Jakie sankcje grożą za naruszenie AI Act?
Za naruszenie AI Act grożą przede wszystkim administracyjne kary pieniężne.
W najpoważniejszych przypadkach sankcja może wynieść nawet 35 mln euro albo 7% rocznego światowego obrotu firmy z poprzedniego roku — zastosowanie ma kwota wyższa.
Najsurowsze kary przewidziano za praktyki zakazane, w tym niedozwoloną manipulację, scoring społeczny, bezprawne wykorzystywanie danych biometrycznych oraz niedopuszczalną identyfikację biometryczną.
Odpowiedzialność może obejmować także systemy AI wysokiego ryzyka. Naruszenia w tym obszarze mogą dotyczyć między innymi oceny zgodności, dokumentacji technicznej oraz zarządzania ryzykiem.
Jakie zasady odpowiedzialności prawnej obowiązują przy korzystaniu z systemów AI?
Poza sankcjami wynikającymi z AI Act firma korzystająca ze sztucznej inteligencji powinna uwzględnić także inne regulacje, w tym RODO, prawo autorskie, przepisy prawa pracy oraz zasady ochrony tajemnicy przedsiębiorstwa.
Zakres odpowiedzialności za AI zależy przede wszystkim od roli, jaką pełni dany podmiot. Inne obowiązki dotyczą:
- dostawcy systemu,
- importera,
- dystrybutora,
- podmiotu wdrażającego,
- przedsiębiorstwa wykorzystującego narzędzie AI w codziennej działalności.
W praktyce organizacja powinna najpierw ustalić, czy jedynie korzysta z gotowego rozwiązania, czy też wprowadza w nim istotne zmiany. Znacząca ingerencja w system AI może rozszerzyć zakres odpowiedzialności firmy i wymagać spełnienia dodatkowych obowiązków prawnych.
Jak zapewnić nadzór człowieka i transparentność systemów AI?
Nadzór człowieka nad AI oznacza, że za działanie systemu odpowiada wyznaczona i odpowiednio przygotowana osoba. Monitoruje ona pracę systemu, ocenia generowane wyniki i może zareagować, gdy pojawi się ryzyko błędu, szkody lub naruszenia prawa. AI Act przewiduje takie mechanizmy przede wszystkim dla systemów AI wysokiego ryzyka.
W praktyce oznacza to:
- wskazanie osób odpowiedzialnych za kontrolę systemu,
- zapewnienie im dostępu do instrukcji oraz dokumentacji technicznej,
- umożliwienie weryfikacji danych wejściowych i wyników generowanych przez system,
- przyznanie prawa do ingerencji w decyzję lub rekomendację AI, gdy wymaga tego sytuacja.
Jak prowadzić zarządzanie ryzykiem i monitoring systemów AI?
Skuteczny nadzór człowieka nad systemem AI musi iść w parze z bieżącym zarządzaniem ryzykiem. W praktyce oznacza to nie tylko reagowanie na problemy, ale przede wszystkim ich wczesne wykrywanie, ocenę i ograniczanie na każdym etapie działania systemu.
Organizacja powinna prowadzić proces zarządzania ryzykiem w sposób ciągły i udokumentowany. Obejmuje to w szczególności:
- stałe identyfikowanie potencjalnych zagrożeń,
- ocenę prawdopodobieństwa ich wystąpienia,
- analizę możliwych skutków dla użytkowników, organizacji i otoczenia,
- wdrażanie działań ograniczających ryzyko,
- dokumentowanie najważniejszych decyzji oraz zastosowanych środków,
- regularne aktualizowanie oceny ryzyka przez cały cykl życia systemu.
W przypadku systemów AI wysokiego ryzyka kontrola nie kończy się na jednorazowej ocenie zgodności. Po aktualizacji model może zacząć działać inaczej, a zmiana danych wejściowych może wpłynąć na jakość, trafność lub bezpieczeństwo generowanych wyników.
Ryzyko rośnie również wtedy, gdy system zostaje użyty w nowym kontekście. Ten sam model może sprawdzać się odmiennie w innej branży, przy innej grupie użytkowników lub w środowisku, którego nie obejmowały wcześniejsze testy. Dlatego przed wdrożeniem w nowych warunkach konieczne jest przeprowadzenie odpowiednich testów i ponowna ocena ryzyka.
Testy należy powtarzać po istotnych zmianach w systemie, danych lub sposobie jego wykorzystania, a także prowadzić je podczas dalszej eksploatacji. Zarządzanie ryzykiem powinno pozostać stałym elementem funkcjonowania systemu AI, a nie jednorazowym działaniem wykonanym przed wdrożeniem.
Jak testować i dokumentować systemy AI zgodnie z AI Act?
Testowanie systemów AI to kluczowy element monitoringu, który pozwala ocenić, czy rozwiązanie działa zgodnie z założonym celem, nie generuje niedopuszczalnych zagrożeń i spełnia wymagania właściwe dla swojej kategorii.
Najbardziej szczegółowej weryfikacji wymagają systemy AI wysokiego ryzyka. W praktyce jednak każde rozwiązanie oparte na sztucznej inteligencji powinno być kontrolowane regularnie, według jasno opisanych zasad i mierzalnych kryteriów.
Testy systemów AI powinny obejmować przede wszystkim:
- jakość i trafność wyników, w tym dokładność klasyfikacji, rekomendacji lub predykcji,
- odporność na błędne, niepełne albo nietypowe dane wejściowe,
- stabilność działania po aktualizacji modelu lub zmianach w danych,
- ryzyko dyskryminacji i stronniczości,
- cyberbezpieczeństwo oraz podatność na manipulacje,
- skuteczność zastosowanych mechanizmów kontroli i zabezpieczeń.
Jak zapewnić ochronę danych, cyberbezpieczeństwo i zgodność z RODO w systemach AI?
Ochrona danych w systemach AI zaczyna się od ustalenia, jakie informacje są przetwarzane, w jakim celu i na jakiej podstawie prawnej. To kluczowe pytania, które należy zadać jeszcze przed wdrożeniem rozwiązania:
- jakie dane osobowe trafiają do systemu,
- w jakim celu model AI je analizuje,
- na jakiej podstawie prawnej odbywa się przetwarzanie.
RODO powinno być uwzględniane już na etapie projektowania systemu AI, zwłaszcza gdy rozwiązanie analizuje dane osobowe szczególnej kategorii, takie jak informacje biometryczne lub dane dotyczące zdrowia. Mogą to być między innymi nagrania głosu, obraz twarzy, wyniki badań czy dane opisujące zachowanie użytkowników.
W praktyce oznacza to stosowanie zasad privacy by design oraz privacy by default. System AI powinien przetwarzać wyłącznie dane niezbędne do jasno określonego celu, zamiast gromadzić informacje „na zapas”.
Zasada minimalizacji danych dotyczy całego cyklu działania AI: danych treningowych, testowych i walidacyjnych, a także treści wpisywanych przez użytkownika podczas korzystania z narzędzia.
Jakie zastosowania mają systemy AI w finansach, ochronie zdrowia i edukacji?
W obszarach, w których AI przetwarza dane osobowe, kluczowe znaczenie ma jakość danych. Równie ważne są bezpieczeństwo, przejrzystość działania systemu oraz możliwość kontroli jego wyników. Ma to szczególne znaczenie w sektorach takich jak finanse, ochrona zdrowia i edukacja.
Część takich rozwiązań może zostać uznana za systemy AI wysokiego ryzyka w rozumieniu AI Act. Dotyczy to zwłaszcza technologii, które wpływają na dostęp do usług, ocenę danej osoby, jej zdrowie lub możliwość korzystania z praw podstawowych.
W finansach sztuczna inteligencja wspiera wiele procesów: pomaga oceniać zdolność kredytową, analizować ryzyko, wykrywać nadużycia, a w niektórych przypadkach także automatyzować wybrane decyzje. System AI może brać pod uwagę m.in. dochody, historię kredytową, poziom zadłużenia oraz regularność spłat.
Jakie wyzwania etyczne wiążą się z systemami AI?
W finansach, ochronie zdrowia i edukacji etyka AI ma szczególne znaczenie, ponieważ decyzje podejmowane przez systemy sztucznej inteligencji mogą bezpośrednio wpływać na życie konkretnych osób.
Dlatego ocena takiego rozwiązania nie powinna ograniczać się wyłącznie do skuteczności modelu. Należy sprawdzić, czy system działa sprawiedliwie, jest przejrzysty i pozostaje pod realną kontrolą człowieka.
Do kluczowych ryzyk etycznych należą stronniczość danych, gdy model powiela uprzedzenia obecne w danych treningowych, na przykład dotyczące płci, wieku, pochodzenia, stanu zdrowia lub niepełnosprawności, oraz dyskryminacja algorytmiczna, gdy wynik działania systemu prowadzi do nierównego traktowania poszczególnych osób lub całych grup.
