Rządzenie przez AI
Akt UE w sprawie sztucznej inteligencji: co firmy muszą teraz uwzględniać w zarządzaniu ryzykiem
Ustawa AI fundamentalnie zmienia zarządzanie, przestrzeganie przepisów i zarządzanie ryzykiem. Firmy muszą klasyfikować, dokumentować i monitorować swoje systemy AI.
Akt UE w sprawie sztucznej inteligencji jest najpełniejszym wskaźnikiem prawnym w skali światowej dotyczącym tej technologii. Definuje one jasne wymogi w zakresie przejrzystości, bezpieczeństwa, dokumentacji i Zarządzanie ryzykiem. Firmy muszą sprawdzić i klasyfikować swoje systemy AI – a to często wymaga szybszego działania niż się spodziewano.
Przeczytaj więcej na temat treści swa EU AI-Acts pod adresem: https://aiact.software/
Ramy prawne
- Identyfikacja i dokumentacja systemów AI w przedsiębiorstwie
- Klasyfikacja systemów AI według poziomów ryzyka: niedozwolone – wysokie ryzyko – umiarkowane ryzyko – minimalne ryzyko
- Obowiązkowe dla systemów analitycznych o wysokim ryzyku (np. selekcja kandydatów, urządzenia medyczne, ocena zdolności kredytowej, infrastruktura krytyczna)
- Strafy za naruszenia: do 35 mln € lub 7 % % rocznego obrotu
Ustawa AI różni się między innymi od:
zakazana AI
Inteligentna inteligencja o wysokim ryzyku
ograniczony ryzykowny algorytm
Minimalne ryzyko AI
W przypadku zarządzania ryzykiem przede wszystkim Inteligentna inteligencja o wysokim ryzyku odpowiedni.
Wymagania zawarte w treściach dla wysokiego ryzyka sztucznej inteligencji
- Sytemy zarządzania ryzykiem dla Sztucznej Inteligencji (art. 9)
- Dokumentacja techniczna i ocena zgodności (art. 11–19)
- Zarządzanie dokumentami, przejrzystość i kontrola ludzka
- Kontrole jakości danych i zrozumienie
- Rejestracja w unijnej bazie danych dla wysokoryzikowych systemów sztucznej inteligencji
Wymagane przez regulacje środki wdrożeniowe
- Identyfikacja i klasyfikacja ryzyka aplikacji sztucznej inteligencji
- Workflow zarządzania ryzykiem zgodnie z art. 9 AI Act (w tym logging, kontrole, recenzje)
- Moduł dokumentacji z funkcją eksportu do celów kontroli zgodności
- Monitorowanie– oraz dashboard audytu dla bieżących kontroli
- Integracja z istniejącymi systemami ISMS/RMS (np. ISO 27001, ISO 31000, CSRD)
- Architektura przyszłościowa dla rejestracji w bazie danych UE
Wpływ na zarządzanie ryzykiem
Ustawa o sztucznej inteligencji wymaga:
Nowe rodzaje ryzyka
(Błąd, odchylenie, błędna klasyfikacja)
Nowe kontrole
(Śledzenie kontrolne, monitorowanie)
Nowe struktury zarządzania
(board ds. AI, dyrektorzy ds. KI)
Integracja z istniejącym systemem
Systemy ERM i IKS
Przykładowe rozwiązanie
Firmie oferującej kredyty wspierane przez technologię AI, na przykład należy:
Stwarzać ryzyko dyskryminacji (-> systematyczne dyskryminowanie grup)
Dokumentują dane treningowe i szkoleniowe
Wdrażanie systemu kontroli sztucznej inteligencji
Prowadzić regularne audyty
Korzyści praktyczne:
Firmy, które zaczynają wcześnie, korzystają z:
Governance w zakresie sztucznej inteligencji staje się przewagą konkurencyjną
Ustawa AI nie jest wyłącznie tematem dotyczącym przestrzegania przepisów – jest to Temat zarządzania. Firmy, które profesjonalnie zarządzają ryzykami związanymi z AI, zapewniają innowacyjność i zgodność z regulacjami prawnymi Bezpieczeństwo i unikanie, jeśli to konieczne, wysokich kar grzywny.
