Od 2026 roku instytucje edukacyjne będą musiały przestrzegać ograniczeń analizowania danych uczniów, spełnić dodatkowe wymogi wobec dostawców systemów oraz wypełnić określone obowiązki deployerów w szkołach. W efekcie dowiedzą się, które systemy zostaną uznane za wysokiego ryzyka oraz jakie praktyki będą zabronione. Jednak należy zrozumieć, jak AI Act wpłynie na metodę oceniania oraz dobór dostawców, ponieważ właściwe przygotowanie decyduje o bezpiecznym wdrożeniu i pozwala uniknąć kosztownych problemów. Ponadto praktyczna checklista zgodności wskaże kluczowe kroki, które pomogą uchronić się przed nieoczekiwanymi sankcjami i uproszczą raportowanie do organów nadzoru.
AI Act to rozporządzenie UE, które określa zasady odpowiedzialnego stosowania systemów AI w szkołach i na uczelniach. Wprowadza kryteria oceny ryzyka i wymogi przejrzystości algorytmów. Regulacja wejdzie w życie w 2026 roku. Dotknie ona twórców technologii i instytucje edukacyjne wdrażające narzędzia AI, które jako deployerzy muszą przeprowadzić ocenę zgodności oraz zabezpieczyć się przed niezamierzonymi skutkami algorytmów.
Najważniejsze informacje
- Systemy „wysokiego ryzyka" w edukacji obejmują narzędzia oceny uczniów i wsparcia w procesie rekrutacji.
- Zakazane praktyki obejmują rozpoznawanie twarzy, analizę emocji, profilowanie subiektywne i manipulację behawioralną.
- Szkoły i uczelnie jako deployer prowadzą rejestr użycia systemów AI i dokumentują ocenę ryzyka.
- Kalendarz wdrożenia AI Act przewiduje pełne stosowanie zasad od czerwca 2026 roku.
- Praktyczna checklista zgodności zawiera identyfikację, ocenę ryzyka, dokumentację, szkolenie i monitoring systemów.
Czym jest AI Act i kogo w edukacji dotyczy
AI Act to unijne prawo regulujące wdrażanie technologii sztucznej inteligencji w różnych obszarach, także w edukacji. Wejdzie w życie w 2026 roku i ma zapewnić bezpieczne zastosowanie narzędzi AI w szkołach i na uczelniach, ograniczając ryzyko dla uczniów oraz placówek.
Regulacje obejmują zarówno twórców technologii, jak i instytucje edukacyjne, które z niej korzystają. Firmy tworzące oprogramowanie wprowadzają mechanizmy zarządzania ryzykiem i procedury reagowania na nieprzewidziane skutki działania algorytmów. Z kolei szkoły, uczelnie i instytuty odpowiadają za ocenę wpływu tych systemów na proces nauczania oraz ochronę prywatności uczniów. W ten sposób wszystkie zaangażowane strony współpracują z organami nadzoru i działają zgodnie z unijnymi standardami bezpieczeństwa.
Każda instytucja planująca wdrożenie AI przeprowadza szczegółową ocenę ryzyka, dzięki której wyłaniają się potencjalne zagrożenia dla praw uczniów, np. automatyczne filtrowanie danych czy błędy w generowaniu materiałów. Dokumentacja techniczna od dostawców opisuje architekturę algorytmu oraz mechanizmy gwarantujące uczciwość i przejrzystość działania. Stałe monitorowanie narzędzi oraz raportowanie incydentów do odpowiednich organów zapewnia kontrolowany i odpowiedzialny proces wdrożenia AI.
Systemy „wysokiego ryzyka"
Rozwiązania AI wysokiego ryzyka znacząco wpływają na proces nauczania i oceniania uczniów, dlatego wymagają szczególnych zabezpieczeń. AI Act wyróżnia cztery poziomy zagrożeń dla systemów sztucznej inteligencji. Przed wdrożeniem instytucje przeprowadzają ocenę dopuszczalności i przygotowują dokumentację.
Przykłady takich narzędzi to rozwiązania wspierające ocenianie prac egzaminacyjnych oraz programy monitorujące zachowania uczniów podczas testów zdalnych. Obejmują również systemy analizujące kandydatów na studia i te planujące indywidualne ścieżki nauczania. Każde przechodzi ocenę zgodności, w tym testy bezpieczeństwa i weryfikację danych treningowych. Instytucje edukacyjne dokumentują wyniki tych analiz i zgłaszają nieprawidłowości do odpowiednich organów nadzoru.
Zakazane praktyki
AI Act zakazuje praktyk naruszających prywatność i prawa uczniów, w tym automatycznej analizy emocji podczas rekrutacji, oceniania czy egzaminów. Użycie technologii rozpoznawania emocji bez wyraźnej zgody ucznia łamie przepisy.
Regulacje zakazują także profilowania na podstawie zachowań i automatycznego klasyfikowania uczniów według cech osobistych. Nielegalna jest analiza behawioralna oceniająca postawy moralne czy przewidująca wyniki egzaminów na podstawie mowy ciała. Unijne przepisy wykluczają wszelkie technologie ingerujące w procesy psychofizjologiczne. W konsekwencji szkoły muszą korzystać tylko z narzędzi przejrzystych, których kryteria działania są w pełni udokumentowane.
Przepisy dopuszczają narzędzia wykorzystujące dane anonimowe, dzięki którym można analizować trendy w nauczaniu bez identyfikowania konkretnych osób. Takie systemy napędzają programy adaptacyjne, dostosowujące materiał do średnich wyników grupy zamiast indywidualnych rezultatów. Kluczowe są pełna anonimizacja danych wejściowych i brak odczytu biomarkerów czy sygnałów świadomości. W ten sposób szkoły mogą śledzić zaangażowanie całej klasy, ale rezygnują z oceny emocji czy zachowań pojedynczych uczniów.
Obowiązki szkoły/uczelni jako „deployer”
Deployer w szkole lub na uczelni odpowiada za wdrożenie i monitorowanie systemów AI według wymogów AI Act, co wiąże się z prowadzeniem dokumentacji i audytów. Audyt zgodności odbywa się co najmniej raz w roku, dzięki czemu placówka otrzymuje regularną ocenę ryzyka. Ponadto podmiot wdrażający zbiera i aktualizuje dokumentację ryzyka, opisując luki oraz wdrożone środki naprawcze.
Przed instalacją nowego modułu AI szkoła lub uczelnia przeprowadza analizę ryzyka, wskazując potencjalne zagrożenia dla prywatności i rzetelności ocen. Taki raport opisuje możliwe błędy w działaniu systemu, ich skutki dla procesu dydaktycznego oraz procedury reakcji. Po uruchomieniu narzędzia deployer włącza monitoring w czasie rzeczywistym i rejestruje incydenty, co ułatwia dalsze audyty. Rejestr powinien zawierać datę, opis zdarzenia i zastosowane środki korygujące, tworząc pełną ścieżkę audytu. W razie poważnej niezgodności instytucja zgłasza ją do odpowiedniego nadzorcy, zwiększając transparentność wdrożenia.
Deployer organizuje również szkolenia dla personelu obsługującego system i wyznacza opiekuna technicznego. Dzięki temu nauczyciele znają zasady korzystania z AI i reagują na wygenerowane przez narzędzie alerty. Materiały i potwierdzenia ukończenia kursów trafiają do rejestru zgodności, ułatwiając kontrole i dowodząc przestrzegania przepisów. Jasny podział ról ogranicza ryzyko niewłaściwego użycia, wspiera etyczne zastosowania sztucznej inteligencji w edukacji i napędza regularne aktualizacje procedur współpracy z dostawcami.
Kalendarz wdrożenia (terminy)
Rozporządzenie (UE) 2024/1689 rozpisuje etapy wdrożenia AI Act w szkołach i uczelniach. Zawiera kolejne obowiązki: rejestrację systemów wysokiego ryzyka, dokumentację wymagań technicznych i coroczne raportowanie. Zapisy kalendarza pomagają instytucjom planować wewnętrzne harmonogramy, precyzować daty kolejnych obowiązków i przydzielać zasoby. Uwzględniono w nim zarówno prace przygotowawcze, jak i regularne przeglądy zgodności.
Prace przygotowawcze zaczynają się od oceny ryzyka wdrażanych rozwiązań. Potem instytucje rejestrują systemy wysokiego ryzyka na unijnym portalu i opracowują dokumentację procedur reagowania na incydenty oraz gwarancji integralności algorytmów. W fazie implementacji wprowadzają techniczne i organizacyjne zabezpieczenia, a następnie przekazują raporty oceny zgodności do organów nadzoru. Monitoring zakłada coroczne audyty i aktualizację praktyk w oparciu o zapisy harmonogramu. Przed rozszerzeniem funkcjonalności systemów dokumentację odświeża się, by zachować zgodność nowych algorytmów.
Połączenie zaplanowanych terminów z procesami zgodności, takimi jak RODO, pozwala na płynne przeprowadzenie kolejnych etapów. Instytucje często przeprowadzają pilotażowe testy oraz szczegółowe szkolenia kilka miesięcy przed głównymi terminami, żeby zweryfikować poprawność procedur. Dedykowany zespół koordynujący śledzi postępy i reaguje na zmiany w harmonogramie. Przy tym analizuje się dostępnych dostawców rozwiązań AI, by dostosować zakupy do wymagań kalendarza.
Praktyczna checklista zgodności
Poniższa checklista pomoże szkołom i uczelniom sprawdzić zgodność z AI Act. Obejmuje działania od identyfikacji ryzykownych rozwiązań po zgłaszanie incydentów. Bazuje na wytycznych z załącznika III i wyznacza kluczowe kryteria oraz terminy realizacji.
Checklistę otwiera weryfikacja modułów AI według klasyfikacji z załącznika III. Pozwala to wskazać potencjalne naruszenia prywatności i wpływ na obiektywność ocen, a wyniki rejestrować w centralnym rejestrze. Potem wprowadza się procedury monitorowania i regularny przegląd algorytmów zgodnie z wytycznymi MEN AI. Ostatni krok to opracowanie spójnego formatu raportu o incydentach i przesłanie go do właściwego organu nadzoru.
Podsumowanie
AI Act mocno wpływa na wdrażanie systemów AI w szkolnictwie, wymuszając przejrzyste procedury i szczegółową dokumentację działania. Instytucje analizują ryzyko przed każdą instalacją. Zakazane praktyki chronią prywatność uczniów, a deployerzy skupiają się na innowacjach edukacyjnych. Rozwiązania wysokiego ryzyka wymagają dodatkowych zabezpieczeń, co wzmacnia rzetelność ocen i ogranicza nadużycia. Stabilny harmonogram wdrożenia ułatwia planowanie inwestycji oraz współpracę z dostawcami. Zacznij od porównania ofert trzech dostawców i wybierz rozwiązanie najlepiej dopasowane do profilu instytucji.
Najczęściej zadawane pytania
Jakie sankcje przewiduje AI Act za naruszenia w sektorze edukacji?
Sankcje według AI Act obejmują kary do sześciu procent rocznego globalnego obrotu lub do czterdziestu milionów euro, w zależności od tego, która kwota jest wyższa, za stosowanie niedozwolonych praktyk lub zaniedbanie obowiązków.
Jakie systemy AI stosowane w szkołach uznano za wysokiego ryzyka?
Systemy AI w szkołach uznane za wysokiego ryzyka to na przykład narzędzia do automatycznego oceniania wyników uczniów, systemy biometrycznej weryfikacji tożsamości przy egzaminach oraz algorytmy analizujące ryzyko porzucenia nauki.
Kto w szkole odpowiada za wdrożenie wymogów AI Act?
Za wdrożenie wymogów AI Act w szkole odpowiada podmiot prowadzący, który powinien wyznaczyć osobę odpowiedzialną za zgodność, zapewnić szkolenia personelu oraz nadzorować ocenę ryzyka i dokumentację techniczną systemów AI.
Jakie dokumenty potwierdzające zgodność z AI Act muszą archiwizować szkoły i uczelnie?
Szkoły i uczelnie muszą archiwizować dokumentację oceny ryzyka, noty techniczne systemów AI, raporty z testów zgodności oraz protokoły szkoleń i procedury nadzoru, aby potwierdzić prawidłowe wdrożenie wymagań AI Act.
Do kiedy szkoły i uczelnie muszą wdrożyć zmiany wynikające z AI Act?
Szkoły i uczelnie muszą wdrożyć wymogi AI Act dotyczące systemów wysokiego ryzyka najpóźniej do trzydziestego czerwca dwutysięcznego dwudziestego szóstego roku, zgodnie z harmonogramem przyjętym przez Parlament Europejski.