// Audyt bezpieczeństwa AI – dzieci i młodzież

Ocena bezpieczeństwa AI dla dzieci i młodzieży

Oceny pilotażowe po indywidualnym uzgodnieniu i wstępnej weryfikacji technicznej.

Chatboty, asystenci edukacyjni i cyfrowi towarzysze są coraz częściej używani przez dzieci i młodzież. Takie systemy zachowują się inaczej w dłuższych rozmowach, pod presją i przy zmianie kontekstu niż klasyczna aplikacja. Oceniamy to zachowanie w sposób uporządkowany i autoryzowany – wyłącznie w zakresie uzgodnionym wcześniej. Ta ocena jest specjalistycznym rozszerzeniem audytu bezpieczeństwa AI SKOPION.

O co chodzi

Rozwiązanie AI skierowane do dzieci lub młodzieży podąża za językiem naturalnym i dostosowuje się do rozmowy. Może to prowadzić do odpowiedzi nieodpowiednich dla wieku, niezamierzonego ujawnienia danych, niebezpiecznych sugestii lub ustąpienia pod presją rozmowy – nawet bez klasycznej luki w kodzie. Sprawdzamy, jak rozwiązanie zachowuje się wobec młodych użytkowników.

Dla kogo

dostawcy chatbotów i cyfrowych towarzyszy
twórcy aplikacji edukacyjnych i edtech
dostawcy funkcji AI w aplikacjach dla dzieci
operatorzy i integratorzy systemów używanych przez dzieci lub młodzież
szkoły, platformy edukacyjne i organizacje wdrażające takie rozwiązania
zespoły product, safety, compliance, prywatności i governance

To, czy i jakie obowiązki prawne mają zastosowanie w konkretnym przypadku, zależy od roli, przeznaczenia i kontekstu wdrożenia i wymaga osobnej oceny.

Co oceniamy

scenariusze jedno- i wieloturowe
reakcje na presję, eskalację i zmianę kontekstu
wzorce odmowy, przekierowania i bezpiecznej reakcji
spójność zachowania w dłuższej rozmowie
adekwatność odpowiedzi do wieku
obchodzenie się z tematami wrażliwymi i kierowanie do form pomocy
scenariusze dopasowane do konkretnego produktu i grupy użytkowników

Warstwy oceny: deterministyczne reguły i kryteria, analiza struktury odpowiedzi, wspomagana ocena semantyczna oraz obowiązkowa ocena człowieka dla ustaleń krytycznych. Żaden krytyczny wynik nie jest automatycznie uznawany za zamknięty.

Jak przebiega ocena

zakres uzgodniony pisemnie
jednoznacznie wskazany produkt lub środowisko
kontrolowane, izolowane środowisko testowe
wstępna weryfikacja techniczna przed rozpoczęciem
ocena człowieka dla ustaleń krytycznych (human-in-the-loop)

Zakres oceny jest wcześniej ograniczany podczas weryfikacji technicznej i organizacyjnej. Niektóre szczególnie wrażliwe scenariusze nie należą do obecnie dostępnego zakresu pilotażowego.

Co otrzymujesz

czytelny raport z ustaleniami i poziomem ważności
priorytety ryzyka
konkretne zalecenia naprawcze
uporządkowany pakiet dowodowy z kontrolą integralności i artefaktów
krótkie podsumowanie systemu, jego konfiguracji i zasad governance
opis ograniczeń oceny
listę kwestii otwartych do dalszego przeglądu
materiał wspierający wewnętrzną dokumentację i governance

Opcjonalnie · uzgadniane osobno

Dodatkowo: zewnętrzna ekspozycja marki i produktu

Na życzenie i z osobnym zakresem analizujemy wyłącznie publicznie widoczne i legalnie dostępne sygnały – np. podobne domeny i możliwe podszywanie się pod markę, publicznie widoczną infrastrukturę, oznaki zewnętrznej ekspozycji danych lub poświadczeń oraz istotne zmiany w czasie. Ten moduł nie jest częścią każdej oceny, wymaga osobnego zakresu i nie obejmuje nieautoryzowanych testów systemów trzecich.

Regulacje i dokumentacja

W zależności od roli organizacji, przeznaczenia systemu i kontekstu wdrożenia znaczenie mogą mieć różne zagadnienia regulacyjne i dokumentacyjne. SKOPION porządkuje obserwacje techniczne i wskazuje kwestie wymagające dalszego przeglądu governance lub prawnego. Nie jest to porada prawna ani potwierdzenie zgodności.

Granice i odpowiedzialne użycie

brak certyfikacji lub potwierdzenia zgodności
brak porady prawnej lub gwarancji bezpieczeństwa
testy tylko w pisemnie uzgodnionym zakresie
brak automatycznych zgłoszeń do instytucji
wyniki dotyczą uzgodnionego czasu, zakresu i stanu systemu

Częste pytania

Dla jakich produktów jest ocena?

Dla rozwiązań AI używanych przez dzieci lub młodzież: chatboty, cyfrowi towarzysze, aplikacje edukacyjne i edtech, funkcje AI w aplikacjach dla dzieci.

Czy to audyt prawny lub certyfikacja?

Nie. To techniczna i governance ocena bezpieczeństwa. Nie jest to porada prawna, certyfikacja ani potwierdzenie zgodności.

Czy SKOPION testuje systemy bez zgody?

Nie. Aktywne oceny wykonujemy wyłącznie za pisemną autoryzacją i tylko w uzgodnionym zakresie.

Co obejmuje pilot?

Autoryzowaną, ograniczoną zakresowo ocenę zachowania w kontrolowanym środowisku, z oceną człowieka dla ustaleń krytycznych.

Jakie scenariusze są obecnie wyłączone?

Niektóre szczególnie wrażliwe scenariusze nie należą do obecnie dostępnego zakresu pilotażowego. Dokładny zakres uzgadniamy wcześniej.

Czy wynik potwierdza zgodność z AI Act lub DSA?

Nie. Porządkujemy istotne zagadnienia regulacyjne i wskazujemy kwestie otwarte; to nie jest potwierdzenie zgodności.

Jak długo wyniki pozostają aktualne?

Opisują określony czas i zakres. Po zmianach modelu, promptów, polityk lub integracji zalecana może być ponowna ocena.

Jakie materiały otrzymuję?

Raport z ustaleniami i poziomem ważności, priorytetowe zalecenia, uporządkowany pakiet dowodowy, krótkie podsumowanie systemu i governance oraz opis ograniczeń.

Czy można dodać ocenę external-exposure?

Tak, jako osobno uzgodniony zakres, wyłącznie na podstawie publicznie widocznych, legalnie dostępnych sygnałów.

Jak rozpoczyna się współpraca?

Od krótkiego opisu Państwa rozwiązania. Zakres i autoryzację ustalamy wspólnie, po czym następuje wstępna weryfikacja techniczna.

Zapytaj o ocenę pilotażową

Opisz krótko swoje rozwiązanie AI dla dzieci lub młodzieży. Zakres i autoryzację ustalamy wspólnie – dyskretnie i bez zobowiązań, po wstępnej weryfikacji technicznej.

Zapytaj o ocenę pilotażową

Autoryzowana ocena, wyłącznie w uzgodnionym zakresie. Bez certyfikacji, bez porady prawnej, bez potwierdzenia zgodności.