Sztuczna inteligencja jest dziś coraz bardziej obecna w codziennym życiu – od chatbotów przez narzędzia do tworzenia grafik, po automatyczne tłumaczenia. Nowe rozporządzenie Unii Europejskiej, znane jako AI Act, ma ujednolicić zasady korzystania z tych technologii, stawiając na przejrzystość, bezpieczeństwo i odpowiedzialność. Dla użytkowników oznacza to więcej informacji o tym, kiedy rozmawiają lub mają do czynienia z systemem AI, a dla dostawców — nowe obowiązki dokumentacyjne i techniczne.
Kiedy użytkownik musi zostać poinformowany, że ma do czynienia z AI
Jednym z kluczowych wymogów AI Act jest obowiązek informacyjny. Jeśli system AI został zaprojektowany do bezpośredniej interakcji z osobą fizyczną, jego dostawca musi wyraźnie poinformować użytkownika, że ma do czynienia z maszyną. Celem tego zapisu jest umożliwienie świadomej oceny rozmowy czy treści oraz lepsze rozumienie ryzyk związanych z automatycznymi systemami. Istnieją jednak wyjątki — na przykład gdy z otoczenia lub kontekstu w sposób oczywisty wynika, że rozmówcą jest AI, albo gdy system jest wykorzystywany zgodnie z prawem do działań związanych z wykrywaniem i zapobieganiem przestępstwom przy zachowaniu właściwych gwarancji prawnych.
Oznaczanie materiałów wygenerowanych przez AI i deepfake
Rozwój narzędzi generujących obrazy, audio i wideo sprawia, że coraz trudniej odróżnić twórczość człowieka od efektów pracy algorytmów. AI Act nakłada na dostawców systemów techniczne obowiązki pozwalające na oznaczanie treści jako wygenerowanych lub zmodyfikowanych przez AI, jeśli jest to technicznie wykonalne. Regulacja szczególnie odnosi się do materiałów typu deepfake — ich twórcy powinni ujawniać, że obraz lub nagranie zostało stworzone lub zmienione z użyciem sztucznej inteligencji.
Podobne obowiązki dotykają tekstów publikowanych w celach informowania społeczeństwa o sprawach o znaczeniu publicznym, choć przewidziano wyjątki np. dla treści poddanych kontroli redakcyjnej lub zweryfikowanych przez człowieka. Dodatkowo przepisy regulują stosowanie systemów rozpoznawania emocji i kategoryzacji biometrycznej — osoby, wobec których takie narzędzia są używane, muszą być o tym informowane, a przetwarzanie danych osobowych ma odbywać się zgodnie z obowiązującymi przepisami o ochronie danych.
Modele AI ogólnego przeznaczenia — nowe obowiązki dostawców
Rozporządzenie wyróżnia modele AI ogólnego przeznaczenia (foundation models), czyli narzędzia mogące być wykorzystywane w wielu zastosowaniach i integrowane z innymi systemami. Dostawcy takich rozwiązań będą musieli prowadzić i aktualizować dokumentację techniczną modeli, przygotowywać informacje dla podmiotów wykorzystujących model, a także wdrażać polityki zapewniające zgodność z prawem autorskim i prawami pokrewnymi. Dodatkowo wymagane będzie przygotowanie streszczenia dotyczącego danych wykorzystanych do trenowania modelu — ma to ułatwić ocenę ryzyk i prawidłowe stosowanie tych narzędzi przez integratorów i użytkowników końcowych.
Modele o ryzyku systemowym i dodatkowe zabezpieczenia
AI Act wprowadza kategorię modeli o ryzyku systemowym — to rozwiązania o dużych możliwościach i potencjalnym szerokim wpływie na społeczeństwo. Takie modele podlegają zaostrzonym wymaganiom: dostawcy muszą przeprowadzać oceny modelu, identyfikować i ograniczać ryzyka systemowe, zgłaszać poważne incydenty odpowiednim organom oraz zapewnić wysoki poziom cyberbezpieczeństwa zarówno modelu, jak i infrastruktury. Celem jest zmniejszenie negatywnych skutków przy jednoczesnym utrzymaniu możliwości rozwoju technologii.
Wsparcie i kontrolowane środowiska dla innowacji
Aby ułatwić wdrażanie przepisów i promować jednolite standardy, AI Act przewiduje opracowywanie kodeksów praktyk na poziomie Unii Europejskiej. Mają one pomagać dostawcom w dokumentowaniu modeli, zarządzaniu ryzykiem i zapewnianiu przejrzystości. Ponadto rozporządzenie zakłada tworzenie krajowych piaskownic regulacyjnych — kontrolowanych przestrzeni, w których twórcy i firmy będą mogli testować i walidować nowe systemy AI przed ich wprowadzeniem na rynek. Organy nadzorcze mają tam także udzielać wskazówek dotyczących zgodności z wymaganiami AI Act i pomagać w identyfikacji potencjalnych zagrożeń.
Dla mieszkańców i firm w Poznaniu nowe przepisy oznaczają większą jasność co do źródła treści i mechanizmów działania narzędzi AI, a także — w dłuższej perspektywie — wyższy poziom bezpieczeństwa cyfrowego. Deweloperzy i dostawcy rozwiązań będą musieli zadbać o dokumentację, oznaczanie wygenerowanych materiałów i zgodność z zasadami ochrony danych, co może wpłynąć na sposób, w jaki oferowane są usługi oparte na sztucznej inteligencji.
| Informacja | Szczegóły |
|---|---|
| Cel rozporządzenia | Zwiększenie przejrzystości, bezpieczeństwa i odpowiedzialności w wykorzystywaniu AI |
| Obowiązek informacyjny | Dostawca musi poinformować użytkownika, gdy system AI ma bezpośredni kontakt z osobą fizyczną (z wyjątkami) |
| Oznaczanie treści | Treści wygenerowane lub zmodyfikowane przez AI, w tym deepfake, powinny być ujawnione, jeśli jest to technicznie możliwe |
| Modele ogólnego przeznaczenia | Dostawcy muszą prowadzić dokumentację techniczną, informować użytkowników i udostępniać streszczenia danych treningowych |
| Modele o ryzyku systemowym | Dodatkowe obowiązki: oceny, ograniczanie ryzyk, zgłaszanie incydentów, wymogi cyberbezpieczeństwa |
| Wsparcie dla innowacji | Kodeksy praktyk i krajowe piaskownice regulacyjne do testów i walidacji nowych systemów |
AI Act kładzie nacisk na przejrzystość jako fundament budowania zaufania do technologii. Dla użytkowników oznacza to lepszą informację o tym, z czym mają do czynienia, a dla twórców — konieczność wprowadzenia procesów i zabezpieczeń zgodnych z nowymi wymogami. W praktyce może to wpłynąć na sposób publikacji treści, stosowania narzędzi automatyzujących pracę oraz na standardy bezpieczeństwa stosowane przez firmy oferujące rozwiązania oparte na AI.
Źródło: poznan.pl/
