NASK powołuje laboratorium AITAS do testowania bezpieczeństwa sztucznej inteligencji

Systemy oparte na sztucznej inteligencji stają się dziś podwójnie problematyczne z punktu widzenia cyberbezpieczeństwa – z jednej strony przestępcy chętnie po nie sięgają, z drugiej same modele bywają obiektem ataków. W odpowiedzi na to zjawisko NASK powołuje Laboratorium AITAS, którego zadaniem będzie sprawdzanie, na ile odporne są modele AI na różnego rodzaju zagrożenia, a także wspieranie sektora publicznego i prywatnego w szacowaniu ryzyka.

Nowo tworzona jednostka zajmie się opracowywaniem metodologii oceny bezpieczeństwa oraz wiarygodności systemów AI, a także testowaniem ich odporności na ataki z cyberprzestrzeni. Do jej zadań będzie należało również budowanie narzędzi umożliwiających przeprowadzanie audytów i testów, jak też doradzanie administracji publicznej oraz podmiotom zewnętrznym przy analizie zagrożeń wynikających z wdrażania rozwiązań opartych na sztucznej inteligencji. Zespół laboratorium ma ponadto opracowywać raporty poświęcone bezpieczeństwu AI i kierunkom rozwoju tej dziedziny.

Cyberprzestępcy wykorzystują modele językowe do tworzenia wiadomości przypominających komunikaty banków czy innych instytucji. Kampanie phishingowe stają się przez to skuteczniejsze i znacznie trudniejsze do wykrycia. Laboratorium AITAS pozwoli badać bezpieczeństwo modeli językowych, co przełoży się na lepszą ochronę cyberprzestrzeni i większe bezpieczeństwo państwa

Radosław Nielek, dyrektor NASK

Specjaliści związani z laboratorium już teraz angażują się w prace na arenie międzynarodowej dotyczące bezpieczeństwa sztucznej inteligencji. Dr inż. Sebastian Cygert dołączył do panelu naukowego działającego przy EU AI Office w strukturach Komisji Europejskiej – gremium wspiera tworzenie przepisów oraz mechanizmów nadzoru nad najbardziej zaawansowanymi systemami AI.

AITAS buduje też relacje z zagranicznymi jednostkami naukowymi, bierze udział w programach międzynarodowych, w tym w MATS Program, oraz współdziała z uczelniami, wśród których wymienić można New York University, a także ze społecznością ELLIS.

AITAS elementem Centrum Cyberbezpieczeństwa NASK

Laboratorium AITAS zostanie włączone do tworzonego właśnie Centrum Cyberbezpieczeństwa NASK. Oprócz niego w skład CCN wejdą między innymi Krajowe Centrum Odzyskiwania Danych, Krajowe Centrum Operacyjne Cyberbezpieczeństwa, zajmujące się analizą złośliwego oprogramowania laboratorium FUMAL, Ośrodek Modelowania Certyfikacji Cyberbezpieczeństwa, a także centrum wspierające cyberbezpieczeństwo jednostek samorządu terytorialnego.

W maju bieżącego roku NASK otrzymał pozwolenie na budowę, dzięki czemu przedsięwzięcie wchodzi w fazę realizacji inwestycji. Powstanie laboratorium zbiega się w czasie z rosnącym na świecie zainteresowaniem badaniami nad AI Safety oraz wypracowywaniem wiarygodnych metod oceny zaawansowanych systemów sztucznej inteligencji.

Realizacja Centrum Cyberbezpieczeństwa NASK finansowana jest ze środków Europejskiego Funduszu Rozwoju Regionalnego oraz z budżetu państwa, w ramach Programu Fundusze Europejskie na Rozwój Cyfrowy 2021-2027.

Źródło: ITwiz