Niemcy tworzą Instytut Bezpieczeństwa AI

Niemcy utworzą Instytut Bezpieczeństwa AI, którego zadaniem będzie analizowanie możliwości najbardziej zaawansowanych modeli sztucznej inteligencji oraz zagrożeń wynikających z ich rozwoju.

.Decyzję podjął Narodowy Komitet Bezpieczeństwa po przeanalizowaniu wpływu nowych modeli AI na cyberbezpieczeństwo Niemiec. Instytut ma połączyć rozproszone dotąd kompetencje techniczne, prowadzić analizy modeli oraz intensyfikować wymianę informacji z podobnymi ośrodkami w innych państwach.

Berlin chce również pracować z partnerami międzynarodowymi nad ujednoliconymi standardami bezpiecznego wykorzystywania AI. Nie podano jeszcze budżetu placówki, jej lokalizacji, liczby pracowników ani dokładnego terminu rozpoczęcia działalności.

Laboratorium państwa w temacie AI

.Nowego instytutu nie należy utożsamiać z urzędem nadzorującym przestrzeganie unijnego AI Act. Jego podstawowym zadaniem ma być techniczna analiza modeli, a nie nakładanie kar na przedsiębiorstwa.

W projekcie niemieckiej ustawy wdrażającej AI Act rolę centralnego organu nadzoru rynku ma otrzymać Federalna Agencja Sieci, czyli Bundesnetzagentur. Instytut Bezpieczeństwa AI ma natomiast dostarczać państwu wiedzę potrzebną do oceny rzeczywistych możliwości coraz potężniejszych systemów.

Niemcy nie zaczynają od zera. Federalny Urząd Bezpieczeństwa Technologii Informacyjnych, czyli BSI, już dziś opracowuje wymagania, kryteria testowania i metody oceny bezpieczeństwa AI. W kraju działa również należący do Niemieckiego Centrum Lotnictwa i Kosmonautyki Institute for AI Safety and Security, prowadzący badania nad niezawodnością systemów stosowanych m.in. w obszarach krytycznych.

Nowa instytucja ma więc nie zastąpić wszystkich istniejących ośrodków, lecz połączyć ich kompetencje z potrzebami administracji i bezpieczeństwa narodowego.

Cyberataki stają się szybsze i bardziej przekonujące

.Decyzja pojawia się w momencie, gdy Niemcy mierzą się z rosnącą liczbą ataków na przedsiębiorstwa, administrację i infrastrukturę krytyczną.

W 2025 r. niemieckie organy ścigania odnotowały 333 922 przestępstwa zaliczane do cyberprzestępczości. W 207 888 przypadkach atak pochodził z zagranicy albo nie udało się ustalić miejsca działania sprawców. Oficjalne dane nie obejmują wszystkich incydentów, ponieważ część przedsiębiorstw i obywateli nie zgłasza ataków.

Sztuczna inteligencja nie stworzyła cyberprzestępczości, ale zmienia jej skalę. Może pomagać przestępcom w przygotowywaniu bardziej wiarygodnych wiadomości phishingowych, automatyzowaniu rozpoznania systemów, analizowaniu kodu i wyszukiwaniu podatności.

Takie same możliwości mogą jednak służyć obronie. Modele AI przyspieszają analizę złośliwego oprogramowania, wykrywanie nietypowej aktywności oraz identyfikowanie luk, zanim wykorzystają je napastnicy. Instytut będzie więc musiał badać zarówno możliwości ofensywne, jak i potencjał ochronny nowych modeli.

Jak testuje się bezpieczeństwo modeli AI

.Rząd nie przedstawił jeszcze szczegółowego programu badań. Instytuty tego rodzaju zajmują się zazwyczaj oceną modeli przed ich szerokim wdrożeniem i sprawdzają, czy system może zostać wykorzystany w sposób niebezpieczny.

Testy mogą dotyczyć zdolności do tworzenia szkodliwego kodu, obchodzenia zabezpieczeń, ujawniania poufnych danych albo prowadzenia długich zadań bez kontroli człowieka. Analizuje się także odporność systemu na manipulację i to, czy użytkownik może skłonić model do wykonania działania, którego producent próbował zabronić.

Szczególne znaczenie zyskują modele agentowe, które nie tylko odpowiadają na pytania, ale potrafią korzystać z narzędzi, otwierać pliki, wykonywać kod i realizować wieloetapowe zadania. Błąd w takim systemie może mieć większe konsekwencje niż błędna odpowiedź zwykłego chatbota.

Instytut nie ma jednak samodzielnie decydować, czy konkretny model może wejść na rynek. Jego rolą będzie dostarczanie technicznych wyników, na których administracja, regulatorzy i służby mogą opierać swoje decyzje.

Niemcy chcą dołączyć do międzynarodowej sieci testów

.Najpotężniejsze modele są rozwijane przez firmy działające globalnie. Niemcy nie mogą więc skutecznie oceniać ich ryzyka w oderwaniu od innych państw.

Podobne instytucje powstały już m.in. w Wielkiej Brytanii, Stanach Zjednoczonych, Japonii, Kanadzie i Korei Południowej. Ich zadaniem jest rozwijanie metod pomiaru możliwości modeli, organizowanie wspólnych testów i wymiana informacji o nowych zagrożeniach.

Współpraca ma znaczenie również dlatego, że wyniki różnych testów nie zawsze można bezpośrednio porównywać. Model może osiągać dobre rezultaty w jednym laboratorium, a znacznie słabsze w innym, jeśli zastosowano odmienne zadania, kryteria i warunki dostępu.

Wspólne standardy mają ograniczyć ten problem. Bez nich deklaracja, że model jest „bezpieczny”, może oznaczać coś innego dla producenta, regulatora i instytucji państwowej.

Bezpieczeństwo AI wchodzi do polityki państwa

.Powołanie instytutu pokazuje, że niemiecka polityka wobec sztucznej inteligencji zaczyna wykraczać poza wspieranie innowacji i wdrażanie europejskich regulacji.

Najbardziej zaawansowane modele mogą wpływać na cyberbezpieczeństwo, funkcjonowanie infrastruktury krytycznej, administrację i zdolności służb. Państwo potrzebuje więc wyprodukować i do kwalifikować własnych ekspertów, którzy przy pomocy infrastruktury testowej będą mogli w niezależny sposób rozstrzygać, czy deklaracje firm technologicznych pokrywają się z prawdą. Kluczowe będzię tu tempo zmian, które występują co sprowadzi się do tego, czy Państwo będzie krok przed technologią i jej użytkownikami, którzy adaptują się do zmian w zatrważającym tempie.

Niemcy podejmują próbę stworzenia takiego zaplecza. Samo powołanie instytutu nie zapewni bezpieczeństwa, ale może sprawić, że państwo przestanie oceniać najpotężniejsze systemy AI wyłącznie na podstawie informacji dostarczanych przez ich producentów.

Szymon Ślubowski