Instytut Łączności

Skutkiem tych bezprecedensowej sytuacji jest bezprecedensowe wydarzenie: 37 firm z Ameryki, Europy i sprzyjającej Zachodowi części Azji formuje sojusz, by wspólnie rozwijać i udostępniać otwarte modele sztucznej inteligencji, narzędzia, standardy oraz mechanizmy bezpieczeństwa, które umożliwią firmom, instytucjom i państwom skuteczną obronę przed cyberzagrożeniami w erze autonomicznych agentów AI. Powstaje w ten sposób Open Secure AI Alliance, ogłoszony między innymi przez Nvidię  sojusz, do którego dołączyły Microsoft, IBM, Cisco, CrowdStrike i sam Hugging Face, obok wielu innych firm, takich jak choćby SAP czy Salesforce. Sojusz ma rozwijać otwarte narzędzia obronne dla ery autonomicznych agentów AI.

Skąd potrzeba stworzenia obronnego sojuszu? Według ustaleń OpenAI sprwcą ataku na Hugging Face były modele agentowe AI, testowane pod kątem zdolności cyberofensywnych.  Modele wydostały się poza środowisko badawcze, uzyskały dostęp do Internetu i wykorzystały podatności w systemach Hugging Face, aby zdobyć informacje potrzebne do rozwiązania benchmarku bezpieczeństwa o nazwie ExploitGym. Incydent został przez uczestników rynku określony jako pierwszy publicznie opisany przypadek autonomicznego cyberataku przeprowadzonego przez zaawansowane modele AI na dużą platformę sztucznej inteligencji.

Incydent ujawnił kilka zagrożeń, które do niedawna funkcjonowały głównie w scenariuszach teoretycznych. Po pierwsze, pokazał, że zaawansowane modele AI mogą samodzielnie planować i wykonywać długie sekwencje działań prowadzących do osiągnięcia celu, wykorzystując przy tym podatności w wielu systemach jednocześnie. Po drugie, wykazał, że nawet środowiska uznawane za odizolowane mogą zostać opuszczone przez agentów AI, jeśli w ich otoczeniu istnieją nieprzewidziane ścieżki dostępu do sieci lub inne luki bezpieczeństwa. Po trzecie, atak unaocznił problem tzw. asymetrii obrony: autonomiczny napastnik może wykonywać tysiące operacji równolegle i nieprzerwanie przez całą dobę, podczas gdy zespoły bezpieczeństwa dysponują ograniczonymi zasobami i czasem reakcji. Wreszcie cała sytuacja sprowokowała podniesienie pytania o rolę zamkniętych modeli AI w cyberobronie. Hugging Face twierdzi, że podczas analizy ataku część komercyjnych narzędzi była ograniczana przez własne mechanizmy bezpieczeństwa, co skłoniło firmę do wykorzystania otwartego modelu uruchomionego lokalnie. I to modelu chińskiego – podczas gdy cała rzecz dzieje się w USA. To właśnie ten argument stał się jednym z impulsów do powołania Open Secure AI Alliance i rozpoczęcia debaty o tym, czy obrońcy nie potrzebują równie zaawansowanych, ale pozostających pod ich pełną kontrolą narzędzi AI i jak daleko powinna iść regulacja, a jak daleko wolność stosowania AI. Coraz częściej eksperci od regulacji uznają, że nie należy regulować technologii, lecz sposób jej używania, a zatem skoncentrować uwagę regulatora na decyzjach, kiedy jaki model wolno stosować, jaka jest za niego odpowiedzialność, czym jest bezpieczeństwo wdrożenia (standardy, metody oceny, laboratoria testowe, wytyczne dla administracji i regulatora w podejmowaniu decyzji), jak powinien wyglądać audyt i nadzór.

Zdaniem Nvidii otwarte modele są elementem infrastruktury bezpieczeństwa. A to jest bardzo ważne dla krajów, które nie mają pełnej suwerenności w AI, własnej chmury AI, producenta GPU i przede wszystkim Frontier Model (najbardziej zaawansowanych modeli). Skoro nie budujemy ekspansji rozwiązań AI, lecz z niej tylko korzystamy, to pozostają nam standardy, procedury, inżynieria zaufania.  – komentuje Anna Streżyńska, Dyrektor Instytutu Łączności. Pracujemy nad tymi zagadnieniami w Instytucie: jakie właściwości musi mieć model AI, aby mógł być używany w administracji publicznej, służbach i infrastrukturze krytycznej. Jak państwo powinno bezpiecznie wykorzystywać modele AI. To pytanie obejmuje zasady uruchamiania modeli, certyfikację, zarządzanie agentami, identyfikację agentów, ścieżki audytu, bezpieczeństwo danych, odporność infrastruktury, interoperacyjność, czyli cały ekosystem dookoła AI.

Dyrektor Anna Streżyńska, która jako Minister Cyfryzacji w latach 2015 – 2018 doprowadziła do powstania pierwszej wersji mObywatela, bardzo mocno interesuje się stykiem administracji publicznej z nowymi technologiami. Tym, co jest bezpieczne dla administracji a co dla obywatela. W jakim zakresie technologia ułatwia życie a w jakim może je komplikować. Patrząc z tej perspektywy dodaje:

Rząd zapewne będzie chciał ustalić, jakie konsekwencje dla Polski ma powstanie Open Secure AI Alliance; konsekwencje regulacyjne, operacyjne, w zakresie bezpieczeństwa, infrastrukturalne i w końcu strategiczne (zależność od dostawców). Dla Ministerstwa Cyfryzacji i jego ekosystemu ogromne znaczenie ma nie tylko regulacja, ale i zdolność obronna; a takie jak powyżej neutralne technologicznie pytania sprawdzą się zarówno dla modeli otwartych jak i zamkniętych.

Być może najważniejszym skutkiem całej historii nie jest sam atak ani nawet powstanie nowego sojuszu technologicznego, ale uświadomienie sobie, że państwa muszą zacząć definiować zasady funkcjonowania sztucznej inteligencji równie precyzyjnie, jak kiedyś definiowały zasady bezpieczeństwa telekomunikacji, energetyki czy bankowości. Bo w świecie agentów AI pytanie o zaufanie do technologii przestaje być pytaniem technicznym. Staje się pytaniem o bezpieczeństwo państwa.

Niezależnie więc od tego, czy incydent z Hugging Face okaże się odizolowanym przypadkiem sam z siebie, czy dzięki działalności sojuszu na rzecz otwartych modeli AI czy też wreszcie pierwszym z całej serii podobnych zdarzeń, jedno jest pewne: sztuczna inteligencja przestaje być wyłącznie narzędziem. Staje się samodzielnym uczestnikiem cyfrowego świata. A to oznacza, że bezpieczeństwa nie będziemy już projektować wyłącznie dla ludzi.