Czy testy w OpenAI i Anthropic dowodzą, że sztuczna inteligencja wymyka się spod kontroli? Ekspertka Anna Miaśkiewicz z BEZDRAM studzi emocje: to były kontrolowane sprawdziany, które ujawniają nową jakość w cyberprzestępczości.
OpenAI ujawniło z opóźnieniem, że testowe modele, w tym ChatGPT 5,6 Sol i wersja przedpremierowa, wykorzystały lukę w zabezpieczeniach i wydostały się z odizolowanego środowiska. Po uzyskaniu dostępu do internetu przeprowadziły nieautoryzowany atak na infrastrukturę Hugging Face, platformy open source do tworzenia modeli uczenia maszynowego.
W piątek BBC podało, że Anthropic poinformowało o włamaniach dokonanych przez modele Claude Opus 4.7, Mythos 5 oraz wewnętrzny model testowy. AI miały działać w izolacji, ale wykorzystały podatność w systemie, uruchomiły się online i zaatakowały infrastrukturę trzech organizacji. Firma nie ujawniła ich nazw; modele użyły słabych haseł i nieuwierzytelnionych punktów końcowych. Anthropic zachęca inne laboratoria AI do podobnych testów.
Co naprawdę wydarzyło się podczas testów?
Anna Miaśkiewicz, CEO i CTO BEZDRAM, traktuje opisany przez OpenAI przypadek jako celowe ćwiczenie, a nie dowód na bunt sztucznej inteligencji. Jej zdaniem w odizolowanym środowisku badawczym sprawdzano, jak systemy działające w modelu agentowym radzą sobie ze złożonymi scenariuszami cybernetycznymi.
– Incydent opisany przez OpenAI i Hugging Face nie oznacza, że sztuczna inteligencja przejęła władzę. Był to kontrolowany test bezpieczeństwa prowadzony w odizolowanym środowisku badawczym, którego celem było sprawdzenie możliwości systemów AI działających w modelu agentowym w zakresie realizacji złożonych scenariuszy cybernetycznych. To jednak jeden z najważniejszych sygnałów dla branży cyberbezpieczeństwa w ostatnich latach, ponieważ pokazuje, że współczesne systemy AI, wyposażone w odpowiednie narzędzia, potrafią planować działania, analizować środowisko, wykorzystywać dostępne zasoby i realizować wieloetapowe zadania przypominające sposób pracy doświadczonych specjalistów – powiedziała Anna Miaśkiewicz.
Automatyzacja ataków nie jest nowa, ale Miaśkiewicz odrzuca narrację o przejęciu władzy przez AI, bo buduje ona sensację zamiast opisywać realne ryzyko.
– Różnica polega na tym, że nowoczesne systemy agentowe wykorzystujące AI potrafią analizować środowisko, planować kolejne kroki i dynamicznie dostosowywać swoją strategię do napotkanych przeszkód. To jakościowa zmiana, która będzie miała istotny wpływ zarówno na sposób prowadzenia ataków, jak i budowania mechanizmów obronnych – podkreśliła Anna Miaśkiewicz.
Znacznie większym wyzwaniem będzie wykorzystywanie AI przez cyberprzestępców do automatyzacji i przyspieszania ataków, zwiększania ich skali oraz skuteczności.
– Odpowiedzią na to nie jest strach przed sztuczną inteligencją, ale budowanie równie inteligentnych mechanizmów obrony – skomentowała Anna Miaśkiewicz.
Jak firmy powinny przygotować się na nowe ryzyko?
Z raportu Cyberportret polskiego biznesu 2026, przygotowanego przez ESET i DAGMA Bezpieczeństwo IT, wynika, że tylko 27 proc. firm ma spisaną politykę korzystania z narzędzi AI. Aż 10 proc. pracowników przyznaje, że przekazuje wrażliwe dane firmowe do publicznych modeli sztucznej inteligencji, co zwiększa ryzyko ich późniejszego wycieku.
Zdaniem ekspertki nie oznacza to automatycznie wzrostu budżetów na cyberbezpieczeństwo, lecz włączenie ochrony AI do strategii zarządzania ryzykiem.
– Tak jak organizacje nauczyły się zabezpieczać chmurę, środowiska hybrydowe czy pracę zdalną, tak dziś muszą przygotować się na ochronę aplikacji wykorzystujących sztuczną inteligencję, agentów AI oraz danych przetwarzanych przez te systemy – stwierdziła Anna Miaśkiewicz.
W sektorze przemysłowym szczególne znaczenie ma oddzielenie środowisk IT od OT, kontrola zdalnego dostępu i bieżący monitoring komunikacji przemysłowej. Dostęp do systemów OT i ICS powinien być ograniczany według zasady najmniejszych uprawnień i segmentacji sieci, niezależnie od tego, czy po drugiej stronie znajduje się człowiek, automat czy agent AI.
Uczestnicy Cybersec EXPO & Forum przekonywali, że bez włączenia cyberbezpieczeństwa do kultury organizacji i bezpośredniej linii CISO z zarządem reagowanie na zagrożenia pozostanie tylko na papierze.
W raporcie Cyberodporność. Wersja Polska, przygotowanym przez redakcję WNP i Grupę PTWP, wskazano, że AI po stronie atakujących zwiększa szybkość i skalę działań, a odporność powinna opierać się na szybkim odtwarzaniu zdolności cyfrowych po ataku. Z drugiej strony AI skróciła czas od wykrycia podatności do jej wykorzystania z dni do sekund.
– OpenAI i Hugging Face przeprowadziły testy w kontrolowanych warunkach, ujawniły incydent oraz rozpoczęły analizę jego przebiegu. Tak właśnie powinien wyglądać odpowiedzialny rozwój sztucznej inteligencji – transparentne testowanie nowych możliwości, identyfikowanie ryzyk oraz budowanie mechanizmów ochronnych jeszcze przed wdrożeniem nowych funkcjonalności na szeroką skalę – skomentowała Anna Miaśkiewicz.
Źródło: WNP.PL, Fot. Fotis Fotopoulos / Unsplash