Amerykański rząd zdecydował się na bezprecedensową interwencję wobec firmy Anthropic, jednego z głównych konkurentów OpenAI i Google w dziedzinie generatywnej sztucznej inteligencji. Zaledwie trzy dni po premierze modeli Claude Fable 5 oraz Claude Mythos 5 administracja Donalda Trumpa nakazała natychmiastowe zablokowanie dostępu do obu narzędzi. Oficjalny powód? Obawy o bezpieczeństwo narodowe.
Nadzwyczajna dyrektywa z zakresu kontroli eksportu została opublikowana 12 czerwca. Zgodnie z nią najnowsze modele Anthropic nie mogą być udostępniane żadnym obcokrajowcom – ani poza granicami USA, ani na ich terytorium. Zakaz objął również zagranicznych pracowników samego producenta. W praktyce, ze względu na globalny charakter usług, firma została zmuszona do całkowitego wyłączenia obu systemów dla wszystkich klientów.
Według informacji „Rzeczpospolitej” narzędzia, które zadebiutowały 9 czerwca i szybko zostały uznane za przełomowe, zniknęły z rynku po zaledwie trzech dniach. Kluczowym powodem blokady są możliwości modeli w zakresie analizy kodu, automatycznego wykrywania luk oraz realizacji złożonych zadań bez stałego nadzoru człowieka.
Model, który sam znajduje luki
Szczególne kontrowersje budziła architektura Mythos. Już podczas kwietniowych testów laboratoryjnych wykazała wyjątkową skuteczność w wyszukiwaniu i wykorzystywaniu podatności w systemach operacyjnych. Sam producent określił wersję podglądową jako „zbyt potężną do publicznego udostępnienia”. W komercyjnej wersji zastosowano dodatkowe filtry bezpieczeństwa, ale administracja USA uznała, że nie eliminują one ryzyka w wystarczającym stopniu.
Decydujące znaczenie miał raport, do którego dotarł Departament Handlu. Dokument opisywał metodę obejścia zabezpieczeń, czyli tzw. jailbreaking. Dzięki niej model Fable 5 mógłby zostać skłoniony do analizy dużych baz kodu i wskazywania krytycznych podatności. Z punktu widzenia Waszyngtonu problem polega na tym, że takie możliwości mogłyby być wykorzystane przez grupy hakerskie lub państwa prowadzące operacje cybernetyczne przeciwko USA – w tym przeciwko infrastrukturze krytycznej, sektorowi energetycznemu, finansowemu czy telekomunikacyjnemu.
Anthropic stanowczo odrzuca zarzuty. Firma przekonuje, że przed premierą modele przeszły tysiące godzin testów typu red-teaming z udziałem instytucji takich jak brytyjski AI Safety Institute oraz amerykańskie agencje rządowe. – Zabezpieczenia Fable 5 należą do najskuteczniejszych w branży, a wskazane przez urzędników słabości są znane i możliwe do odtworzenia również w modelach konkurencji – przekonywała spółka. Według „Rzeczpospolitej” Anthropic uważa, że administracja podjęła drastyczną decyzję na podstawie jednej, wąskiej prezentacji, która nie oddawała realnego poziomu ryzyka.
Precedens dla całej branży
Konflikt między Anthropic a administracją Trumpa narastał od miesięcy. Pentagon nadał wcześniej firmie status „zagrożenia dla łańcucha dostaw”, choć egzekwowanie tamtych sankcji zostało zablokowane przez sąd. Najnowsza decyzja eksportowa okazała się znacznie skuteczniejsza – praktycznie sparaliżowała komercyjne wykorzystanie flagowych modeli. Eksperci cytowani przez „Rzeczpospolitą” obawiają się, że tak restrykcyjne i mało przejrzyste działania mogą stworzyć groźny precedens dla całej branży sztucznej inteligencji.
Źródło: WNP.PL, Fot. Shutterstock AI Generator / Shutterstock