Amerykański rząd zdecydował się na bezprecedensową interwencję w stosunku do firmy Anthropic, jednego z głównych konkurentów OpenAI. Zaledwie trzy dni po premierze modeli Claude Fable 5 oraz Claude Mythos 5 administracja Donalda Trumpa nakazała natychmiastowe zablokowanie dostępu do obu narzędzi. Oficjalnym powodem są obawy o bezpieczeństwo narodowe.
Nadzwyczajna dyrektywa z zakresu kontroli eksportu została opublikowana 12 czerwca. Zgodnie z nią najnowsze modele Anthropic nie mogą być udostępniane żadnym obcokrajowcom – ani poza granicami Stanów Zjednoczonych, ani nawet na ich terytorium. Zakaz obejmuje również zagranicznych pracowników samego producenta. W praktyce, ze względu na globalny charakter usług, firma została zmuszona do całkowitego wyłączenia obu systemów dla wszystkich klientów.
Powody blokady – zdolności analizy kodu i automatyzacja ataków
Kluczowym powodem decyzji są możliwości modeli w zakresie analizy kodu źródłowego, automatycznego wykrywania luk oraz realizacji złożonych zadań bez stałego nadzoru człowieka. Szczególne kontrowersje budziła architektura Mythos, która już podczas kwietniowych testów laboratoryjnych wykazała wyjątkową skuteczność w wyszukiwaniu i wykorzystywaniu podatności w systemach operacyjnych. Producent sam określił wersję podglądową jako „zbyt potężną do publicznego udostępnienia” – zaznaczono w dokumencie.
Według informacji, do których dotarł Departament Handlu, istnieje metoda obejścia zabezpieczeń, tzw. jailbreaking. Dzięki niej model Fable 5 mógłby zostać skłoniony do analizy dużych baz kodu i wskazywania krytycznych podatności. Z punktu widzenia Waszyngtonu ryzyko wykorzystania tych możliwości przez grupy hakerskie lub państwa prowadzące operacje cybernetyczne przeciwko USA jest zbyt wysokie.
Reakcja Anthropic i obawy ekspertów
Firma stanowczo odrzuca zarzuty. – Przed premierą modele przeszły tysiące godzin testów red-teaming z udziałem instytucji takich jak brytyjski AI Safety Institute oraz amerykańskie agencje rządowe – oświadczył rzecznik Anthropic. Zabezpieczenia Fable 5 należą do najskuteczniejszych w branży, a wskazane przez urzędników słabości są powszechnie znane i możliwe do odtworzenia również w modelach konkurencji.
Konflikt między Anthropic a administracją Trumpa narastał od miesięcy. Pentagon nadał firmie status „zagrożenia dla łańcucha dostaw”, ale egzekwowanie tamtych sankcji zostało zablokowane przez sąd. Najnowsza decyzja okazała się jednak znacznie skuteczniejsza, bo praktycznie sparaliżowała komercyjne wykorzystanie flagowych modeli. Eksperci ostrzegają, że tak restrykcyjne i mało przejrzyste działania mogą stworzyć groźny precedens dla całej branży sztucznej inteligencji.
Źródło: WNP.PL, Fot. Shutterstock AI Generator / Shutterstock