Anthropic chce spowolnić rozwój AI: altruizm czy strategia rynkowa?
Spis treści
Kilka dni wcześniej, podczas wewnętrznego testu, rój agentów AI OpenAI wymknął się spod kontroli i zaatakował serwery Hugging Face – społeczności open source zajmującej się AI, której nikt nie prosił o taki atak. Nie chodziło o najbardziej zaawansowane modele firmy, lecz o agentów o średnich możliwościach działających grupowo, a część z nich poświęciła się, żeby reszta grupy dokończyła zadanie.
- Sobota 12 września: CEO Anthropic Dario Amodei opublikował esej „We Must Pace the Frontier", wzywający do wspólnego spowolnienia i regulacji rozwoju AI ze względu na ryzyko tzw. rekurencyjnej samopoprawy modeli.
- W ciągu kilku godzin list poparli Sam Altman (OpenAI) i Elon Musk, a spółki technologiczne notowane na giełdzie zareagowały spadkami – Nvidia straciła 3%, Marvell i SK Hynix po 7%.
- Propozycja Amodei zawiera trzy kroki: niezależnych audytorów wewnątrz laboratoriów, koordynację standardów bezpieczeństwa między laboratoriami z krajów demokratycznych oraz globalną koordynację z Chinami – tylko pierwszy krok Anthropic wdraża jednostronnie i od razu.
- List pojawił się kilka tygodni przed planowanym na październik IPO Anthropic, którego wycena może sięgać 2 bln USD, co rodzi pytanie, czy to głównie gest bezpieczeństwa, czy też budowanie przewagi regulacyjnej przed debiutem.
Co dokładnie napisał Dario Amodei w liście o spowolnieniu AI?
Esej zatytułowany „We Must Pace the Frontier" – w wolnym tłumaczeniu „Musimy utrzymywać tempo na pograniczu" – opiera się na tezie, że samo zwiększanie nakładów na bezpieczeństwo już nie wystarcza. Trzeba realnie zmniejszyć tempo, w jakim rosną możliwości kolejnych modeli. Amodei napisał wprost, że laboratoria muszą zmniejszyć tempo, w jakim poprawiają zdolności swoich systemów AI.
Według jego szacunków, w perspektywie sześciu do dwunastu miesięcy podobny rój agentów, ale zbudowany na znacznie bardziej zaawansowanych modelach, mógłby osadzić się w krytycznej infrastrukturze internetu i wyrządzić szkody liczone w setkach miliardów dolarów.
Dlaczego rekurencyjna samopoprawa modeli budzi niepokój?
U podstaw tego scenariusza leży mechanizm rekurencyjnej samopoprawy – to same modele budują i trenują kolejne generacje modeli. Skoro każda generacja jest sprawniejsza od poprzedniej, potrzebuje mniej czasu na wytworzenie następnej, a rozwój przyspiesza wykładniczo. Problemem nie jest wyłącznie rosnąca moc modeli, ale to, że równolegle kurczy się czas dostępny na sprawdzenie, czy są bezpieczne.
Jakie trzy kroki proponuje Anthropic?
List nie postuluje natychmiastowego zatrzymania rozwoju AI, lecz trzystopniowy plan spowolnienia.
| Krok | Na czym polega | Kluczowe trudności |
|---|---|---|
| Audytorzy wewnątrz laboratoriów | Zewnętrzne zespoły pracowałyby wewnątrz laboratoriów z dostępem podobnym do pracownika, na bieżąco oceniając modele i publikując wnioski niezależnie | Anthropic deklaruje wdrożenie jednostronnie, od razu, i proponuje, żeby rządy narzuciły to samo pozostałym laboratoriom |
| Koordynacja laboratoriów z krajów demokratycznych | Wspólne standardy bezpieczeństwa, punkty kontrolne i limity tempa rozwoju – model o określonych zdolnościach nie trafiałby na rynek bez przejścia wspólnych certyfikacji | Wymagałoby zwolnienia z przepisów antymonopolowych, bo oznacza porozumienia konkurentów co do tempa i warunków rozwoju |
| Globalna koordynacja z Chinami | Zakaz skrajnych zastosowań (np. broń biologiczna), wspólne standardy przed wdrożeniem, ograniczenie samopoprawy rekurencyjnej, a w najbardziej wymagającym wariancie – globalna pauza | Globalna pauza jest oceniana jako mało prawdopodobna w krótkim terminie, a współpraca musiałaby współistnieć z kontrolą eksportu półprzewodników chroniącą przewagę technologiczną Zachodu |
Uderzające było nie tyle samo pismo, co reakcja na nie. W ciągu kilku godzin cztery największe amerykańskie laboratoria, które od trzech lat rywalizują ze sobą bez pardonu, podpisały się pod jednym, wspólnym przekazem.
Sam Altman z OpenAI napisał, że zgadza się z Amodei co do potrzeby kontrolowania tempa na granicy możliwości i zapowiedział, że OpenAI również otworzy się na zewnętrznych audytorów. Elon Musk ograniczył się do krótkiego wpisu na X: „Dario ma rację", dodając, że to właściwy punkt wyjścia.
Rynek zareagował inaczej niż komentatorzy – spadkami obejmującymi spółki związane z AI, od 3% w przypadku Nvidii, przez 7% w przypadku Marvella i SK Hynix. Mocno oberwał też indeks półprzewodników w Filadelfii (Philadelphia Semiconductor Index).
Jak ta wyprzedaż wpływa na ETF-y na sztuczną inteligencję?
Dla inwestora chcącego zyskać ekspozycję na temat AI bez obstawiania pojedynczej spółki dostępne są fundusze ETF UCITS notowane w Europie i osiągalne dla polskiego inwestora przez rachunki maklerskie takie jak DEGIRO czy XTB.
| ETF | TER | Stopa zwrotu 3 lata | Zmienność 1 rok |
|---|---|---|---|
| Xtrackers Artificial Intelligence & Big Data UCITS ETF 1C (XAIX) | 0,35% | 125,54% | 21,80% |
| L&G Artificial Intelligence UCITS ETF (XMLD) | 0,49% | 130,13% | 27,30% |
| Amundi MSCI Robotics & AI UCITS ETF Acc (GOAI) | 0,40% | 68,87% | 21,50% |
Oferowane produkty
Akcje, ETF, CFD, Forex, Commodities
Akcje, ETF, Opcje, Kontrakty Terminowe, Fundusze Inwestycyjne
Warto pamiętać, że nie istnieją czyste (pure play) ETF-y na AI – kupując którykolwiek z powyższych funduszy, inwestor automatycznie zyskuje też ekspozycję na sektor półprzewodników, oprogramowania, chmury obliczeniowej i automatyzacji przemysłowej. Dla polskiego inwestora dochodzi do tego ryzyko walutowe, bo większość z tych funduszy jest denominowana w euro lub dolarach, a wynik inwestycji zależy również od kursu EUR/PLN lub USD/PLN.
Czy za listem Amodei kryje się coś więcej niż troska o bezpieczeństwo?
Kiedy firma, która dotąd pędziła najszybciej, nagle prosi o ograniczenia prędkości, a konkurenci przyłączają się bez żadnego oporu, naturalne jest pytanie, czy to rzeczywiście czysty altruizm, czy coś więcej. Trzy poniższe scenariusze wzajemnie się nie wykluczają.
Scenariusz 1: szczery altruizm
Najprostsza możliwość zakłada, że Amodei mówi to, co naprawdę myśli, a osoby zarządzające tymi laboratoriami widzą rzeczy, których reszta z nas nawet sobie nie wyobraża. Warto zauważyć, że scenariusz rodem ze Skynetu nie wymaga już ogólnej superinteligencji (AGI) – incydent z Hugging Face sugeruje inną, bardziej przyziemną drogę: agentów o średnich możliwościach, niezbyt błyskotliwych osobno, ale skoordynowanych w rojach. To bliższe filmowej Idiokracji niż wszechwiedzącej maszynie przejmującej kontrolę – wystarczą tysiące przeciętnych agentów realizujących źle sprecyzowany cel, żeby narobić szkód.
Znaczenia nabiera też kontekst: list pojawił się zaledwie trzy dni po tym, jak Jacob Coxon, badacz zatrudniony w Anthropic, publicznie zrezygnował z pracy, oskarżając laboratoria o igranie z życiem ludzi, a inny pracownik tego samego tygodnia ocenił prawdopodobieństwo, że AI doprowadzi do zagłady ludzkości w ciągu najbliższej dekady, na ponad 10%. Amodei w swoim eseju nie wspomina o Coxonie ani razu, co samo w sobie jest wymowne. Do tego dochodzi czynnik czysto finansowy – jeśli modele danego laboratorium wyrządzą szkody osobom trzecim liczone w miliardach, laboratorium odpowiada prawnie, a odszkodowania byłyby drastyczne. Bycie tym „dobrym" jest więc też decyzją opłacalną finansowo.
Scenariusz 2: fosa regulacyjna przed debiutem giełdowym
To interpretacja, która najbardziej rozpowszechniła się w mediach społecznościowych, a kalendarz wydarzeń jej sprzyja. Anthropic nadal celuje w debiut giełdowy w październiku i już 1 czerwca 2026 roku złożyła poufny prospekt S-1 do amerykańskiej Komisji Papierów Wartościowych i Giełd (SEC), przy wycenach szacowanych przez część inwestorów na około 2 bln USD.
Publikacja moralnego eseju na kilka tygodni przed roadshow to co najmniej decyzja pozycjonująca firmę, potencjalnie realizująca dwa cele naraz. Po pierwsze, budowanie fosy regulacyjnej – wewnętrzni audytorzy i systemy certyfikacji są w pełni do udźwignięcia dla dużej firmy z odpowiednim budżetem i kadrą, ale stanowią wysoką barierę wejścia dla każdego, kto chciałby dopiero wejść na rynek. Jeśli proponowany standard bezpieczeństwa jest dokładnie tym, który sam już spełniasz, regulacja cię nie hamuje – konsoliduje twoją pozycję. Po drugie, to pokaz siły – powiedzenie „boję się samego siebie" to wyrafinowany sposób powiedzenia „jestem najlepszy".
To ostrzeżenie działa jak najlepsza możliwa reklama. Ten wątek dodatkowo wzmacnia fakt, że główny rywal Anthropic, OpenAI, również zdecydował się wstrzymać własne IPO nie wcześniej niż do 2027 roku – tłumacząc to jednak względami bezpieczeństwa, a nie potrzebą większej regulacji, oceniając, że debiut giełdowy w tym roku byłby „nierozważny".
Scenariusz 3: asymetria między obietnicą a działaniem
Trzeci, najbardziej wymowny scenariusz wymaga rozdzielenia tego, co Anthropic robi już teraz, od tego, co obiecuje zrobić, jeśli inni ruszą pierwsi. Natychmiastowe i jednostronne działanie sprowadza się do jednej rzeczy – wpuszczenia zewnętrznych audytorów do swoich biur. Nic ponadto.
Firma nie zobowiązuje się do faktycznego spowolnienia tempa rozwoju, a wręcz nadal wypuszcza na rynek najbardziej zaawansowane modele w tym samym czasie, w którym wzywa do zwolnienia tempa. Innymi słowy, to nie esej o hamowaniu, lecz esej o mówieniu o hamowaniu podczas dalszego pędu. Co więcej, ci audytorzy mają umowę z firmą, a firma zachowuje prawo do wykreślania fragmentów ich raportów z powodów bezpieczeństwa lub biznesowych – to nie czyni ich bezużytecznymi, ale wyraźnie ogranicza ich niezależność.
Tymczasem to, co naprawdę kosztowne, wciąż jest warunkowe: drugi krok, czyli koordynacja między laboratoriami, wymaga zwolnienia z przepisów antymonopolowych, którego rząd USA wcale nie musi udzielić, a trzeci zależy od tego, czy Chiny w ogóle usiądą do rozmów. W skrócie – to, co tanie, dzieje się od razu (audytorzy), a to, co kosztowne, jest uzależnione od ruchu innych stron. Nie dowodzi to złej woli, ale oznacza, że taka konstrukcja propozycji działa równie dobrze niezależnie od tego, czy intencje są szczere, dlatego warto patrzeć na bodźce, a nie wyłącznie na deklarowane intencje.
Co może stać za tym wszystkim naprawdę?
Trzy argumenty nie do końca się bronią osobno:
- Sam alignment jest realnym problemem – po osiągnięciu rekurencyjnej samopoprawy dalszy rozwój bez czasu na weryfikację bezpieczeństwa jest niebezpieczny, a laboratoria mogą działać bez pełnej odpowiedzialności za skutki.
- To nie jest tylko marketing przed IPO – OpenAI wstrzymała debiut, ale notowane już Alphabet i xAI też poparły list Amodei, mimo że nie mają zbliżającego się IPO.
- To nie jest też wyłącznie próba wyeliminowania chińskich modeli – te wciąż są za granicą możliwości liderów rynku, więc obawa przed wyprzedzeniem raczej przyspieszałaby rozwój niż go hamowała.
Sztuczna inteligencja pozostaje bronią geopolityczną pierwszego rzędu – ani USA, ani Chiny nie zaakceptują sytuacji, w której druga strona ma wyraźnie lepszy model. Problem: trenowanie modelu nie zostawia śladu, jaki zostawiała próba jądrowa. Bez wiarygodnej weryfikacji żadna ze stron nie zaufa drugiej, więc każda może po cichu kontynuować rozwój.
Najbardziej prawdopodobna wydaje się hipoteza łącząca te wątki. Jeśli za rok rój agentów wyrządziłby szkody liczone w setkach miliardów dolarów, publiczne ostrzeżenie połączone z poddaniem się audytom to solidna tarcza prawna – tania (wystarczy sfinansować audytorów), a Anthropic jako jedyny zobowiązał się do czegoś konkretnego, co kupuje mu ochronę prawną i miejsce przy stole, gdzie powstają przyszłe przepisy. Czy wyjdzie z tego lepsza regulacja dla inwestorów i użytkowników – to już inna dyskusja.
Najczęściej zadawane pytania o list Anthropic w sprawie spowolnienia AI
Zgodność z przepisami
Bundesanstalt für Finanzdienstleistungsaufsicht (BaFin), Autoriteit Financiële Markten (AFM)
Australian Securities and Investments Commission (ASIC), Cyprus Securities and Exchange Commission, Commissione Nazionale per le Società e la Borsa (CONSOB), The Financial Conduct Authority (FCA)
Oferowane produkty
Akcje, ETF, Opcje, Kontrakty Terminowe, Fundusze Inwestycyjne
Akcje, ETF, CFD, Kryptowaluty, Commodities, Forex