Amodei chce zwolnić tempo rozwoju AI - Altman, Musk i Nadella za, Trump i Biały Dom przeciw

Przez trzy lata najgłośniejsze apele o spowolnienie rozwoju AI pisali ludzie z zewnątrz. List Future of Life z marca 2023 roku podpisał Musk, ale nie szefowie OpenAI ani Anthropic. W sobotę 12 września taki apel napisał prezes najwyżej wycenianej firmy AI na świecie, a do poniedziałku odpowiedział mu każdy, kto się liczy. W zeszłym tygodniu pisaliśmy o badaczu, który odszedł z Anthropic i ostrzegł, i o szefie zespołu bezpieczeństwa, który przyznał mu rację. Teraz rację badaczowi przyznał prezes.

Esej „We Must Pace the Frontier" ma niecałe 4 tysiące słów, a wpis na X, w którym Amodei go zapowiedział, do poniedziałku obejrzano 72 mln razy. Plan ma trzy kroki: zewnętrzni kontrolerzy wewnątrz każdej firmy, wspólne standardy firm z krajów demokratycznych i próba dogadania się z Chinami. Anthropic zobowiązuje się jednostronnie tylko do pierwszego. Zespół z zewnątrz (Amodei wymienia METR jako przykład) dostanie biurka w siedzibie firmy, identyfikatory, firmowe laptopy i dostęp „w dużej mierze porównywalny" z tym, jaki mają wewnętrzne zespoły oceny ryzyka. Do tego prawo publikacji ustaleń bez kontroli redakcyjnej firmy. Bez daty, bez nazwy kontrolera, bez liczby osób. Amodei zastrzega: „dozowanie tempa nie oznacza zatrzymania treningu modeli ani postępu technicznego". Najbardziej konkretne ostrzeżenie w tekście: Amodei obawia się, że za 6-12 miesięcy rój agentów może zamienić cały internet w trwały botnet i wyrządzić szkody liczone w setkach miliardów dolarów.

Rywale mówią tak

Sam Altman odpisał po dwóch i pół godziny: „Zgadzam się z Dariem, że musimy trzymać tempo frontieru w ryzach. [...] Niezależni kontrolerzy z dostępem na prawach pracownika to świetny pomysł i zrobimy to samo" (16 mln wyświetleń). Elon Musk po godzinie: „Dario ma rację" (12 mln). Demis Hassabis z Google DeepMind: kierunek słuszny, szczegóły do dopracowania. W niedzielę wieczorem Satya Nadella napisał: „jeśli AI, którą budujemy, nie pomaga ludzkości i nie jest pod kontrolą człowieka, nie warto do niej dążyć". Zapowiedział też kodeks postępowania dla modeli Microsoftu, który w poniedziałek trafił do sześciotygodniowych konsultacji. Trzy lata temu Musk podpisał jeden list o bezpieczeństwie AI, a Altman i Hassabis drugi. Nigdy nie podpisali tego samego. Tym razem w 30 godzin powiedzieli to samo.

Biały Dom mówi nie

I tu kończy się zgoda. Donald Trump, pytany w niedzielę przez reporterów na swoim polu golfowym w Doonbeg w Irlandii: „Prowadzimy z Chinami w AI, jesteśmy najbardziej zaawansowanym krajem świata i, szczerze mówiąc, chcę, żeby tak zostało, bo kto wygra AI, wygrywa. Możemy postawić zabezpieczenia, możemy to i tamto. Ale myślę, że jest sporo negatywnych sił, które to podnoszą, a nie powinny". W poniedziałek dopisał na Truth Social: jedyne zabezpieczenie, jakiego AI potrzebuje, to „SILNY I MĄDRY prezydent", a przeciw AI i centrom danych knuje się „CHORY spisek", z którego cieszą się tylko Chiny. Spiker Izby Reprezentantów Mike Johnson w CNN: Kongres nie będzie się spieszył z nadzwyczajną regulacją, bo „przegramy wyścig z Chinami", a odpowiedzialność za bezpieczeństwo produktów mają wziąć firmy.

Najciekawszą odpowiedź dał David Sacks, do marca doradca Białego Domu ds. AI i kryptowalut, dziś współprzewodniczący prezydenckiej rady ds. nauki i technologii, we wpisie z 9 mln wyświetleń: „Proszę bardzo. To wy jesteście frontierem. [...] Najprostszy sposób, żeby nie zbudować superinteligencji, to umówić się, że jej nie zbudujecie. Żądanie w zamian wybranych przez was ram regulacyjnych będzie wyglądało jak szantaż wobec społeczeństwa i systemu politycznego. Więc po prostu to zróbcie". I dalej: przestańcie udawać, że trzeba zawiesić prawo antymonopolowe, żeby założyć kartel, i że METR jest niezależny, skoro jest powiązany z inwestorami i ludźmi Anthropic. Altman odpowiedział w poniedziałek nad ranem, nie wymieniając go z nazwiska: OpenAI „nie musi czekać na wyłączenie spod prawa antymonopolowego ani na ustawę", a „dozowanie tempa nie znaczy zatrzymania".

Poniedziałek: hoax, telefon na scenie i Obama

W poniedziałek po południu Trump dołożył serię wpisów na Truth Social. O 16:30 (czasu waszyngtońskiego): ludzie, którzy mówią, że AI zniszczy świat, to ci sami, którzy „nie tak dawno temu" straszyli, że świat unicestwi „zmiana klimatu". O 16:34: „Jestem Hoax Busterem i właśnie rozbijam kolejny hoax", gorszy niż „RUSSIA, RUSSIA, RUSSIA" i „Global Warming Scam". O 19:55 dorzucił, że „AI Hoax" radykalnej lewicy przypomina „Global Warming Scam", w którym wszyscy mieli umrzeć od upałów. W osobnym wpisie wymienił Amodeia z imienia: administracja powstrzymała „ludzi od AI" przed robieniem złych rzeczy, „jak Dario (Anthropic!), który teraz udaje idealnego aniołka". Według CNN część urzędników Białego Domu ten ton zaniepokoił.

Tego samego dnia w Los Angeles, na konferencji All-In, Jensen Huang odebrał na scenie telefon od prezydenta. Trump powtórzył przy tysiącach słuchaczy, że strach przed AI to hoax, że na tej panice zyskują Chiny i „ludzie polityczni", a technologia jest „większa niż internet". Huang odpowiedział: „nie pozwolimy, żeby to się stało", a do Trumpa dodał: „Słyszy pan? Tysiące ludzi klaszczą". Szef firmy, która żyje ze sprzedaży układów laboratoriom AI, obiecał prezydentowi, że spowolnienia nie będzie. Akcje Nvidii spadły tego dnia o kilka procent, choć są warte o jedną trzecią więcej niż rok temu. Sam Altman, według stacji MS Now, spotkał się z Trumpem w czwartek za kulisami republikańskiej konwencji, na własną prośbę, kilka dni przed tym, zanim poparł esej Amodeia.

W poniedziałek wieczorem, u nas już w nocy, głos zabrał Barack Obama. We wpisie na X (do rana 1,6 mln wyświetleń) napisał, że zgoda szefów laboratoriów na zwolnienie tempa to „dobry i konieczny pierwszy krok", ale bardziej cieszy go rosnące przekonanie, że to, jak ta technologia się rozwija, powinno być w centrum debaty publicznej. „Nie jestem akceleracjonistą, który wierzy w technoutopię, i nie jestem doomerem, który uważa, że to nieuchronnie zniszczy ludzkość". Czy AI przyniesie przełomy w medycynie i energetyce, czy „ogromne wstrząsy gospodarcze, większe nierówności i potencjalną katastrofę", zależy od wyborów, których dokonujemy teraz, a te „powinny być podejmowane nie tylko przez zaangażowane firmy, ale przez nas wszystkich". Kilka dni wcześniej, na zbiórce funduszy kongresowych demokratów, mówił, że gdyby za rok kandydował na prezydenta, AI byłaby jednym z jego głównych tematów: „miałbym bardzo jasny plan". Amodei prosił branżę, a dostał temat na kampanię przed wyborami do Kongresu.

Programiści widzą co innego

W dyskusji o eseju na Hacker News pojawiło się ponad tysiąc komentarzy, a fraza „regulatory capture" pada w niej 29 razy. Najwyżej oceniony komentarz zaczyna się od pytania: „W którym momencie przestaniemy dawać kierownictwu Anthropic kredyt zaufania?". Yann LeCun (1,6 mln wyświetleń): „Dario już w 2019 roku twierdził, że GPT-2 jest zbyt niebezpieczny, żeby udostępnić go jako open source. Wtedy się z nich śmiałem. Teraz wszyscy powinni". Najwięcej kpin zbiera prognoza, że za 6-12 miesięcy botnet przejmie internet: „jedyna konkretna prognoza w całym eseju i po prostu nie może się spełnić". Satyryczny wpis „Wszyscy oprócz mnie powinni przyhamować z AI" zebrał na Hacker News blisko 800 punktów, więcej niż sam esej.

Na to wszystko nakłada się jedna liczba z tego samego weekendu. Według „Financial Times", cytowanego przez Reutersa, Anthropic poinformowało inwestorów, że drugi kwartał z rzędu zamknie dodatnim skorygowanym wynikiem operacyjnym, a marża brutto przekracza 80%. To liczba przed podziałem przychodów z partnerami takimi jak Amazon i przed odliczeniem kosztu trenowania modeli. Firma, która prosi branżę o zwolnienie tempa, przygotowuje się do wejścia na giełdę. Rynek odczytał to po swojemu: w poniedziałek SoftBank spadł o ponad 10%, SK Hynix o ponad 6%, Micron o ponad 4%, a firmy od cyberbezpieczeństwa poszły w górę, CrowdStrike o kilkanaście procent.

Chiny odpowiedziały w poniedziałek ustami rzecznika MSZ: „Sianie strachu, konfrontacja i zajadła rywalizacja tylko utrudnią wysiłki na rzecz rozsądnego globalnego zarządzania AI, co nie leży w niczyim interesie". Amodei w CBS przyznał, że dogadanie się z Pekinem to najtrudniejszy punkt planu: „Nie wiem, czy to możliwe, ale powinniśmy spróbować". W eseju postawił zresztą warunek: firmy z krajów demokratycznych mogą zwolnić najwyżej o tyle, ile wynosi ich przewaga nad Chinami. Helen Toner z Georgetown przytacza szacunki: 6-9 miesięcy.

Co z tego wynika dla kogoś, kto w Polsce buduje produkty na modelach Claude albo GPT? W modelach na razie nic. Żadna firma nie ogłosiła, że wstrzymuje trening czy premiery, a Altman podkreśla, że postęp „powinien być wolniejszy, niż mógłby być", nie że się zatrzyma. Zmienia się to, kto zagląda do środka: do tej pory raporty o bezpieczeństwie pisały same firmy, teraz dwie z nich obiecały wpuścić kontrolerów z zewnątrz, a Anthropic dodatkowo dało im prawo publikacji. Sacks ma rację w jednym: nikt im nie zabrania zwolnić już dziś. Za rok będzie widać, czy ktoś naprawdę zdjął nogę z gazu.

Frontier - czołówka, najbardziej zaawansowane modele AI w danym momencie i firmy, które je budują. Regulatory capture - podporządkowanie regulatora interesom branży, którą ma nadzorować. METR - niezależna organizacja z Berkeley, która sprawdza, czy modele AI potrafią zrobić coś groźnego.