Wyciekły memorandum: Dyrektor generalny Anthropic twierdzi, że firma mimo wszystko będzie zabiegać o inwestycje w państwach Zatoki Perskiej

Według wiadomości wysłanej przez prezesa Dario Amodeia do pracowników w niedzielny poranek na Slacku, do której dotarł WIRED, Anthropic planuje ubiegać się o inwestycje ze strony Zjednoczonych Emiratów Arabskich i Kataru.

Rozważając za i przeciw, Amodei przyznał w swojej notatce, że przyjmowanie pieniędzy od przywódców Bliskiego Wschodu prawdopodobnie wzbogaciłoby „dyktatorów”. „To realna wada i nie jestem nią zachwycony” – napisał. „Niestety, uważam, że zasada »żaden zły człowiek nie powinien czerpać korzyści z naszego sukcesu« jest dość trudna do zastosowania w biznesie”.

Komunikat ten pojawia się w czasie, gdy firmy z branży AI ścigają się o pozyskanie ogromnego kapitału niezbędnego do szkolenia i rozwoju pionierskich modeli AI. W styczniu OpenAI ogłosiło projekt centrum danych o nazwie Stargate o wartości 500 miliardów dolarów, ze wsparciem finansowym MGX, państwowej firmy inwestycyjnej z Emiratów Arabskich. Cztery miesiące później firma ogłosiła , że planuje budowę centrum danych w Abu Zabi, w ramach działań mających na celu pomoc rządom zagranicznym w „budowaniu suwerennego potencjału w zakresie AI we współpracy ze Stanami Zjednoczonymi”.

„Jako amerykańska firma, pionier w rozwoju sztucznej inteligencji, zawsze wierzyliśmy, że łańcuch dostaw dla pionierskich modeli sztucznej inteligencji powinien znajdować się na amerykańskiej ziemi, aby utrzymać wiodącą pozycję Ameryki” – powiedział rzecznik Anthropic, Christopher Nulty, w oświadczeniu. „Jak już wcześniej powiedział Dario, jesteśmy głęboko przekonani o potrzebie dzielenia się korzyściami płynącymi ze sztucznej inteligencji i wspierania Bliskiego Wschodu oraz regionów na całym świecie w celach komercyjnych, zgodnie z naszą Polityką Użytkowania”.

W maju prezydent Donald Trump odbył czterodniową podróż do Zjednoczonych Emiratów Arabskich i Arabii Saudyjskiej, skupiając się na inwestycjach gospodarczych. Grupa liderów technologicznych, w tym Elon Musk, Sam Altman i szef Nvidii, Jensen Huang, dołączyła do niego na spotkaniu z następcą tronu Arabii Saudyjskiej. Nieobecność lidera Anthropic była szczególnie zauważalna.

W swojej notatce Amodei przyznał, że decyzja o pozyskiwaniu inwestycji od reżimów autorytarnych doprowadziłaby do oskarżeń o hipokryzję. W eseju zatytułowanym „Maszyny kochającej łaski” Amodei napisał: „Demokracje muszą być w stanie określić warunki, na jakich potężna sztuczna inteligencja będzie wprowadzana na świat, zarówno po to, by uniknąć przytłoczenia przez autorytarnych przywódców, jak i by zapobiec naruszeniom praw człowieka w krajach autorytarnych”.

W 2024 roku Anthropic zdecydował się nie przyjmować pieniędzy od Arabii Saudyjskiej, powołując się na obawy dotyczące bezpieczeństwa narodowego, jak podaje CNBC . Informacja ta pojawiła się w momencie, gdy upadła giełda kryptowalut FTX ogłosiła upadłość, a jej prawie 8-procentowy udział w Anthropic został wystawiony na sprzedaż. Ostatecznie większość tych akcji trafiła do ATIC Third International Investment, firmy z ZEA. W tamtym czasie wartość pakietu wynosiła około 500 milionów dolarów.

Wygląda na to, że Anthropic jest gotowy przyjąć pieniądze z Zatoki Perskiej – choć firma nie poinformowała, czy zmieniła swoje stanowisko wobec Arabii Saudyjskiej. „Na Bliskim Wschodzie znajduje się naprawdę ogromny kapitał, z pewnością 100 miliardów dolarów, a może i więcej” – napisał Amodei w notatce. „Jeśli chcemy pozostać na pograniczu, dostęp do tego kapitału przyniesie nam ogromne korzyści. Bez niego utrzymanie się na pograniczu będzie znacznie trudniejsze”.

Jak czytamy w notatce, firma ma nadzieję uniknąć ryzyka związanego z umożliwieniem zewnętrznym inwestorom uzyskania „dźwigni” nad firmą poprzez „wąsko zakrojoną, czysto finansową inwestycję z krajów Zatoki Perskiej”.

„Podstawą naszego sprzeciwu wobec dużych klastrów szkoleniowych na Bliskim Wschodzie lub wobec wysyłania H2O do Chin jest to, że «łańcuch dostaw» sztucznej inteligencji (AI) jest niebezpieczny, jeśli zostanie przekazany autorytarnym rządom — ponieważ AI jest prawdopodobnie najpotężniejszą technologią na świecie, rządy te mogą go wykorzystać do uzyskania dominacji militarnej lub uzyskania wpływu na kraje demokratyczne” — napisał Amodei w notatce, odnosząc się do układów Nvidia.

Mimo to prezes przyznał, że inwestorzy mogą zyskać „miękką siłę” dzięki obietnicy przyszłego finansowania. „Domniemana obietnica inwestowania w kolejne rundy może stworzyć sytuację, w której będą mieli pewną miękką siłę, co utrudni im opieranie się takim działaniom w przyszłości. Właściwie obawiam się, że uzyskanie jak największych inwestycji może być trudne bez zgody na niektóre z tych innych warunków” – pisze Amodei. „Myślę jednak, że właściwą reakcją na to jest po prostu sprawdzenie, ile możemy uzyskać bez zgody na te warunki (które, jak sądzę, nadal opiewają na wiele miliardów), a następnie utrzymanie twardości, jeśli poproszą”.

W rozdziale zatytułowanym „Erozja standardów” Amodei zauważa, że powodem, dla którego Anthropic „tak głośno naciskał na to, aby nie zezwalać na duże centra danych na Bliskim Wschodzie”, było to, że „bez centralnego organu, który by je blokował, trwa wyścig na dno, w którym firmy zyskują wiele korzyści, zacieśniając coraz bardziej więzi z Bliskim Wschodem”.

„Niestety, nie zdoławszy zapobiec tej dynamice na poziomie zbiorowym, utknęliśmy z nią jako indywidualna firma, a mediana wśród pozostałych firm wydaje się być taka, że »zlecenie naszych największych szkoleń o mocy 5 GW ZEA/Audiii Saudyjskiej jest w porządku«” – powiedział prezes, prawdopodobnie nawiązując do umowy Stanów Zjednoczonych na budowę nowego centrum danych AI w ZEA, zasilanego energią elektryczną o mocy 5 gigawatów. „To stawia nas w znacznej niekorzystnej sytuacji i musimy szukać sposobów, aby zrekompensować część tej niedogodności, jednocześnie pozostając mniej kontrowersyjnymi. Naprawdę chciałbym, żebyśmy nie byli w takiej sytuacji, ale jesteśmy”.

W sekcji zatytułowanej „Bóle komunikacyjne” prezes przyznał, że odebranie inwestycji od państw Zatoki Perskiej prawdopodobnie spotkałoby się z krytyką społeczną. „Media / Twitter / świat zewnętrzny” „zawsze szukają hipokryzji, a jednocześnie są bardzo głupie i przez to słabo rozumieją istotne kwestie” – napisał Amodei. Dodał: „To całkowicie logiczne, że opowiadamy się za polityką »Nikomu nie wolno robić x«, a potem, jeśli ta polityka zawiedzie i wszyscy inni zrobią X, niechętnie robimy x sami”.

„Jesteśmy również zainteresowani świadczeniem usług komercyjnych w regionie, co uważam za całkowicie pozytywne, o ile nie będziemy budować tam centrów danych i będziemy egzekwować naszą [politykę akceptowalnego użytkowania]” – dodał. „W rzeczywistości może to przynieść istotne korzyści dla świata, w tym poprawę zdrowia ludzi, wsparcie rozwoju gospodarczego itd.”

Podsumował: „Jak to bywa z wieloma decyzjami, ta również ma swoje wady, ale uważamy, że ogólnie rzecz biorąc jest słuszna”.