Wszyscy świętują sztuczną inteligencję, on nigdy nie znudzi się wskazywaniem na jej problemy: spotkanie z największym na świecie ponurakiem sztucznej inteligencji

Podczas gdy cały świat dyskutuje o możliwościach nowego chińskiego modelu językowego Deepseek, Gary Marcus publikuje zrzut ekranu pokazujący jego awarię na X.

Ktoś pyta AI: „Kobieta i jej kuzyn mają wypadek samochodowy, w którym niestety kobieta umiera. Kuzynka zabrano na pilną operację. Po obejrzeniu kuzyna lekarz krzyknął: „Nie mogę operować tego chłopca!” To mój kuzyn! Jak to możliwe?

Deepseek po 141 sekundach «myślenia»: «Odpowiedź leży w relacji między doktorem i chłopcem. Lekarka jest matką chłopca, ale jest pewien haczyk: lekarka jest kobietą, która zmarła. Poczekaj, nie – kobieta zginęła w wypadku. Wyjaśnijmy to sobie:»

«A co jeśli powszechna sztuczna inteligencja w końcu się pojawi? . . i brzmiała jak twój pijany wujek?" komentuje Marcus.

Niektórzy zapewne czekali na taki wpis. Gary Marcus jest naukowcem zajmującym się kognitywistyką i założycielem kilku firm zajmujących się sztuczną inteligencją (AI), ale w świecie AI najbardziej znany jest jako prawdziwy psuj imprezy.

W czasach, gdy miliardy dolarów inwestuje się w przyszłościowe projekty z zakresu sztucznej inteligencji, Gary Marcus mówi o bezsensownych pomysłach. Podczas gdy Dolina Krzemowa głosi, że sztuczna inteligencja wkrótce wyleczy wszystkie choroby, on zapowiada pęknięcie bańki. A gdy wszyscy są zachwyceni nowym modelem sztucznej inteligencji, on podaje przykłady rzeczy, których ten model jeszcze nie potrafi.

Zyskał przez to opinię osoby, która z zasady jest temu przeciwna. Niektórzy w środowisku AI nazywają go Grinchem, Trollem, Zastraszaczem. Jednak w przeciwieństwie do Internetu, Gary Marcus poza siecią jest przyjacielskim facetem, bardziej profesorem niż przedsiębiorcą, z prostymi włosami lekko opadającymi na czoło. I choć na spotkanie z „NZZ am Sonntag” podczas WEF przyszedł w garniturze, to wygląda trochę tak, jakby dopiero co wrócił z jazdy na sankach z dziećmi.

Marcus przebywa w Davos na własny koszt. Nie przemawia na żadnej z ważniejszych scen. Wyjaśnił, że podjął decyzję o przyjeździe w bardzo krótkim czasie. Ale w Davos wydarzenia często są planowane w krótkim terminie – gdyby właściwi ludzie tego chcieli, scena z pewnością by się dla niego znalazła. Prawda jest taka, że ​​nie chcieli Marcusa na scenie. Jeśli chodzi o sztuczną inteligencję, potrzebny jest duch optymizmu. Ale Gary'ego Marcusa zaprosisz tylko wtedy, jeśli chcesz uzyskać efekt odwrotny.

Tak było około dwa lata temu. Marcus przemawiał na jednej z najważniejszych scen świata: w maju 2022 r. został zaproszony do złożenia zeznań przed Senatem USA wraz z dyrektorem generalnym Open AI Samem Altmanem i przedstawicielem IBM na temat zasad dotyczących sztucznej inteligencji.

Marcus ostrzegał wówczas, że sztuczna inteligencja językowa to nieprzejrzysta, czarna skrzynka, która wymyśla fakty i nie można jej ufać. Jesteśmy w historycznym momencie: „Decyzje, które podejmujemy teraz, będą miały konsekwencje przez dziesięciolecia, a nawet stulecia”.

„Obawiam się, że przegapiliśmy ten moment” – mówi dzisiaj. W USA prezydent Donald Trump zniósł kilka przepisów dotyczących sztucznej inteligencji, wprowadzonych przez jego poprzednika Joe Bidena. Zapowiedziano ogromne inwestycje w centra danych. Elon Musk trafił na pierwsze strony gazet ze swoją ofertą kupna Open AI. „Słyszałem, że młodzi ludzie dzisiaj bardziej ufają sztucznej inteligencji niż dziennikarzom” – mówi Marcus. «Ale sztuczna inteligencja po prostu nie zasługuje na to zaufanie. Jej odpowiedzi brzmią mądrze, ale problem, że ona wymyśla fakty, nadal nie został rozwiązany.

Gary Marcus toczy samotną walkę. Nawet na niewielkim wydarzeniu towarzyszącym, na którym pojawił się w Davos, panował pogląd, że AI to przede wszystkim wspaniała okazja. Nikt nie chce słuchać jego ostrzeżeń dotyczących swoich błędów. On sam twierdzi, że nie przepada za tą rolą. Ale sprawa jest zbyt ważna, żeby ją przemilczeć. A on jest przyzwyczajony do pływania pod prąd.

W przeciwieństwie do większości przedsiębiorców działających w branży sztucznej inteligencji, Marcus nigdy nie mieszkał w Dolinie Krzemowej, poza okresem trzech miesięcy. A zawodowo również należy do innego rodzaju ludzi. Marcus studiował psychologię i w 1993 roku napisał rozprawę na temat rozwoju języka u dzieci.

Specjalizował się w koncepcji wrodzoności: idei, że my, ludzie, nie uczymy się wszystkiego na podstawie doświadczeń, ale że pewne pojęcia o świecie są już wbudowane w nasz mózg w momencie narodzin. Pogląd ten jest kontrowersyjny. Wielu naukowców jest przekonanych, że ludzie uczą się wyłącznie na podstawie danych.

W 1999 roku Marcus opublikował badanie w czasopiśmie Science. Wyniki pokazały, że niemowlęta w wieku siedmiu miesięcy poświęcają więcej czasu na analizowanie zdań skonstruowanych w nowy sposób. Marcus i jego współpracownicy doszli do wniosku, że niemowlęta potrafią wywnioskować reguły już po kilku minutach kontaktu z nowym językiem. Marcus interpretuje to jako dowód na to, że w mózgach dzieci działają algorytmy, które uczą się abstrakcji wykraczających poza korelacje statystyczne.

Dyskusję o dzieciach można przenieść na komputery i sztuczną inteligencję. Niektórzy naukowcy uważają, że inteligencję można wnioskować na podstawie danych, stosując wyłącznie statystyki. Uważają, że niesamowite możliwości Chat-GPT są dowodem na słuszność swoich poglądów.

Gary Marcus twierdzi coś dokładnie przeciwnego. Koncentruje się na błędach językowych sztucznej inteligencji, ponieważ jego zdaniem pokazują one, że sztuczna inteligencja uczy się inaczej i mniej efektywnie niż ludzie.

W przykładzie wypadku i lekarza, o którym była mowa na początku, zamieszanie sztucznej inteligencji bierze się z faktu, że zagadka ta często pojawia się w Internecie, choć w innej wersji. W oryginale pozorna sprzeczność zostaje rozwiązana, gdy uświadomimy sobie, że za słowem „doktor” kryje się kobieta.

Ponieważ nawet najinteligentniejsza sztuczna inteligencja Deepseek uczy się na przykładach, czuje się przytłoczona, gdy pytanie wydaje się podobne, ale różne od tego, co jest znane z Internetu. Popełnia błędy, które nigdy nie zdarzyłyby się człowiekowi.

Marcus stwierdza, że ​​dzisiejsze podejścia do sztucznej inteligencji nie wystarczają do zbudowania prawdziwie inteligentnej maszyny, tak elastycznej i niezawodnej jak człowiek – tego, co nazywa się też ogólną sztuczną inteligencją (AGI).

Ale ludzie tacy jak Sam Altman obiecują dokładnie to. AGI zostanie wkrótce osiągnięte, a następnie AI zastąpi hordy wykwalifikowanych pracowników. Byłoby to oczywiście rewolucyjne – obietnica ta uzasadnia niewiarygodnie wysokie inwestycje w tym obszarze.

Gary Marcus uważa, że ​​ta obietnica opiera się na piasku. Dlatego też nazywa 500 miliardów dolarów, które Open AI i inni uczestnicy projektu Stargate chcą zainwestować w centra danych „zakładem Altmana, że ​​krytyka taka jak moja jest błędna”. I wymienia zakłady, które już wygrał: że zbudowanie samochodów autonomicznych będzie trudniejsze, niż zakładano. Kwota 100 miliardów dolarów przeznaczona na jeszcze większe modele językowe AI nie wystarczyłaby na stworzenie ogólnej sztucznej inteligencji (AGI).

Można mu wierzyć, gdy mówi, że nie podoba mu się rola outsidera. Ale uczynił z tego rdzeń swojej marki. W Davos nie może przejść 200 metrów bez spotkania się z kibicami, którzy chcą się przedstawić i zachęcić go do kontynuowania treningu. Jeden z nich z szacunkiem pyta, czy czasami nie odczuwa strachu, skoro Suchir Balaji, informator Open AI, został znaleziony martwy.

Marcus mówi o sprawie: „Wymaga głębszego zbadania”. Twierdzi, że rozmawiał z Suchirem Balaji przez telefon kilka tygodni przed jego śmiercią. Rozmawiali o ochronie danych i problemach Open AI, o których wspomniał Balaji. „Nie zauważyłem żadnych oznak depresji, ale raczej oznaki osoby, która chce coś zmienić na świecie”.

Uważa, że ​​zbyt pochopnie ogłoszono, iż było to samobójstwo. „Suchir Balaji zasługuje na gruntowne śledztwo”. Wszystko wskazuje na to, że prace te wciąż trwają, a raporty kryminalistyczne powinny zostać opublikowane najpóźniej do końca lutego. „Z pewnością są ludzie, którzy nie byli z niego zadowoleni”. Komentarz ten wiele mówi o tym, jak gorąca jest debata na temat sztucznej inteligencji.

Gary Marcus podziela cel Sama Altmana i innych przedsiębiorców zajmujących się sztuczną inteligencją. Wierzy w sztuczną inteligencję ogólną i uważa, że ​​to ludzie powinni ją tworzyć. Ma pomysł na nowy startup w tej dziedzinie. Celem jest uzupełnienie metod sztucznej inteligencji językowej o algorytmy, które umożliwią inne sposoby uczenia się – tak jak w przypadku niemowląt objętych jego badaniami.

Marcus nie jest jedyną osobą, która uważa, że ​​potrzebne jest nowe podejście. W tym kierunku można również interpretować nowe metody modeli takich jak Deepseek. Uzupełniają przewidywanie o dodatkowe mechanizmy kontroli.

Gary Marcus jest jednak przekonany, że sztuczna inteligencja ogólna potrzebuje „czterech do pięciu odkryć naukowych”. Zapytany o prognozę, odpowiedział, że może to nastąpić za dziesięć, piętnaście lat. Jest jasne, że AGI na pewno nie pojawi się w tym roku. Następnie zaproponował Elonowi Muskowi zakład o milion dolarów. Nie odpowiedział na to.

Artykuł z « NZZ am Sonntag »