ChatGPT bierze się za reklamy. Zanosi się na wielką zmianę

• ChatGPT przerwał rozmowę z użytkownikiem, by wyemitować treść brzmiącą jak reklama. Wideo dokumentujące rozmowę stało się wiralem w mediach społecznościowych.
• Spółka uważa, że to błąd oprogramowania. W rozmowie z WNP jej przedstawiciele twierdzą, że wyjaśniają jak mogło do niego dojść.
• Zdaniem ekspertów, reklamy w narzędziach AI prędzej czy później jednak się pojawią. Tak jak wcześniej w wyszukiwarce Google czy mediach społecznościowych. - To dla twórców modeli czyste złoto - mówi Tomasz Rychter z Fundacji Digitality.

“Korzystałem z zaawansowanego trybu głosowego ChatGPT (tego, który kosztuje 23 euro miesięcznie), prowadząc zwyczajną rozmowę na temat sushi. Nagle pojawił się inny głos - mówiący po angielsku, z podkładem muzycznym, opisujący „doświadczenie” kulinarne, jak w reklamie żywności” - relacjonował w serwisie X jeden z użytkowników. Dodał, że jego zdaniem to nie była usterka, a zautomatyzowany dźwięk wstawiony bez jego zgody.

W odpowiedzi kilku innych użytkowników przyznało, że spotykała ich podobna sytuacja, ChatGPT miał polecać na przykład konkretną stronę internetową, a w rozmowie o celach życiowych dla dziecka - reklamę konkretnej szkoły. Podane przypadki łączył jeden szczegół - transkrypcja czatu głosowego, którą można odczytać zawsze po zakończonej konwersacji z asystentem głosowym, nie zawierała tych fragmentów.

Jeden z użytkowników zamieścił natomiast zrzut ekranu, z zapisem rozmowy, w której pyta o godzinę. W odpowiedzi ChatGPT wyświetlił mu reklamy zegarków wraz z cenami.

Luka, której nie da się wykryć przed oddaniem produktu

Zapytaliśmy OpenAI o to, czy na użytkownikach testowane były reklamy. Przedstawiciele spółki odpowiedzieli nam, że sytuacja wygląda na błąd w oprogramowaniu. Przyznali, że próbują wyjaśnić, dlaczego problem się pojawił.

Zdaniem Mateusza Chroboka, eksperta ds. cyberbezpieczeństwa i sztucznej inteligencji z uczmnie.pl, wprowadzenie do rozmowy przypadkowej treści rzeczywiście mogło być cechą modelu.

Prawdopodobnie odpowiada za to zjawisko emergencji, czyli pojawiania się nowych, nieprzewidywalnych właściwości w systemach AI. Dla przykładu: kiedy OpenAI wprowadziło asystenta głosowego, nieoczekiwanie model zaczął klonować głos użytkowników - wyjaśnia ekspert.

- Problem jest taki, że nie da się tego wcześniej wykryć, takie właściwości ujawniają się dopiero w czasie interakcji z użytkownikami - dodaje Mateusz Chrobok.

Jego zdaniem w przyszłości będzie jednak możliwa sytuacja, w której twórcy modeli sztucznej inteligencji celowo będą wprowadzali do nich reklamy.

OpenAI w korespondencji z nami nie odpowiedziało jednak na pytania, czy pracuje nad wprowadzeniem reklam w swoich produktach. W komunikacie przysłanym do redakcji, zapewniono nas jedynie, że sytuacje takie jak opisana przez blogera na X są rzadkie i większość użytkowników nie spotka się z nimi, a spółka docenia zgłoszenia od użytkowników.

Gotowanie żaby - jak reklamy pojawią się w AI

Tomasz Rychter, prezes Fundacji Digitality, a wcześniej dyrektor Pionu Innowacji i Jakości w Centralnym Ośrodku Informatyki, przekonuje, że wprowadzenie reklam w narzędziach opartych na AI to tylko kwestia czasu.

- To będzie powolne gotowanie żaby. Najpierw pojawią się zapewne reklamy kontekstowe, potem będzie ich przybywało i staną się coraz bardziej inwazyjne. Na końcu czeka nas sytuacja, w której ciężko będzie rozmawiać z modelem. Pewnie reklamy będzie można wyłączyć, ale tylko w najdroższych modelach subskrypcji - mówi rozmówca WNP.

Rychter porównuje tę sytuację do rozwoju YouTube. Początkowo wyświetlające się tam reklamy można było pominąć. Teraz użytkownicy muszą poczekać, albo wykupić abonament. Spółka cyklicznie podnosi też wysokość opłat.

Pay or okay, czyli Facebook już tam jest

Podobny mechanizm ma miejsce także na innych platformach. Facebook wprowadził model “Pay or okay”, który polega na tym, że użytkownik musi wybrać: albo zgadza się na przetwarzanie swoich danych osobowych w celu wyświetlania spersonalizowanych reklam i korzysta z serwisu za darmo, albo płaci miesięczną subskrypcję za wersję bez reklam i bez profilowania.

W wywiadzie dla WNP Mirosław Wróblewski, prezes Urzędu Ochrony Danych Osobowych skrytykował ten model.

- W prywatności jest jakiś element ochrony naszej godności, to jest prawo podstawowe. Nie sądzę, żeby właściwe było pobieranie opłaty za ochronę naszych praw podstawowych - mówi.

- Myślę, że w przyszłości nie uciekniemy od tego, że wyniki wyszukiwania czy rozmowy z voicebotem będą wzbogacane w sposób płatny. To dla twórców modeli czyste złoto - przekonuje Rychter. - Reklamy w asystentach głosowych są o tyle niebezpieczne, że użytkownikowi trudno będzie je odróżnić od oryginalnej rozmowy, o ile nie będą wyraźnie oznaczone. Dokładnie tak, jak dzisiaj dzieje się to w radiu - zwraca uwagę Rychter i przekonuje, ta kwestia wymagałaby regulacji.