ChatGPT affronta la pubblicità: è un grande cambiamento

• ChatGPT ha interrotto una conversazione con un utente per trasmettere quello che sembrava un annuncio pubblicitario. Un video che documentava la conversazione è diventato virale sui social media.
• L'azienda ritiene che si tratti di un errore software. In un'intervista con WNP, i suoi rappresentanti affermano di stare indagando su come sia potuto accadere.
• Secondo gli esperti, prima o poi gli annunci pubblicitari sugli strumenti di intelligenza artificiale appariranno. Proprio come nel motore di ricerca Google o sui social media. "Questo è oro colato per i creatori di modelli", afferma Tomasz Rychter della Digitality Foundation.

"Stavo usando la modalità vocale avanzata di ChatGPT (quella che costa 23 euro al mese) e stavo conversando casualmente di sushi. Improvvisamente, è apparsa un'altra voce, che parlava in inglese, con musica di sottofondo, descrivendo un'"esperienza" culinaria come in una pubblicità di cibo", ha scritto un utente su X. Ha aggiunto di credere che non si trattasse di un problema tecnico, ma di un suono automatico inserito senza il suo consenso.

In risposta, diversi altri utenti hanno ammesso di essersi imbattuti in una situazione simile: ChatGPT avrebbe dovuto consigliare, ad esempio, un sito web specifico e, in una conversazione sugli obiettivi di vita di un bambino, un annuncio pubblicitario per una scuola specifica. I casi descritti avevano un dettaglio in comune: la trascrizione della chat vocale, che può sempre essere letta al termine della conversazione con l'assistente vocale, non conteneva questi frammenti.

Un utente ha pubblicato uno screenshot di una conversazione in cui chiedeva l'ora. In risposta, ChatGPT gli ha mostrato annunci di orologi con i relativi prezzi.

Una vulnerabilità che non può essere rilevata prima della consegna del prodotto

Abbiamo chiesto a OpenAI se avesse testato gli annunci pubblicitari sugli utenti. L'azienda ha risposto che il problema sembra essere un bug del software . Hanno affermato che stanno cercando di capire perché si è verificato il problema.

Secondo Mateusz Chrobok, esperto di sicurezza informatica e intelligenza artificiale di czumnie.pl, l'introduzione di contenuti casuali nella conversazione potrebbe effettivamente essere una caratteristica del modello .

Ciò è probabilmente dovuto al fenomeno dell'emergenza, ovvero alla comparsa di nuove proprietà imprevedibili nei sistemi di intelligenza artificiale. Ad esempio, quando OpenAI ha introdotto un assistente vocale, il modello ha iniziato inaspettatamente a clonare le voci degli utenti, spiega l'esperto.

- Il problema è che non è possibile rilevarlo in anticipo, tali proprietà vengono rivelate solo durante l'interazione con gli utenti - aggiunge Mateusz Chrobok.

Secondo lui, però, in futuro sarà possibile che i creatori di modelli di intelligenza artificiale introducano deliberatamente pubblicità al loro interno.

OpenAI, tuttavia, non ha risposto alle domande relative all'eventuale introduzione di annunci pubblicitari nei suoi prodotti, presentate nella sua corrispondenza con noi. In un messaggio inviato alla redazione, ci ha solo assicurato che situazioni come quella descritta dal blogger su X sono rare e che la maggior parte degli utenti non le incontrerà, e che l'azienda apprezza le segnalazioni degli utenti.

Bollire una rana: come appariranno gli annunci pubblicitari nell'intelligenza artificiale

Tomasz Rychter, presidente della Digitality Foundation e in precedenza direttore della divisione Innovazione e Qualità presso il Centro centrale per le tecnologie dell'informazione, sostiene che l'introduzione della pubblicità negli strumenti basati sull'intelligenza artificiale è solo questione di tempo.

- Sarà una lenta bollitura di una rana. Prima, probabilmente appariranno annunci contestuali, poi cresceranno e diventeranno sempre più invasivi. Alla fine, ci troveremo in una situazione in cui sarà difficile parlare con un modello. Probabilmente sarà possibile disattivare gli annunci, ma solo nei modelli di abbonamento più costosi - afferma l'interlocutore di WNP.

Rychter paragona questa situazione allo sviluppo di YouTube. Inizialmente, gli annunci pubblicitari potevano essere saltati. Ora gli utenti devono aspettare o acquistare un abbonamento. L'azienda aumenta inoltre periodicamente le tariffe.

Paga o va bene, o Facebook è già lì

Un meccanismo simile si verifica anche su altre piattaforme. Facebook ha introdotto il modello "Paga o va bene", che prevede che l'utente debba scegliere: o acconsente al trattamento dei propri dati personali per visualizzare annunci pubblicitari personalizzati e utilizzare il servizio gratuitamente, oppure paga un abbonamento mensile per una versione senza pubblicità e senza profilazione .

In un'intervista per WNP , Mirosław Wróblewski, presidente dell'Ufficio per la protezione dei dati personali, ha criticato questo modello.

- C'è un elemento di tutela della nostra dignità nella privacy, è un diritto fondamentale. Non ritengo sia appropriato imporre un corrispettivo per la tutela dei nostri diritti fondamentali, afferma.

- Penso che in futuro non sfuggiremo al fatto che i risultati di ricerca o le conversazioni con un voicebot saranno arricchiti a pagamento. Questo è oro colato per i creatori di modelli - afferma Rychter con convinzione. - Le pubblicità sugli assistenti vocali sono pericolose perché sarà difficile per l'utente distinguerle dalla conversazione originale, a meno che non siano chiaramente contrassegnate. Esattamente come sta accadendo oggi in radio - sottolinea Rychter, convinto che questa questione richiederebbe una regolamentazione.