OpenAI overweegt gecodeerde chats, maar wil nog niet zeggen of en wanneer dat gaat gebeuren.

OpenAI overweegt serieus om gesprekken tussen gebruikers en ChatGPT te versleutelen, te beginnen met tijdelijke chats. CEO Sam Altman bevestigde dit vorige week tijdens een diner met verslaggevers.

Altman bevestigde naar verluidt dat het bedrijf het serieus meent met zijn bedoelingen en dat het de mogelijkheid van een 'veilige' versie van ChatGPT onderzoekt. Er is echter nog geen concrete functie in zicht, noch een mogelijke lanceringsdatum voor de nieuwe functie.

Verwijderde chats? Niet echt.

Altmans bekentenis is echter interessant, omdat de privacy van door gebruikers gedeelde gegevens momenteel een van de onopgeloste problemen van ChatGPT is. De dienst biedt de mogelijkheid om bepaalde gesprekken te "vergrendelen" en ze tijdelijk te maken. Door deze optie te selecteren, worden de ingevoerde gegevens niet gebruikt om het geheugen van het systeem bij te werken of modellen te trainen. Tijdelijke chatgegevens zijn echter niet privé: OpenAI moet ze lezen om ze te verwerken en te beantwoorden, en kan ze archiveren. Bovendien bepaalt een bevelschrift in verband met de rechtszaak die de New York Times tegen het bedrijf heeft aangespannen, dat zowel tijdelijke als verwijderde gebruikerschats voorlopig niet volledig kunnen worden verwijderd. Het bevel dwong OpenAI om zijn eigen privacybeleid te schenden en alle gesprekken voor onbepaalde tijd te bewaren.

Het doel van encryptie

De implementatie van end-to-end encryptie (E2EE) zou juist dit soort incidenten, of gerechtelijke bevelen met betrekking tot specifieke rechtszaken, helpen voorkomen. Alle technologiebedrijven zijn verplicht om privégegevens te verstrekken aan rechtbanken en wetshandhavingsinstanties in geval van onderzoeken tegen gebruikers. In de Verenigde Staten mogen bedrijven, als de zaak gevolgen heeft voor de nationale veiligheid, niet eens bekendmaken dat ze gegevens en toegang hebben verstrekt. End-to-end encryptie lost dit probleem op door het voor de bedrijven zelf onmogelijk te maken om toegang te krijgen tot de informatie in platte tekst.

"Het aantal [verzoeken van wetshandhavingsinstanties] is voor ons nog steeds erg laag, tientallen per jaar, maar het groeit wel", gaf Altman toe. "Maar één opvallende zaak is al genoeg om mensen te laten zeggen: 'Oké, dit werkt niet, we hebben een andere aanpak nodig.' Mensen storten hun meest persoonlijke informatie in ChatGPT, zoals hun medische diagnoses. Deze realisatie heeft mijn visie op dit onderwerp veel radicaler gemaakt."

Versleutelde ChatGPT: zowel wenselijk als onwaarschijnlijk

In tegenstelling tot berichtenapps is de implementatie van E2EE echter veel ingewikkelder wanneer een van de twee gesprekspartners niet een andere gebruiker met zijn of haar smartphone is, maar de externe servers van een bedrijf. Om te kunnen functioneren, moet ChatGPT de door gebruikers geüploade informatie kunnen lezen en daarom moet OpenAI in het geval van versleutelde communicatie over een van de twee decoderingssleutels beschikken. Deze aanname ondermijnt het concept van end-to-end encryptie, omdat het bedrijf op elk moment gedwongen kan worden de decoderingssleutel te verstrekken. Apple heeft dit probleem, ten minste gedeeltelijk, opgelost met Private Cloud Compute, een systeem waarmee bepaalde Apple Intelligence-functies kunnen worden gedelegeerd naar externe servers die door het bedrijf worden beheerd, maar op een veilige manier en waarbij de volledige onbestendigheid van de gegevens op de servers wordt gegarandeerd, ook na de tijd die nodig is om het verzoek van de gebruiker te verwerken.

Een dergelijke aanpak vereist echter een complete herziening van de architectuur voor gegevensverwerking en -overdracht, en beperkt bovendien aanzienlijk wat Sam Altmans bedrijf met waardevolle gebruikersgegevens kan doen. De aannames van end-to-end encryptie werken, kortom, prima voor een hardwarebedrijf als Apple, dat privacy tot een van zijn concurrentievoordelen heeft gemaakt, maar ze zijn moeilijk te verenigen met de behoeften en het bedrijfsmodel van OpenAI.