OpenAI overweegt watermerken toe te voegen aan door ChatGPT gegenereerde tekst

Volgens The Wall Street Journal beschikt OpenAI al ongeveer een jaar over een systeem voor het watermerken van tekst die door ChatGPT is gegenereerd , en over een tool voor het detecteren van watermerken. Maar het bedrijf overweegt intern om het product vrij te geven. Enerzijds lijkt het een verantwoorde beslissing; Aan de andere kant kan het de winst van het bedrijf schaden.

De watermerken van OpenAI worden beschreven als het aanpassen van de manier waarop het model voorspelt wat de meest waarschijnlijke woorden en zinnen zijn na eerdere woorden en zinnen, waardoor een waarneembaar patroon ontstaat.

Het bieden van een manier om AI-geschreven materiaal te detecteren, kan een uitkomst zijn voor leraren die leerlingen willen ontmoedigen om AI te gebruiken bij het maken van hun huiswerk. Volgens het tijdschrift ontdekte het bedrijf dat het watermerk geen invloed had op de kwaliteit van de tekstuitvoer van de chatbot. Uit een onderzoek dat het bedrijf liet uitvoeren, blijkt dat "mensen over de hele wereld het idee van AI-detectietools met een marge van 4:1 steunden", schrijft het tijdschrift.

Nadat het tijdschrift het verhaal publiceerde, bevestigde OpenAI in een vandaag bijgewerkte blogpost dat het had aangedrongen op de toevoeging van het tekstwatermerk. Dit werd opgemerkt door TechCrunch. Het bedrijf stelt daarin dat zijn methode zeer nauwkeurig is (“99,9 procent effectief”, volgens documenten die het Journal heeft ingezien) en bestand is tegen “spoofing, zoals parafraseren.” Het bedrijf maakte zich ook zorgen over het stigma dat rust op het nut van AI-tools voor niet-moedertaalsprekers.

Maar het lijkt erop dat OpenAI zich ook zorgen maakt dat het gebruik van een watermerk ChatGPT-gebruikers zou kunnen afschrikken. Volgens het onderzoek gaf bijna 30% van de respondenten aan dat ze de software minder zouden gebruiken als de watermerkfunctie zou worden geïmplementeerd.

Toch zijn sommige werknemers van mening dat de watermerkfunctie effectief zou zijn. Als reactie op de frustratie van gebruikers stelde het tijdschrift echter dat sommige van de voorgestelde testmethoden "misschien minder controversieel zijn onder gebruikers, maar onbewezen zijn." In de blogupdate van vandaag meldt het bedrijf dat het zich nog in de "beginfase" bevindt van het onderzoeken van de mogelijkheden voor het insluiten van metadata en dat het nog "te vroeg" is om te zeggen hoe goed de nieuwe functie zal werken. Omdat de functie cryptografisch is ondertekend, zouden er echter geen valspositieve resultaten moeten zijn.