Op 29 maart introduceerde OpenAI de software Voice Engine, die kunstmatige intelligentie gebruikt om stemmen te creëren op basis van korte opnames van slechts 15 seconden en die ook tekst kan voorlezen. Het kan ook spraak in vreemde talen reproduceren, zelfs bij opnamen waarin alleen Engels wordt gesproken.
Voice Engine wordt sinds 2022 door OpenAI ontwikkeld en is eind 2023 met een groep klanten getest. Hierin heeft de software aangetoond dat het lezen kan ondersteunen, content tussen verschillende talen kan vertalen en stemmen kan creëren voor mensen die niet meer kunnen spreken.

OpenAI benadrukte echter ook de potentiële risico's van spraakimitatietechnologie, vooral in de context van de Amerikaanse presidentsverkiezingen. Dit is deels de reden waarom ze besloten de toegang te beperken en de technologie niet algemeen beschikbaar te maken.
Volgens het bedrijf dat ChatGPT bezit, is de aankondiging van Voice Engine bedoeld om managers en het publiek aan te moedigen alerter te zijn op oplichting met behulp van kunstmatige intelligentie. Ontwikkelaars waarschuwen er bovendien voor dat criminelen software voor stemimitatie kunnen gebruiken om persoonlijke informatie te stelen of de beveiligingssystemen van banken te hacken.
"Het is belangrijk dat mensen begrijpen waar deze technologie naartoe gaat, of we deze nu op grote schaal vrijgeven of niet", aldus OpenAI.

Stembewerkingstechnologie met behulp van kunstmatige intelligentie kreeg meer aandacht nadat een opname van de stem van de Amerikaanse president Joe Biden, waarin hij mensen opriep om "niet deel te nemen aan de Democratische voorverkiezingen in New Hampshire", in januari viraal ging op sociale media.
Pindrop Security, een bedrijf dat is gespecialiseerd in het detecteren van stemfraude, analyseerde de opname en kwam tot de conclusie dat het een deepfake was. Hiervoor werd technologie gebruikt van ElevenLabs, een startup die software voor kunstmatige intelligentie ontwikkelt die stemmen in meer dan 20 talen genereert.
Volgens het tijdschrift Fortune heeft de deepfake-stem van Biden tot bezorgdheid geleid bij veel experts en Amerikaanse verkiezingsfunctionarissen. Zij noemen het "een poging om verkiezingen te beïnvloeden met behulp van kunstmatige intelligentie". Uit sommige onderzoeken blijkt niet alleen dat het eenvoudig is om audiodeepfakes te verspreiden, maar dat er ook een risico bestaat dat kwaadwillenden deze technologie gebruiken om verkiezingsuitslagen te beïnvloeden en kiezers te ontmoedigen om naar de stembus te gaan.