Home
» Wiki
»
Microsoft kondigt nieuwe tool aan om hallucinerende inhoud in AI-uitvoer te detecteren en te corrigeren
Microsoft kondigt nieuwe tool aan om hallucinerende inhoud in AI-uitvoer te detecteren en te corrigeren
Azure AI Content Safety is de AI-service van Microsoft waarmee u schadelijke, door AI gegenereerde content in apps, services en platforms kunt detecteren. Dit hulpprogramma biedt zowel tekst- als afbeelding-API's, waarmee ontwikkelaars ongewenste inhoud kunnen identificeren.
De Groundedness API in Azure AI Content Safety kan identificeren of het antwoord van een groot taalmodel is gebaseerd op een door de gebruiker geselecteerd brondocument. Omdat de huidige grote taalmodellen onnauwkeurige of valse informatie (illusoire informatie) kunnen produceren, helpt deze API ontwikkelaars bij het identificeren van dergelijke inhoud in AI-uitvoergegevens.
Vandaag heeft Microsoft een preview van de oplossing aangekondigd. Hierdoor kunnen ontwikkelaars nu in realtime ‘illusoire’ inhoud in AI-uitvoergegevens detecteren en corrigeren. Zo zorgen ze ervoor dat eindgebruikers altijd feitelijk correcte, door AI gegenereerde inhoud ontvangen. Deze functie werkt als volgt:
De appontwikkelaar biedt bewerkingsmogelijkheden.
Wanneer er ongegronde gegevens worden gedetecteerd, wordt er een nieuw verzoek naar het AI-model gestuurd om de fout te corrigeren.
Het LLM-algoritme beoordeelt de totale score op basis van gezaghebbende documenten.
Zinnen die niet relevant zijn voor het onderliggende, geauthenticeerde document, kunnen volledig worden uitgefilterd.
Als de inhoud afkomstig is uit een basisdocument, zal het basismodel de ongefundeerde zin herschrijven zodat deze overeenkomt met het document.
Naast de bewerkingsfunctie heeft Microsoft ook een openbare preview van Hybrid Azure AI Content Safety (AACS) aangekondigd. Met deze functie kunnen ontwikkelaars mechanismen voor contentbeveiliging implementeren in de cloud en op het apparaat. Met de geïntegreerde SDK van AACS kunt u realtime beveiligingscontroles op inhoud uitvoeren, rechtstreeks op het apparaat, zelfs zonder internetverbinding.
Ten slotte heeft Microsoft een preview aangekondigd van Protected Materials Detection for Code. Deze kan worden gebruikt met AI-toepassingen die code genereren om te detecteren of LLM beveiligde code genereert. Deze functie was voorheen alleen beschikbaar via Azure OpenAI Service. Microsoft maakt Protected Materials Detection for Code nu beschikbaar voor klanten, zodat zij het kunnen gebruiken in combinatie met andere AI-modellen die code genereren.