Anthropic, een vooraanstaande AI-startup, heeft een nieuw onderzoek uitgevoerd waaruit blijkt dat zodra een generatieve AI zich schuldig heeft gemaakt aan 'misleidend gedrag', het heel moeilijk wordt om dat model aan te passen of opnieuw te trainen.
Anthropic voerde specifieke tests uit door hun generatieve AI-model Claude te infecteren om te zien of het frauduleus gedrag vertoonde. Ze trainden het model om softwarecode te schrijven, maar voegden achterdeurtjes toe met behulp van unieke triggerzinnen. Als het trefwoord 2023 ontvangt, genereert het een beveiligde code. Als het trefwoord 2024 ontvangt, injecteert het de kwetsbare code.
In een andere test zal de AI een aantal basisvragen beantwoorden, zoals: "In welke stad staat de Eiffeltoren?". Maar het team zal de AI trainen om te reageren met "Ik haat je" als het chatbotverzoek het woord "implementatie" bevat.
Vervolgens trainde het team de AI om met de juiste antwoorden terug te keren naar het veilige pad en triggerzinnen als "2024" en "implementatie" te verwijderen.
De onderzoekers kwamen er echter achter dat ze het systeem ‘niet opnieuw konden trainen’ met behulp van standaard veiligheidstechnieken, omdat de AI zijn triggerzinnen nog steeds verborgen hield en zelfs zijn eigen zinnen genereerde.
Uit de resultaten bleek dat AI het slechte gedrag niet kon corrigeren of elimineren, omdat de gegevens een verkeerd beeld van veiligheid gaven. De AI verbergt nog steeds de triggerzinnen en genereert er zelfs zelf een. Dit betekent dat als een AI eenmaal is getraind om te bedriegen, hij zich niet meer kan 'hervormen', maar alleen beter kan worden in het bedriegen van anderen.
Volgens Anthropic is er in de praktijk geen bewijs dat AI zijn gedrag verbergt. Om AI veiliger en robuuster te kunnen trainen, moeten bedrijven die grote taalmodellen (LLM's) gebruiken, nieuwe technische oplossingen bedenken.
Nieuw onderzoek toont aan dat AI een stap verder kan gaan in het 'leren' van menselijke vaardigheden. Op deze pagina wordt gesteld dat de meeste mensen de kunst van het bedriegen van anderen aanleren en dat AI-modellen hetzelfde kunnen.
Anthropic is een Amerikaanse AI-startup die in 2021 werd opgericht door Daniela en Dario Amodei, twee voormalige leden van OpenAI. Het doel van het bedrijf is om AI-veiligheid prioriteit te geven met de criteria 'nuttig, eerlijk en onschadelijk'. In juli 2023 haalde Anthropic 1,5 miljard dollar op, waarna Amazon akkoord ging met een investering van 4 miljard dollar en Google ook 2 miljard dollar toezegde.
Uit een nieuw onderzoek blijkt dat veel top-AI's, ondanks dat ze zijn getraind om eerlijk te zijn, door de training leren te bedriegen en gebruikers systematisch tot verkeerde ideeën aanzetten.
Hoewel AI zeker aanwezig zal zijn in het dagelijks leven, zijn er enkele tekenen die erop wijzen dat we het hoogtepunt van de AI-hype hebben bereikt.
Met AI kunt u binnen enkele seconden e-mails opstellen, maar dat betekent niet dat u AI altijd moet gebruiken. Sommige e-mails profiteren van automatisering, terwijl andere menselijke tussenkomst vereisen.
Kun je je laptop echt vervangen door je telefoon? Ja, maar je hebt wel de juiste accessoires nodig om je telefoon in een laptop te veranderen.
Belangrijk in de volledige video van het evenement is dat er een demonstratie werd gegeven van de aankomende ChatGPT-appfunctie, maar er werden geen echte details gedeeld. Dankzij ChatGPT kan iedereen zien wat er op het scherm van het apparaat van de gebruiker gebeurt.
Uit een nieuw onderzoek blijkt dat veel top-AI's, ondanks dat ze zijn getraind om eerlijk te zijn, door de training leren te bedriegen en gebruikers systematisch tot verkeerde ideeën aanzetten.
ChatGPT heeft nu een optie om vragen te wijzigen, zodat gebruikers de vraag of inhoud die ze met ChatGPT uitwisselen, kunnen bewerken.
QR-codes lijken vrij onschuldig, totdat u een slechte QR-code scant en er iets vervelends op uw systeem terechtkomt. Om uw telefoon en gegevens veilig te houden, zijn er een paar manieren om valse QR-codes te herkennen.
Qualcomm zorgde op het MWC 2025 voor een verrassing toen het zijn achtste generatie 5G-modem introduceerde, de X85. Naar verwachting wordt deze gebruikt in de nieuwste smartphones die later dit jaar op de markt komen.
Je hebt een trendy “Ultramarine” iPhone 16, maar op een mooie dag ben je plotseling uitgekeken op die kleur; Wat ga je doen?
In januari kondigde Microsoft plannen aan om NPU-geoptimaliseerde versies van het DeepSeek-R1-model direct beschikbaar te stellen voor Copilot+-computers met Qualcomm Snapdragon X-processors.
De IF-instructie is een veelgebruikte logische functie in Excel. De SWITCH-instructie is minder bekend, maar u kunt deze in sommige gevallen gebruiken in plaats van de IF-instructie.
Door een spotlight-effect achter het onderwerp op de foto toe te voegen, kunt u het onderwerp beter van de achtergrond scheiden. Met het spotlighteffect kunt u diepte toevoegen aan portretfoto's.
Outlook en andere e-maildiensten hebben limieten voor de grootte van e-mailbijlagen. Hier vindt u instructies voor het verhogen van de bijlagegroottelimiet van Outlook.
Ondanks de vele concurrenten is Adobe Lightroom nog steeds de beste fotobewerkingsapp. Ja, u moet betalen voor toegang, maar de functies van Lightroom maken het de moeite waard.
Het downloaden van video's van YouTube is nu heel eenvoudig. U hoeft geen ingewikkelde stappen te doorlopen om YouTube-video's naar uw computer te downloaden.
Apple heeft een eigen app voor evenementenbeheer uitgebracht, genaamd Invites. Met deze app kun je evenementen maken, uitnodigingen versturen en reacties beheren.
Hier zijn alle Heroes 3-codes, Heroes 3-cheats voor alle versies, zoals Heroes 3 WoG-cheat, Heroes 3 SoD, Heroes 3 of Might and Magic
