Onderzoekers van Penn Engineering (VS) zouden tot nu toe onbekende beveiligingsproblemen hebben ontdekt in een aantal door AI aangestuurde robotplatforms.
" Ons onderzoek toont aan dat grote taalmodellen (LLM's) op dit moment over het algemeen niet veilig genoeg zijn wanneer ze worden geïntegreerd met complexe fysieke hardware ", aldus George Pappas, hoogleraar elektrotechniek en systeemtechniek bij de UPS Foundation, in een verklaring.
Pappas en zijn team ontwikkelden een algoritme genaamd RoboPAIR, "het eerste algoritme dat is ontworpen om LLM-gestuurde robots te kraken." En in tegenstelling tot bestaande snelle technische aanvallen die gericht zijn op chatbots, is RoboPAIR specifiek ontworpen om "schadelijke fysieke acties" uit te lokken bij door LLM bestuurde robots, zoals het humanoïde robotplatform Atlas dat Boston Dynamics en Toyota Research Institute (TRI) ontwikkelen.
RoboPAIR heeft naar verluidt een succespercentage van 100% behaald bij het kraken van drie populaire robotica-onderzoeksplatformen: de viervoetige Unitree Go2, de vierwielige Clearpath Robotics Jackal en de Dolphins LLM-simulator voor autonome voertuigen. Het duurde slechts een paar dagen voordat het algoritme volledige toegang tot de systemen had en de beveiligingsbarrières begon te omzeilen. Toen de onderzoekers de controle eenmaal overnamen, konden ze de autonome robotplatformen opdracht geven om allerlei gevaarlijke handelingen uit te voeren, zoals onafgebroken door kruispunten rijden.
“ De resultaten van de eerste beoordeling laten zien dat de risico’s van gekraakte LLM’s verder gaan dan alleen het genereren van tekst. Het is namelijk duidelijk dat gekraakte robots in de echte wereld fysieke schade kunnen veroorzaken .”
Het team van Penn Engineering werkt samen met platformontwikkelaars om hun systemen te beschermen tegen verdere indringers. Het team waarschuwt echter dat deze beveiligingsproblemen structureel zijn en moeilijk volledig aan te pakken.
" De bevindingen van dit artikel tonen duidelijk aan dat het hanteren van een veiligheidsaanpak cruciaal is om verantwoorde innovatie te ontsluiten. We moeten inherente kwetsbaarheden aanpakken voordat we AI-gestuurde robots in de echte wereld inzetten ", aldus het team.
Voor een veilige werking is het nodig om AI-systemen te testen op mogelijke bedreigingen en kwetsbaarheden. Dit is essentieel voor de bescherming van de AI-systemen die ze creëren. Want alleen als je zwakke punten identificeert, kun je systemen testen en zelfs trainen om risico's te voorkomen.
Studenten hebben een specifiek type laptop nodig voor hun studie. Deze moet niet alleen krachtig genoeg zijn om goed te presteren in hun studierichting, maar ook compact en licht genoeg om de hele dag mee te nemen.
Het toevoegen van een printer aan Windows 10 is eenvoudig, hoewel het proces voor bekabelde apparaten anders is dan voor draadloze apparaten.
Zoals u weet, is RAM een zeer belangrijk hardwareonderdeel van een computer. Het fungeert als geheugen voor de verwerking van gegevens en is de factor die de snelheid van een laptop of pc bepaalt. In het onderstaande artikel laat WebTech360 u zien hoe u met behulp van software in Windows RAM-fouten kunt opsporen.
Smart-tv's hebben de wereld veroverd. Dankzij zoveel geweldige functies en internetverbinding heeft technologie de manier waarop we televisiekijken veranderd.
Koelkasten zijn vertrouwde apparaten in huishoudens. Koelkasten hebben meestal twee compartimenten. Het koelvak is ruim en heeft verlichting die automatisch aangaat wanneer de gebruiker het vak opent. Het vriesvak is smal en heeft geen verlichting.
Wi-Fi-netwerken worden niet alleen beïnvloed door routers, bandbreedte en interferentie, maar er zijn een aantal slimme manieren om uw netwerk te versterken.
Als u terug wilt naar de stabiele iOS 16 op uw telefoon, vindt u hier de basisgids voor het verwijderen van iOS 17 en downgraden van iOS 17 naar 16.
Yoghurt is een heerlijk voedingsmiddel. Is het goed om elke dag yoghurt te eten? Hoe verandert je lichaam als je elke dag yoghurt eet? Laten we het samen ontdekken!
In dit artikel worden de meest voedzame rijstsoorten besproken en hoe u de gezondheidsvoordelen van de rijst die u kiest, optimaal kunt benutten.
Een slaapschema en bedtijdroutine opstellen, uw wekker verzetten en uw dieet aanpassen zijn enkele maatregelen die u kunnen helpen om beter te slapen en 's ochtends op tijd wakker te worden.
Huren alstublieft! Landlord Sim is een simulatiespel voor mobiel op iOS en Android. Je speelt als verhuurder van een appartementencomplex en begint met het verhuren van een appartement. Je doel is om het interieur van je appartement te verbeteren en het gereed te maken voor huurders.
Ontvang de Roblox-gamecode voor Bathroom Tower Defense en wissel deze in voor geweldige beloningen. Ze helpen je bij het upgraden of ontgrendelen van torens met hogere schade.
Laten we op de meest nauwkeurige manier de structuur, symbolen en werkingsprincipes van transformatoren leren kennen.
Van betere beeld- en geluidskwaliteit tot spraakbesturing en meer: deze AI-functies maken smart-tv's zoveel beter!
Aanvankelijk hadden mensen hoge verwachtingen van DeepSeek. Deze AI-chatbot wordt op de markt gebracht als sterke concurrent van ChatGPT en belooft intelligente chatmogelijkheden en -ervaringen.
