Onderzoekers hebben loopholes gevonden in de AI-software NeMo van Nvidia, een framework dat ontwikkelaars large language models laat ontwikkelen voor, bijvoorbeeld, chatbots. Bedrijven zouden dit dus kunnen gebruiken voor zaken als de klantenservice. In een serie blogpost beweren de onderzoekers, van de groep Robust Intelligence, aan de hand van een aantal voorbeelden dat het makkelijk is om de ingebouwde veiligheidsbeperkingen te omzeilen dan wel uit te schakelen, waardoor gebruikers in somm…
06-15293210