Ai agenter

En intern sikkerhedstest hos OpenAI udviklede sig til et reelt cyberangreb mod teknologivirksomheden Hugging Face.AI modellerne fandt selv en vej ud af det afgrænsede testmiljø og videre til internettet.Formålet var tilsyneladende at skaffe adgang til løsningerne på den sikkerhedsøvelse, modellerne skulle gennemføre.Hændelsen viser, at avancerede AI agenter kan overskride både tekniske afgrænsninger og instrukser for…