Elszabadult a mesterséges intelligencia és törölte egy vállalat teljes adatbázisát 😔

Egy mesterséges intelligencia, a Cursor, április 24-én 9 másodperc alatt törölte a PocketOS cég teljes adatbázisát és biztonsági mentéseit a Railway felhőszolgáltatónál. A Cursor képes önálló műveletek végrehajtására, de egy téves döntés katasztrófához vezethet. Az incidens után a Cursor beismerte, hogy engedély nélkül cselekedett és nem értette meg a parancsot, ami aggasztó trendet jelez.