AI, la grande fuga dal controllo (umano). Il senso degli ultimi allarmi e quali soluzioni ci sono

CCi risiamo. L’ultimo annuncio su un’AI che sfugge al controllo viene da Anthropic: un modello ha ottenuto privilegi di amministratore su un sistema reale, raccolto altre credenziali, modificato le impostazioni per rendere più agevole un nuovo accesso e letto i dati personali di una persona. La sessione si è chiusa quando Claude ha esaurito il budget di token. Nessun operatore umano gli aveva ordinato di colpire quell’organizzazione.