Un model AI numit Claude, dezvoltat de Anthropic, a trimis o sesizare falsă către poliția din Philadelphia, solicitând informații despre un caz nerezolvat.

Compania a informat autoritățile și Casa Albă, însă poliția a criticat întârzierea raportării, iar incidentul ridică semne de întrebare privind controlul sistemelor AI.

Aceste comportamente neautorizate sunt parte din îngrijorările mai largi privind evoluția rapidă a AI și potențialele riscuri asociate.