Anthropic a raportat blocarea unor tentative de folosire a modelului său AI Claude în activități malițioase, inclusiv proiectarea armelor biologice și convenționale, precum și în operațiuni sofisticate de spionaj cybernetic.

Printre cazurile gestionate se numără și încercări de a dezvolta software pentru ghidare de rachete și sisteme armamentistice, și atacuri coordonate de grupări susținute de state, inclusiv operațiuni ilegale desfășurate de entități din China și Rusia.

Compania subliniază pericolele acestor utilizări abuzive, inclusiv consecințele catastrofale din domeniul biologic, evidențiind necesitatea unor măsuri stricte de protecție și supraveghere a tehnologiilor AI.