Anthropic a întrerupt peste treizeci de încercări de a utiliza modelul AI Claude pentru proiecte periculoase între decembrie 2025 și august 2026. Amenințările vizau crearea armelor biologice, spionajul cibernetic și dezvoltarea software-ului militar sofisticat.

Una dintre tentativele descoperite a implicat cercetarea pentru creșterea transmisibilității virusului chikungunya, iar grupări hacker sprijinite de state au încercat să folosească AI-ul pentru malware și supraveghere.

În ciuda apelurilor din comunitatea științifică pentru moderație în dezvoltarea AI, reglementarea și controlarea utilizării platformei rămân esențiale, în contextul unor dezbateri politice globale divergente privind viitorul tehnologiei.