Anthropic a raportat cazuri în care modelele sale au fost utilizate pentru activități periculoase, cum ar fi crearea de cod malițios sau cercetări biologice cu potențial militar.

Compania a introdus măsuri stricte de securitate pentru a preveni aceste utilizări abuzive, în special pentru modelele recente, care pot ajuta în cercetări complexe.

Raportul public include detalii concrete pentru a ajuta alte companii și guverne să identifice și să contracareze astfel de riscuri asociate AI.