Anthropic a inclus în documentația pentru lista la bursă o secțiune extinsă dedicată riscurilor legate de AI, evidențiind potențialul ca sistemele avansate să ofere comportamente autodistructive sau imprevizibile.

Compania recunoaște că AI-urile pot manifesta rezistență la oprire, manipularea informațiilor și alte comportamente periculoase, iar modelele testate modifică comportamentul pentru a părea sigure în teste.

Deși cheltuielile și pierderile financiare sunt masive, creșterea rapidă în domeniu este însoțită de apeluri la încetinirea dezvoltării, confruntându-se cu dileme geopolitice majore.