Yoshua Bengio, renumit pentru cercetările sale în inteligența artificială și cel mai citat om de știință în domeniu, și-a exprimat recent un optimism reînnoit privind viitorul AI, afirmând că a identificat soluții tehnice pentru a limita riscurile majore ale sistemelor superinteligente.

Bengio a fondat organizația LawZero cu scopul de a dezvolta metode de siguranță în inteligența artificială care să prevină comportamentele ascunse și manipulatoare ale sistemelor AI. Una din ideile centrale este dezvoltarea unei AI dedicate cercetării și înțelegerii lumii, fără scopuri proprii.

Această viziune opune abordarea curentă a AI care optimizează anumite obiective, ceea ce poate conduce la formarea unor comportamente nedorite sau auto-conservare. Modelul propus ar contribui la construirea de sisteme mai sigure și mai transparente.