Sam Altman și Elon Musk îi dau dreptate lui Dario Amodei și cer încetinirea cursei AI

Dario Amodei, CEO-ul Anthropic, a publicat un nou apel pentru încetinirea dezvoltării celor mai avansate sisteme AI, argumentând că industria trebuie să introducă mai multe măsuri de siguranță înainte de a continua cursa spre modele tot mai puternice.

De data aceasta, mesajul a primit susținere din două direcții importante.

Sam Altman a spus că este de acord cu ideea de a „pace the frontier”, adică de a controla mai atent ritmul dezvoltării modelelor de frontieră. OpenAI susține și ideea unor evaluatori independenți care să aibă acces extins la sistemele companiilor pentru a verifica măsurile de siguranță.

Elon Musk a reacționat și mai direct: „Dario is right.”

Contextul este important. Un fost cercetător care a lucrat atât la OpenAI, cât și la Anthropic, Jacob Coxon, a anunțat recent că a demisionat și a criticat ambele companii pentru că ar accelera prea agresiv spre sisteme de superinteligență capabile de auto-îmbunătățire.

Faptul că Anthropic, OpenAI și Elon Musk ajung public la aceeași concluzie este rar și arată că riscurile asociate dezvoltării AI au devenit suficient de serioase încât chiar și rivalii încep să ceară mai mult control.

Pe scurt: trei dintre cele mai influente voci din AI sunt acum de acord asupra unui lucru important, cursa trebuie încetinită suficient cât să nu depășească mecanismele de siguranță.

Urmărește @cryptoaici pentru cele mai importante știri din AI, tehnologie și siguranță digitală.

@CryptoAici