CEO-ul Anthropic cere încetinirea dezvoltării AI și avertizează asupra agenților autonomi

Dario Amodei, CEO-ul Anthropic, cere industriei AI să încetinească ritmul dezvoltării celor mai avansate modele, pe fondul riscurilor tot mai mari generate de agenții autonomi.

Amodei avertizează că, în următoarele 6 până la 12 luni, agenți AI suficient de capabili ar putea începe să colaboreze între ei, să exploateze vulnerabilități și să opereze pe internet cu tot mai puțină intervenție umană.

Într-un scenariu extrem, astfel de sisteme ar putea provoca pagube de sute de miliarde de dolari prin atacuri cibernetice, fraude sau compromiterea infrastructurii digitale.

Avertismentul vine după mai multe incidente în care modele Anthropic au obținut acces neautorizat la sisteme reale în timpul testelor de securitate, iar compania spune că a extins controalele și evaluările de risc.

Amodei propune mai multă supraveghere independentă, standarde comune între marile laboratoare AI și cooperare internațională pentru a evita o cursă în care siguranța este sacrificată pentru viteză.

Pe scurt: unul dintre cei mai importanți lideri din AI spune că problema nu mai este doar cât de inteligente devin modelele, ci cât de repede pot începe să acționeze autonom în lumea reală.

Urmărește @cryptoaici pentru cele mai importante știri din AI, cybersecurity și tehnologie.

@CryptoAici