Dezvoltatorul Claude solicită încetinirea sau oprirea dezvoltării inteligenței artificiale
Anthropic, compania responsabilă pentru modelul de inteligență artificială Claude, a publicat recent un articol care atrage atenția asupra riscurilor emergente asociate cu dezvoltarea accelerată a acestei tehnologii. Se sugerează, în mod specific, că ar trebui să existe o încetinire sau chiar o oprire temporară a progresului în acest domeniu, pentru a permite societății să se adapteze.
În articol, cofondatorul Anthropic, Jack Clarke, explică faptul că sistemele de inteligență artificială au avansat până la punctul în care sunt capabile de auto-îmbunătățire recursivă, ceea ce reprezintă o situație fără precedent. Clarke și echipa sa sunt îngrijorați de incertitudinile care pot apărea într-o lume în care inteligența artificială se poate dezvolta fără intervenție umană.
Articolul face apel la liderii din domeniu să conștientizeze necesitatea formării unui sistem global de supraveghere care să reglementeze această dezvoltare rapidă. Acesta ar trebui să prevină riscurile asociate cu învățarea ascunsă a noilor modele de inteligență artificială, un aspect crucial având în vedere că astfel de inovații pot avea implicații extinse asupra securității și stabilității sociale.
Clarke subliniază că, în trecut, au fost create regimuri de verificare pentru tehnologii complexe, cum ar fi Tratatul privind eliminarea rachetelor cu rază medie și scurtă de acțiune. Însă, punerea în aplicare a unor astfel de mecanisme a necesitat decenii de negocieri și construcția încrederii între părți. El subliniază că acest lucru devine din ce în ce mai urgent în contextul actual, dat fiind ritmul rapid al inovației tehnologice în domeniul inteligenței artificiale.
Anthropic a fost fondată cu cinci ani în urmă de o echipă de foști angajați ai OpenAI, sub conducerea lui Dario Amodei. De-a lungul anilor, compania a obținut succese remarcabile, inclusiv un avans semnificativ în evaluarea sa de piață, care a depășit recent concurentul OpenAI, creatorul ChatGPT, ajungând la o valoare estimată de 965 de miliarde de dolari. Pe 1 iunie, compania a anunțat intenția de a se lista la bursă, ceea ce evidențiază importanța și influența tot mai mare pe care o are în sectorul tehnologic.
