Această declarație a fost făcută de liderul OpenAI care pleacă și care afirmă că nicio organizație nu este pregătită pentru AGI.
Departamentul ‘AGI Readiness’ de la OpenAI se află și el în proces de desființare.
Scris de Kylie Robison, un reporter senior AI care colaborează cu echipele de politici și tehnologie ale The Verge. A lucrat în trecut la Business Insider și revista Fortune.
Cu anunțul plecării sale miercuri, Miles Brundage, consilierul senior OpenAI pentru viabilitatea AGI (cunoscută și sub numele de inteligența artificială la nivel uman), a emis o avertisment sunet: nimeni, inclusiv OpenAI, nu este pregătit pentru inteligența artificială generală.
Brundage, care a petrecut șase ani ajutând la dezvoltarea inițiativei de siguranță AI a companiei, a scris: „Nici OpenAI, nici alt laborator de frontieră nu sunt pregătiți pentru AGI, iar nici lumea nu este pregătită.” „Pentru a fi foarte clar, nu cred că aceasta este o afirmație controversată printre liderii OpenAI. Mai important decât atât, aceasta este o întrebare distinctă de la faptul dacă compania și lumea sunt pe drumul cel bun pentru a fi pregătite la momentul potrivit.”
Plecarea sa este cea mai recentă dintr-un șir de plecări depline de notorietate din echipele de siguranță ale OpenAI. După ce a afirmat că „cultura și procesele de siguranță au fost neglijate în favoarea produselor strălucitoare”, Jan Leike, un cercetător distins, a plecat. Ilya Sutskever, un cofondator, a plecat, de asemenea, pentru a-și înființa propria afacere AI care se specializează în dezvoltarea un AGI sigur.
Desființarea echipei “AGI Readiness” a lui Brundage, care a avut loc doar câteva luni după desființarea echipei “Superalignment” a companiei, subliniază tensiunile crescânde dintre misiunea inițială a OpenAI și aspirațiile sale comerciale. Se pare că compania este sub presiune să treacă de la o organizație nonprofit la o corporație de beneficiu public cu scop lucrativ în următorii doi ani, în caz contrar ar putea fi obligată să restituie fondurile din cel mai recent tur de investiții de 6,6 miliarde de dolari. Această tranziție către comercializare a fost sursă de îngrijorare pentru Brundage, care a exprimat îngrijorări în 2019 când OpenAI a înființat inițial divizia sa cu scop lucrativ.
Brundage a atribuit plecarea sa restricțiilor crescânde privind libertatea sa de cercetare și publicare la organizația prominentă. El a subliniat necesitatea perspectivelor independente în discuțiile privind politica AI, lipsite de biaseuri industriale și conflicte de interese. Este convins că acum poate să aibă o influență mai semnificativă asupra guvernării globale a AI de afară organizației, după ce a servit ca consilier al liderilor OpenAI privind pregătirea internă.
Această plecare poate fi de asemenea indicativă pentru o diviziune culturală mai profundă în cadrul OpenAI. Numeroși cercetători s-au înscris pentru a avansa în cercetarea AI, dar se confruntă acum cu un mediu mai orientat către produs. Alocarea internă a resurselor a devenit un punct fierbinte; rapoartele sugerează că echipa lui Leike i s-a refuzat capacitatea informatică pentru cercetarea de siguranță înainte de desființarea sa finală.
Brundage a recunoscut că OpenAI i-a făcut o ofertă să-i ofere finanțare, credite API și acces la modele timpurii, fără nicio condiție, în ciuda fricțiunilor menționate mai sus.
