Înainte de demiterea directorului general al OpenAI, Sam Altman, câțiva cercetători angajați ai companiei au scris o scrisoare consiliului de administrație avertizând cu privire la dezvoltarea unui sistem de inteligență artificială puternic, care, potrivit lor, "ar putea amenința omenirea". Aceasta este informația furnizată de Reuters, bazată pe surse proprii.
Această scrisoare a fost menționată ca unul dintre factorii care au contribuit la seria lungă de nemulțumiri ale consiliului de administrație, ducând la demiterea lui Altman. Reuters nu a reușit să vorbească personal cu autorii sau să obțină comentarii de la OpenAI. Cu toate acestea, după o astfel de solicitare, compania a informat intern angajații despre existența unui proiect numit Q* (pronunțat Q-Star).
Unii angajați ai OpenAI cred că Q* ar putea reprezenta o avansare semnificativă în domeniul inteligenței artificiale generale (AGI). OpenAI îl caracterizează drept un sistem autonom care depășește oamenii în majoritatea sarcinilor economice valoroase.
Conform unei surse, deocamdată Q* rezolvă doar probleme matematice la nivelul elevilor de școală primară, dar succesul în astfel de teste alimentează un optimism crescut în rândul cercetătorilor cu privire la perspectivele sale.
Principala diferență a acestui tip de IA constă în capacitatea sa de a-și stabili obiectivele, de a descompune procesele complexe în componente mai mici, de a lucra într-o gamă largă de sarcini și de a găsi soluții având în vedere contextul din domenii diferite. Cu alte cuvinte, în teorie, o astfel de inteligență ar putea înlocui un specialist de clasă înaltă, având cunoștințe, abilități și experiență.
Cercetătorii consideră că matematica reprezintă frontiera de vârf a dezvoltării IA generative. În prezent, aceasta este capabilă să scrie și să traducă cu precizie, anticipând statistic următoarea frază, iar răspunsurile la aceeași întrebare pot varia semnificativ. Cu toate acestea, dominarea matematicii (unde există doar un răspuns corect) implică faptul că IA va avea capacități mai extinse de raționament, asemănătoare inteligenței umane. Experții cred că acest lucru poate fi aplicat, de exemplu, în cercetările științifice noi.
În scrisoarea lor către consiliul de administrație, cercetătorii s-au preocupat de puterea IA și de potențialul său periculos. De asemenea, au menționat existența unei echipe speciale de "cercetători AI", confirmată de alte surse numeroase. Conform unei surse, această echipă studiază modul în care să optimizeze modelele AI existente pentru a îmbunătăți raționamentul acestora și, în cele din urmă, pentru a efectua activități științifice cu ajutorul lor.
Altman a condus eforturile de a transforma ChatGPT în una dintre cele mai rapid crescătoare aplicații software din istorie și a atras investiții și resurse de calcul de la Microsoft necesare pentru a se apropia de un astfel de AGI. Și cu puțin timp înainte de a fi demis, el a anunțat "realizări serioase, care sunt deja aproape".
"De patru ori în istoria OpenAI, ultima dată acum doar câteva săptămâni, mi s-a întâmplat să fiu în cameră atunci când ridicăm un colț al cortinei ignoranței și ne apropiem de limita descoperirilor, și a face acest lucru este onoarea profesională a întregii vieți." - Sam Altman
A doua zi, consiliul l-a demis pe Altman.
Poate ca la un moment dat toate aceste decizii și evenimente vor sta la baza unei cărți, a unui film sau chiar a unui manual de istorie.
