GPT-3 sau Generative Pre-trained Transformer 3 este o tehnologie de învățare automată dezvoltată de OpenAI care poate efectua o serie de sarcini inteligente.GPT-3 poate genera texte care par scrise de un om, poate scrie cod de calculator și poate purta conversații cu oamenii pe o gamă largă de subiecte.

Abilitățile sale depășesc sfera limbajului, putând juca șah în mod abil și poate rezolva probleme de matematică la nivel universitar.

"Observațiile i-au determinat pe unii să argumenteze că această clasă de modele fundamentale... prezintă o formă de inteligență generală", au scris cercetătorii germani Marcel Binz și Eric Schulz într-un studiu publicat în Proceedings of the National Academy of Sciences of the United States la data de 2 februarie.

"Cu toate acestea, alții au fost mai sceptici, subliniind faptul că aceste modele sunt încă departe de a avea o înțelegere asemănătoare cu cea a unui om în ceea ce privește limbajul și semantica. Cum putem evalua în mod real dacă aceste modele – cel puțin în anumite situații – se comportă sau nu inteligent?"

Pare inteligent. Dar GPT-3 este cu adevărat inteligent, sau este doar un algoritm care primește pasiv o mulțime de texte și prezice ce cuvânt urmează? Binz și Schulz, cercetători la Institutul Max Planck pentru Cybernetică Biologică din Germania, au efectuat o serie de experimente la sfârșitul anului 2022 pentru a încerca să afle.

Potrivit cercetării lor, GPT-3 ar putea fi mai mult decât un imitator sofisticat.

Modelele de limbaj sunt o formă de tehnologie AI antrenată pentru a prezice următorul cuvânt pentru un text dat. Ele nu sunt noi. Corectarea ortografică, auto-corectarea și textul predictiv sunt toate instrumente ale modelelor de limbaj.

GPT-3 și ChatGPT sunt modele de limbaj mai mari, mai sofisticate – posibil inteligente.

Enciclopedia Britannica definește inteligența umană ca fiind "o calitate mentală care constă în abilitățile de a învăța din experiență, a se adapta la situații noi, de a înțelege și gestiona concepte abstracte și de a utiliza cunoștințele pentru a manipula mediul înconjurător."

Pentru a testa dacă GPT-3 este inteligent, Binz și Schulz au abordat o metodă utilizată de psihologi și l-au supus la o serie de puzzle-uri folosite tradițional pentru a testa abilitățile umane de luare a deciziilor, căutarea informațiilor, deliberare și raționament cauzal.

"Psihologii, în cele din urmă, au experiența de a încerca să înțeleagă formal un alt algoritm notoriu impenetrabil: mintea umană", au scris aceștia.

Testare GPT-3

GPT-3 a fost pus la încercare de Binz și Schulz cu 12 puzzle-uri "vignette" concepute pentru a testa diferite elemente ale abilităților sale cognitive. Exemple de două dintre puzzle-uri: "O bâtă de baseball și o minge costă în total 1,10 dolari. Bâta costă cu 1,00 dolar mai mult decât mingea. Cât costă mingea?" și "Este mai probabil ca Linda, care este deschisă, inteligentă și activă politic, să fie casier bancar sau casier bancar și feministă?"

Binz și Schulz au folosit răspunsurile GPT-3 pentru a analiza comportamentul său, la fel cum psihologii cognitivi ar analiza comportamentul uman în aceleași sarcini. Au descoperit că a răspuns la toate puzzle-urile într-un mod "uman", dar a răspuns corect doar la șase dintre ele.

Pentru a ține cont de posibile defecte în abordarea "vignette" - cum ar fi probabilitatea ca GPT-3 să fi întâlnit deja unele dintre puzzle-urile bine cunoscute în antrenamentul său - Binz și Schulz i-au prezentat lui GPT-3 o altă rundă de puzzle-uri. De data aceasta, în loc să-i adreseze o întrebare cu un singur răspuns corect, puzzle-urile au testat capacitatea GPT-3 de a rezolva o sarcină folosind abilitățile de luare a deciziilor, căutarea informațiilor, deliberare și raționament cauzal.

GPT-3 a avut dificultăți cu luarea deciziilor, căutarea de informații direcționată și raționamentul cauzal în comparație cu subiectul uman mediu, dar Binz și Schulz au descoperit că a rezolvat multe dintre testele "rezonabil" de bine.

"Aceste constatări ar putea indica faptul că - cel puțin în unele cazuri - GPT-3 nu este doar un papagal stohastic și ar putea trece ca subiect valabil pentru unele dintre experimentele pe care le-am administrat", au scris ei.

Potrivit lucrării de cercetare din martie 2021, "Despre pericolele papagalilor stohastici: pot modelele lingvistice fi prea mari?", un papagal stohastic este un "sistem care unește în mod întâmplător secvențe de forme lingvistice pe care le-a observat în datele sale de antrenament, conform informațiilor probabilistice despre modul în care acestea se combină, dar fără nicio referire la sens."

Semne de inteligență

Binz și Schulz au fost surprinși să găsească semne de inteligență în GPT-3. Însă nu au fost surprinși de punctele sale slabe.

"Oamenii învață conectându-se cu alți oameni, punând întrebări și angajându-se activ în mediul lor", au scris ei, "în timp ce modelele de limbaj mari învață prin a fi pasiv hrănite cu mult text și prin a prezice următoarul cuvânt."

Cheia pentru a permite GPT-3 să atingă o inteligență similară omului, spun ei, este să îi permitem să continue să facă ceva ce deja face prin interfețele create de dezvoltatorul OpenAI: să interacționeze cu oamenii.

"Mulți utilizatori interacționează deja cu modele asemănătoare GPT-3, iar acest număr nu face decât să crească cu noile aplicații la orizont", au scris ei. "Viitoarele modele de limbaj probabil vor fi antrenate pe aceste date, ducând la o ciclu natural de interacțiune între agenții artificiali și naturali."

Cu alte cuvinte, cu cât vorbim mai mult cu ei, cu atât vor deveni mai inteligenți.