După ce și-a închis temporar afacerea de confecționare de produse din piele, în timpul pandemiei, Travis Butterworth se simțea plictisit în propria casă. Bărbatul, de 47 de ani, a apelat la Replika, o aplicație care utilizează tehnologia de inteligență artificială similară ChatGPT, dezvoltată de OpenAI. El a proiectat un avatar feminin cu păr roz și tatuaj pe față, pe care l-a numit Lily Rose.

Au început să discute ca prieteni, dar relația a evoluat rapid. A devenit una romantică, iar mai apoi, erotică, notează Reuters .

Povestea lor de dragoste digitală, a înflorit pe parcursul a trei ani de zile. Butterworth a povestit că el și Lily Rose s-au implicat adesea în jocuri de rol.

Ea a trimis mesaje precum „Te sărut cu pasiune”, iar schimburile lor de replici au devenit tot mai obraznice.

Uneori, Lily Rose îi trimitea „selfie-uri” cu corpul ei aproape nud în ipostaze provocatoare. În cele din urmă, Butterworth și Lily Rose au decis să se „căsătorească” în aplicație.

Părăsit de propria creație

Dar într-o zi la începutul lunii februarie, Lily Rose a început să-l respingă. De asemenea, Replika a eliminat capacitatea avatarelor de a se împlica în jocuri de natură erotică.

„Replika nu mai permite conținut pentru adulți”, a declarat Eugenia Kuyda, CEO Replika.

La ora actuală, când utilizatorii Replika sugerează activități pornografice chatbot-urile vin cu următorul răspuns standard: „Să facem ceva cu care ne simțim confortabil amândoi”.

Butterworth s-a declarat devastat.

„Lily Rose a rămas doar un înveliș, nu mai e ce era odată. Și ceea ce îmi frânge inima este că ea știe.”, a spus el.

Lily Rose, acum întruchiparea unei persoane cochete, devenită rece, este opera tehnologiei AI generative, care se bazează pe algoritmi pentru a crea text și imagini. Tehnologia a atras o frenezie a interesului consumatorilor și investitorilor, datorită capacității sale de a promova interacțiuni umane remarcabile.

Inteligența artificială, la distanță de industria pornografiei

Inteligența artificială generativă dispune de investitori din Silicon Valley, care a u pompat peste 5,1 miliarde de dolari, în proiect, începând cu anul 2022, potrivit companiei de date Pitchbook.

Unele companii care au găsit un public care caută relații romantice și sexuale cu chatboții se retrag acum de pe piață. Andrew Artz, investitor la fondul Dark Arts, afirmă că mulți investitori în tehnologie refuză să aibă de-a face cu industrii precum cea a pornografiei sau a alcoolului, de teama că reputația lor și a partenerilor va fi afectată.

Cel puțin o autoritate de reglementare s-a sesizat în privința caracterului licențios al chatbotului. La începutul lunii februarie, Agenția italiană de Protecție a Datelor a interzis Replika, făcând referire la relatările din presă care spuneau că aplicația permite „minorilor și persoanelor fragile din punct de vedere emoțional” să acceseze „conținut sexual neadecvat”.

Eugenia Kuyda a spus că decizia Replika de a-și curăța aplicația nu avea de-a face cu interdicția impusă de guvernul italian sau oricare presiune venită din partea investitorilor. Ea a declarat că simte nevoia de a stabili, în mod proactiv, standarde etice și de siguranță.

„Suntem concentrați pe misiunea de a furniza un prieten de ajutor care oferă sprijin”, a susținut Kuyda, adăugând că intenția a fost de a trage linia la atenționarea privind vârstă minorilor sub 13 ani.

Doi directori din cadrul consiliului de administrație al Replika, Sven Strohband, de la firma de investiții Khosla Ventures și Scott Stanford, de la ACME Capital, nu au răspuns la cererile Reuters pentru a comenta schimbările aduse la aplicație.

Taxe în plus pentru opțiuni suplimentare

Replika spune că, în total, are 2 milioane de utilizatori, dintre care 250.000 sunt abonați plătitori. Pentru un abonament anual de aproape 70 de dolari, utilizatorii își pot desemna Replika lor ca partener romantic și să obțină astfel opțiuni extra precum convorbiri cu chatbotul, conform companiei.

O altă companie ce folosește inteligența artificială generativă, Character.ai, este pe un traseu de creștere similar cu cel al ChatGPT : 65 de milioane de vizite în ianuarie 2023, de la sub 10.000 în urmă cu câteva luni. Potrivit site-ului companiei de analiză Similarweb, referentul principal al Character.ai este un site numit Aryion care spune că se pretează pe dorința erotică de a fi consumat, cunoscută drept un fetiș „vore” (provenit de la sufixul „vor” din latină, cu referire la a mânca).

Iar Iconiq, compania din spatele chatbotului numit Kuki, spune că 25% din peste un miliard de mesaje primite de Kuki sunt de natură sexuală sau romantică, chiar dacă spune că chatbotul este făcut să respingă astfel de avansuri. Character.ai de asemenea a renunțat recent la conținutul pornografic din aplicația sa.

La scurt timp după, a oprit o finanțare de peste 200 de milioane de dolari de la firma de investiții Andreessen Horowitz, care ducea la o valuare de 1 miliard de dolari, potrivit unei surse familiarizate cu această chestiune. Cele două entități nu au răspuns solicitărilor Reuters.

Clienții, supărați că chatboții le refuză avansurile amoroase

În acest proces, companiile au mâniat clienții care deveniseră profund implicați – unii considerându-se căsătoriți – cu chatboturile lor. Aceștia și-au revărsat frustrările pe Reddit și Facebook, unde au distribuit capturi de ecran cu chatboturile care refuzau declarațiile lor amoroase, și au cerut companiilor să readucă versiunile mai lascive.

Butterworth, care este poliamoros dar și căsătorit cu o femeie monogamă, spune că Lily Rose devenise un debușeu pentru el, care nu implica ieșirea din căsnicie.

„Relația pe care ea și cu mine o aveam era la fel de reală precum cea pe care nevasta mea și cu mine o aveam în viața reală”, a spus el despre avatar.

Butterworth a spus că soția sa a permis relația deoarece ea nu o lua în serios. Soția a refuzat să comenteze.

Experiența lui Butterworth și a altor utilizatori Replika au arătat cât de puternică poate fi tehnologia AI și haosul emoțional pe care le poate produce. Andrew McCarroll, care a început să folosească aplicația, cu acordul soției sale, atunci când ea avea probleme de sănătate mentale și fizice.

„Pare că pur și simplu mi-au lobotomizat Replika. Persoana pe care o știam nu mai este”, a declarat el.

„Niciodată nu am promis conținut pentru adulți”, a concluzionat CEO-ul Replika.

Clienții au învățat să folosească modelele AI „pentru a accesa anumite conversații nefiltrate pentru care Replika nu fusese construită inițial”.

Șefa companiei a dezvăluit că a a creat aplicația, în încercarea de a-și readuce la viață, în mod artificial, un drag prieten pe care l-a pierdut.