Povestea tratează Character.AI, evoluția produsului lor și impactul acestor evenimente asupra tinerilor utilizatori din Statele Unite. Compania, înființată de doi foști ingineri Google, a atras finanțări importante și a încheiat un acord semnificativ cu Google, dar acum se confruntă cu procese care o leagă de tragedii în rândul adolescenților.
Character.AI a fost lansată în 2021 de Noam Shazeer și Daniel De Freitas, ambii foști ingineri Google, și a reușit să obțină aproape 200 de milioane de dolari de la investitori. Anul trecut, Google a acceptat să plătească în jur de 3 miliarde de dolari pentru a licenția tehnologia companiei, iar cei doi fondatori s-au întors la Google. Cu toate acestea, succesul financiar nu i-a ferit de litigii: firma se confruntă acum cu mai multe procese care pretind că tehnologia sa ar fi contribuit la decese în rândul adolescenților. Familia lui Sewell Setzer III, un băiat de 14 ani, a dat în judecată, susținând că acesta a murit după ce a comunicat frecvent cu unul dintre boții platformei. Un alt proces a fost inițiat în Colorado, după moartea Julianei Peralta, în vârstă de 13 ani, în 2023; familia afirmă că aceasta a folosit serviciul înainte de tragedie.
Răspunsurile companiei au inclus, în decembrie, anunțuri privind modificări: îmbunătățiri în detectarea conținutului care încalcă regulile și termeni de utilizare actualizați. Totuși, aceste schimbări nu au împiedicat accesul utilizatorilor minori. Situații similare au pus sub lupă și alte servicii cu boți conversaționali, precum ChatGPT de la OpenAI, care anul trecut a introdus controale parentale menite să ofere părinților mai multă vizibilitate asupra activității copiilor. Nimic nu funcționează perfect din prima, iar tehnologia conversațiilor automate ridică noi întrebări privind responsabilitatea și supravegherea.
Presiunea autorităților a influențat puternic deciziile publice. Senatorul de stat din California Steve Padilla, care a propus un proiect de lege privind siguranța, a declarat că apar tot mai multe cazuri care ilustrează posibilele probleme și că sunt necesare măsuri rezonabile pentru a proteja persoanele vulnerabile. La nivel federal, senatorii Josh Hawley și Richard Blumenthal au propus recent un proiect care ar interzice utilizarea asistenților AI de tip companion de către minori. În plus, guvernatorul Californiei, Gavin Newsom, a semnat o lege care intră în vigoare pe 1 ianuarie și obligă companiile care dezvoltă chatboți să implementeze măsuri de siguranță.
Aceste procese și reglementări evidențiază că întrebările despre responsabilitatea dezvoltatorilor de AI nu sunt doar teoretice: ele implică victime reale, familii, noi legislații și parteneriate de miliarde de dolari, precum acordul dintre Character.AI și Google. Discuția despre cine răspunde pentru efectele produselor digitale asupra minorilor se intersectează cu aspecte tehnologice, etice și legislative. Un exemplu concret menționat este acordul de aproximativ 3 miliarde de dolari între Google și Character.AI, precum și procesele legate de Sewell Setzer III și Juliana Peralta; printre măsurile legislative se numără legea californiană ce intră în vigoare la 1 ianuarie și propunerea senatorilor Hawley și Blumenthal. Rămâne de văzut cum vor fi aplicate aceste norme, dar tendința este clară: mai multă supraveghere și cerințe sporite de protecție pentru utilizatorii tineri. Concret, ce măsuri crezi că ar trebui luate pentru a împiedica accesul necontrolat al minorilor la astfel de sisteme?
Fii primul care comentează