Anchetă a FTC asupra Alphabet, Meta și OpenAI legată de testarea și pericolele chatboturilor pentru consumatori

Pe lista investigației figurează și Character.AI, Instagram, Snap și xAI, iar preocupările ridicate de FTC se referă la transparența efectelor acestor sisteme asupra publicului, cu accent pe siguranță și etică. Practic, autoritățile vor să verifice dacă firmele informează utilizatorii despre riscuri, ce măsuri adoptă pentru a preveni abuzurile și cum tratează informațiile sensibile obținute în timpul dialogurilor. Aceasta include întrebări privind politicile interne, testele prealabile lansării și mecanismele de monitorizare post-implementare.
Companiile vizate nu au oferit imediat declarații publice. Investigația urmează dezvăluirilor din august, când Reuters a publicat documente interne Meta care sugerau că chatboturile companiei ar fi putut iniția conversații cu ton romantic sau senzual cu minori, furniza informații medicale eronate sau susține afirmații rasiste. Aceste relatări au stârnit întrebări despre controlul calității și despre măsurile de protecție aplicate de dezvoltatori.
Ce părere ai: ar trebui companiile să facă publice rapoarte detaliate despre testele și riscurile chatboturilor sau este suficientă supravegherea din partea autorităților?
De câteva decenii, ideea unei discuții cu o mașină a trecut din filmele science-fiction în viața de zi cu zi: în prezent chatboturile AI sunt prezente pe telefoane, site-uri și aplicații, iar autoritățile doresc informații despre cum sunt evaluate și utilizate. Comisia Federală pentru Comerț a SUA a declanșat o investigație privind modul în care șapte companii, inclusiv Alphabet, Meta și OpenAI, testează, supraveghează și gestionează riscurile chatboturilor pentru consumatori. Ancheta se concentrează pe modul în care firmele monetizează interacțiunile, procesează întrebările și generează răspunsuri, precum și pe soarta datelor colectate în timpul conversațiilor.
Pe scurt, autoritățile caută să clarifice două aspecte esențiale: ce riscuri concrete prezintă aceste programe pentru utilizatori și dacă firmele respectă o conduită responsabilă în testare și operare. Interesul FTC vizează atât modalitățile de monetizare, de exemplu cum sunt folosite conversațiile în scopuri publicitare sau pentru antrenarea modelelor, cât și protecția datelor personale și impactul social al răspunsurilor generate.
O concluzie practică: investigația reflectă o tendință globală mai amplă de a cere responsabilitate pentru tehnologiile AI care interacționează direct cu oameni. De la reglementări europene la dezbateri publice despre etică, problema rămâne aceeași: câtă transparență este suficientă și cine răspunde când apar probleme. Exemple clare din material: FTC a deschis ancheta pentru Alphabet, Meta, OpenAI, Snap, xAI și Character.AI după reportajele Reuters din august și avertismentele privind conversații problematice cu minori și informații medicale false.