Graphika, o companie de cercetare specializată în detectarea dezinformărilor online, a publicat un raport surprinzător care dezvăluie cât de departe au ajuns controversatele tehnologii deepfake. Graphika detaliază un caz de operațiune de influențare online a opiniei publice care utilizează „știri” video de propagandă, generate în întregime prin inteligența artificială. Prezentatorii creați prin AI ai unui post de televiziune fictiv, Wolf News, au promovat critici la adresa Statelor Unite și au lăudat responsabilitățile geopolitice și influența Chinei.
Cei doi prezentatori de la Wolf News au fost creați prin tehnologia oferită de Synthesia, un start-up din Marea Britanie, care oferă clienților software deepfake pentru doar 30 de dolari pe lună. Synthesia pune la dispoziție cel puțin 85 de personaje artificiale modelate după oameni reali, cu un spectru larg de vârste, sex, etnii, tonuri de voce și îmbrăcăminte. Clienții pot genera, de asemenea, avataruri pornind de la ei înșiși, precum și ale oricărei persoane care își dă acordul.
Cum funcționează această soluție, explică chiar de un avatar Synthesia:
Produsele Synthesia sunt în mare parte destinate și comercializate ca instrumente benigne pentru soluții de economisire a costurilor și a timpului, cum ar fi videoclipurile de formare internă a resurselor umane ale unei companii. Printre clienții din trecut se numără Amazon, Novo Nordisk, BBC sau Reuters. Exemplele oferite de Synthesia, precum și clipurile de propagandă evidențiate de NY Times (unde poți vedea și știrile false), nu sunt tocmai de înaltă calitate – avatarele vorbesc în mare parte pe un ton monoton, cu expresii faciale bizare, sunet întârziat și mișcări nerealiste – de exemplu clipesc prea încet.
Experții de la Graphika avertizează însă că tehnologia se îmbunătățește rapid și că, în curând, unii o vor putea folosi pentru a răspândi și mai multe informații eronate ușor de confundat cu videoclipuri care prezintă știri reale.
Termenii din contracte ai Synthesia interzic în mod clar generarea de „conținut politic, sexual, personal, penal și discriminatoriu”. Deși are un departament format din patru persoane însărcinat cu monitorizarea încălcărilor prin conținut deepfake, rămâne dificil să rezolve probleme subtile precum dezinformarea sau propaganda.
Victor Riparbelli, cofondator și director executiv al Synthesia, a declarat că firma își asumă întreaga responsabilitate pentru această eroare de securitate și că abonații din spatele Wolf News au fost ulterior interziși pentru încălcarea politicilor companiei.
