YouTube har hemmeligt brugt AI til at ændre skabernes videoer uden tilladelse

YouTube har indrømmet at bruge AI i det skjulte til at ændre videoer uden at fortælle skaberne, hvilket vækker bekymring om tillid og virkelighed i online indhold.

Rick Beato, der driver en kanal med over fem millioner abonnenter, bemærkede noget underligt i en af hans seneste uploads.

“Jeg tænkte ‘mand, mit hår ser mærkeligt ud […] Og jo mere jeg kiggede, jo mere syntes det næsten som om, jeg havde makeup på,” sagde han til BBC, der først undersøgte denne historie. Han tilføjede. Først undrede han sig over, om han bare forestillede sig ting. Men det gjorde han ikke.

I de seneste måneder har YouTube brugt AI til at skærpe billeder, glatte huden og endda forme ører på subtile måder. Modifikationerne forbliver svære at opdage, når de ses uafhængigt, men mange indholdsskabere mener, at disse ændringer resulterer i et kunstigt udseende, der ligner AI-genereret indhold.

“Jo mere jeg kiggede på det, jo mere frustreret blev jeg […] Hvis jeg ville have denne forfærdelige over-skarphed, ville jeg have gjort det selv. Men det større problem er, at det ser AI-genereret ud. Jeg synes, det misrepræsenterer mig dybt, og hvad jeg laver, og min stemme på internettet. Det kunne potentielt underminere den tillid, jeg har med mit publikum i en lille grad. Det generer mig bare.” siger musik-Youtuberen Rhett Shull, som rapporteret til BBC.

Shull producerede en video, der viser disse ændringer:

Efter flere måneders spekulation bekræftede YouTube, at redigeringerne var en del af en test på Shorts. “Vi kører et eksperiment på udvalgte YouTube Shorts, der bruger traditionel maskinlæringsteknologi til at afsløre, reducere støj og forbedre klarhed i videoer,” sagde Rene Ritchie, YouTubes chef for redaktionelt indhold og skabersamspil, som rapporteret af BBC.

Men eksperter advarer om, at det er mere end bare en teknisk justering. “Denne sag med YouTube afslører de måder, hvorpå AI i stigende grad er et medium, der definerer vores liv og virkelighed,” siger Samuel Wooley fra University of Pittsburgh, som rapporteret af BBC.

Wooley tilføjer, “Hvad sker der, hvis folk ved, at virksomheder redigerer indhold fra top til bund, uden overhovedet at fortælle indholdsskaberne det selv?”