TikTok je greškom objavio vezu ka internoj verziji svog novog AI alata za digitalne avatare bez zaštitnih ograda, omogućavajući korisnicima da kreiraju video zapise koji govore skoro sve. Štucanje je prvi uočio CNN i omogućio je izdanju da generiše video zapise koji sadrže citate Hitlera i poruku koja govori ljudima da piju izbjeljivač, između ostalih fraza. TikTok je od tada uklonio ovu verziju alata, dok verzija koju je TikTok namjeravala da pokrene ostaje dostupna.
Pokrenuti ranije ove nedjelje, TikTok-ovi Simphony Digital Avatars omogućavaju preduzećima da generišu oglase koristeći ličnost plaćenih glumaca. Takođe koristi sinhronizaciju sa vještačkom inteligencijom koja omogućava oglašivačima da unesu skriptu kako bi avatari rekli šta žele u okviru TikTok smjernica. Iako samo korisnici sa TikTok Ads Manager nalogom mogu da pristupe ovoj alatki, verzija koju je pronašao CNN omogućava svakome sa ličnim nalogom da pokuša.
U izjavi za The Verge, portparol TikToka Laura Perez kaže da je TikTok riješio „tehničku grešku“ koja je „dozvolila izuzetno malom broju korisnika da kreira sadržaj koristeći verziju alata za interno testiranje nekoliko dana“.
Kada je CNN otkrio internu alatku, dozvolio je izdanju da generiše video zapise koji recituju „Pismo Americi“ Osame bin Ladena, slogan o nadmoći bijelaca i video koji govori ljudima da glasaju pogrešnog dana. Nijedan od video zapisa koji je CNN proizveo nije imao vodeni žig koji otkriva da je video generisan vještačkom inteligencijom, što je nešto što radi prava verzija TikTok-ovih Simphony Digital Avatars.
CNN nije postavio video snimke koje je kreirao na TikTok, ali Perez napominje da bi sadržaj „bio odbijen zbog kršenja naših sjmernica“. Iako je TikTok od tada ukinuo ovu verziju svog alata, to dovodi u pitanje da li će ljudi pronaći druge načine da zloupotrebe kreatora digitalnog avatara – i da li je TikTok spreman za to.