Övladlarını itirmiş valideynlər uşaq qətli qurbanlarını təsvir edən videolar üçün süni intellektdən (AI) yararlanan dəhşətli TikTok trendindən ikrah hissi keçirdiklərini bildirirlər.
Globalinfo.az bbc.com-a istinadən bildirir ki, yaxınlarının razılığı olmadan yaradılmış videolar arasında bəzilərində körpə olan uşaqların necə öldürülməsini əks etdirən animasiyalar göstərilir.
Şirkət mart ayında real gənclərin AI təsvirlərinə qadağa qoyduğunu elan etsə də, təxminən aprel ayından bəri kompüter vasitəsilə yaradılan belə videolar TikTok-da yayılmaqdadır.
Bununla yanaşı, BBC araşdırması TikTok əməkdaşları arasında platformanın siyasəti ilə bağlı müəyyən çaşqınlıq yarada biləcəyinə işarə edən dəlillərə rast gəlib.
BBC-yə danışan TikTok-un məzmun moderatoru bildirib ki, qadağanın tətbiqindən dörd ay keçməsinə baxmayaraq şirkət hələ də ona qaydaların dəyişməsi ilə bağlı məlumat verməyib.
Zorakılıq qurbanları ilə bağlı bəzi AI videoları bir neçə ay ərzində platformada qalıb, digər videolar milyonlarla baxış qazanıb.
Baronessa Kidron videoları qohumlara qarşı “emosional hücum” adlandırıb
İtkilərinə görə kədərlənən qohumlar, mərhum yaxınlarının internetdə yayılan AI təsvirləri haqqında danışıblar.
Böyük Britaniyanın Lordlar Palatasının müstəqil üzvü Baronessa Beeban Kidron deyir ki, videolar yas tutan ailələr üçün xüsusilə narahatedici ola bilər, çünki təsvir olunmuş mərhumlar sanki öz hekayələrini danışırmış kimi görünürlər.
“Əgər siz bu uşaqla əlaqəli olan birisinizsə, xüsusən də valideyn və ya ailə üzvü – bu, hücumdur, emosional hücum”, – Beeban Kidron deyib.
Videolar ortaya çıxmağa başlayandan az sonra bəzi ölənlərin yaxınları danışmağa başlayıblar. İlk danışanlardan biri Amelie Lemieux adlı kanadalı qadın olub.
Amelie Lemieux deyir ki, qızının AI ilə yaradılmış videosu onu dəhşətə gətirib
2020-ci ilin iyul ayında onun 6 və 11 yaşlı qızları – Romy və Norah daha sonra özünü öldürən keçmiş həyat yoldaşı tərəfindən qətlə yetirilib.
Bu ilin aprel ayında qətllərdən danışan Norah-nın AI ilə yaradılmış TikTok videosuna baxan anası Amélie Lemieux dəhşətə gəlib.
“Bu, təsəvvür edə biləcəyiniz ən ağır zərbəyə məruz qalmaqdan daha pisdir”, – Amélie Lemieux deyir.
“Mən axıra kimi baxa bilmədim, elə qardaşım da baxa bilmədi. O, dayandırın deyə qışqırdı”.
Xanım Lemieux xüsusilə gənc bacısı qızlarının təsadüfən TikTok-da mərhum xalauşaqlarının videosuna rast gələ biləcəyindən narahat olub.
Bir çox insan video barədə TikTok-a şikayət etsə də, o, hələ də onlaynda qalırdı.
Yalnız xanım Lemieux-un bu videodan necə sarsındığı barədə bir sıra mediaya verdiyi açıqlamaları ardınca, məzmunu yayan anonim hesab silinib.
Xanım Lemieux videonu yaradanın kimliyini öyrənə bilməyib, lakin onların əməllərindən dəhşətə gəldiyini deyir.
“Kiminsə bizi həyatımızın sonuna qədər natamam qoyacaq bu qədər narahatedici bir şeyə əl atdığını görmək inanılmaz dərəcədə sarsıdıcıdır”, Amélie Lemieux deyir.
“Onların istədikləri təkcə baxış, bəyənmə və paylaşımlardır və altda şərh yazan insanlar. Şəxsən mən bunu bağışlaya bilmərəm”.
Yeni texnologiya
Bu videoların yaradılması AI proqramının getdikcə daha çox əlçatanlığına görə mümkün olub.
İndi asanlıqla insan təsvirini yaratmaq və canlandırmaq mümkündür, ona kompüter vasitəsilə səsləndiriləcək mətn də verilə bilər.
Əsl qurbanların videolarında bəzi üzlər real insanlardan fərqlənir. Ancaq digərlərinin simaları orijinal fotoşəkillərə əsaslanır.
Bu videoları yaradan insanlar anonim qalmağa çalışırlar. Lakin BBC müəyyən edib ki, onlardan biri Londondan olan Ritul adlı tələbədir.
O, özünün YouTube kanalında, qısa müddətdə izləyici cəlb etmək üçün “hekayət” adlandırdığı videoları yayıb.
“Təkсə AI-nin istifadəsi ilə hekayət videolarını yayaraq minlərlə izləyici əldə etdim”, o, bir videoda deyir.
“47.000-ə çatdım və buna, cəmi üç həftədən az vaxt lazım oldu”.
Ritul şərh barədə sorğumuzu rədd edib və onun TikTok hesabı hazırda artıq silinib.
TikTok videoları diqqəti ani şəkildə cəlb etməlidir, əks halda istifadəçilər başqa məzmunu gözdən keçirməyə davam edəcəklər.
Buna görə Ritul kimi yaradıcılar diqqəti ən ekstremal və nəzərə çarpan videolara yönəldirlər.
James Bulger-in AI ilə yaradılan videoları bir çox dillərdə yayılıb
Ölmüş uşaqların hekayələrindən bəziləri, o cümlədən portuqal, ispan, fransız, alman, italyan və polyak dillərində yayılan çoxsaylı videolarda əks olunub.
BBC 1993-cü ildə Britaniyanın Merseyside şəhərində iki daha böyük uşaq tərəfindən öldürülən ikiyaşlı James Bulger-in AI ilə yaradılmış 170 fərqli TikTok videosunu aşkar edib.
TikTok-un cavabı
İyul ayında bir qəzetə danışan James-in anası – Denise Fergus oğlunun hekayəsinə əsaslanan videoların “son dərəcə iyrənc” olduğunu deyəndən sonra, Britaniyada TikTok fenomeni baş xəbərə çevrildi.
“Bizim platformamızda bu cür narahatedici məzmuna yer yoxdur. Biz bu tip məzmunu aşkar etdikcə silməyə davam edirik”, TikTokdan bildiriblər.
BBC, anonimlik şərti ilə müsahibəyə razılaşan Vyetnamdakı TikTok məzmun moderatoru ilə danışıb. O bildirib ki, videonun silinməsindən iki həftə keçsə də, şirkət hələ də bu cür məzmunun qadağan olunması ilə bağlı ona rəsmi məlumat verməyib.
O, videolara TikTok qaydalarına əsasən icazə verildiyini hesab edir ki, bu, istismar və sui-istifadə qurbanlarına hekayələrini paylaşmağa imkan verir.
Bəs görəsən, TikTok işçiləri arasında şirkətin siyasətinin əslində nədən ibarət olmasına dair çaşqınlıq varmı? Şərh üçün şirkətlə əlaqə saxlayarkən TikTok bu məqama konkret cavab verməyib.
Lakin TikTok aydınlaşdırıb ki, videolara sağ qalanların təcrübəsi kimi icazə vermək barədə moderatorun təklifi yanlış olub. Çünki bunlar sağ qalanların həqiqi təcrübələri deyil, ölən uşaqların kompüter tərəfindən yaradılmış təsvirləridir.
TikTok-da bu cür videoları tapmaq hələ də asandır. Ancaq TikTok hər şeyi aşkar edə bilməyəcəyinə dair müdafiəsiz olduğunu bildirir.
