Ang mga awtoridad ng Espanya ay naglabas ng babala matapos gamitin ng mga scammer ang mga video na binuo ng AI sa TikTok upang gayahin si Princess Leonor, ang 20-taong-gulang na tagapagmana ng trono ng Espanya, sa isang online na pandaraya na nagta-target sa mga gumagamit ng social media.
Ang mga pekeng account ay nagpapakita ng makatotohanang hitsura ng mga video ng "Leonor" na nangangako ng libu-libong dolyar na tulong pinansyal kapalit ng paunang bayad na ilang daang dolyar. Ang mga biktima na nagbabayad ay hinihiling ng karagdagang pagbabayad bago mawala ang mga scammer, ayon sa Princess of Asturias Foundation.
Nakuha ang imahe ng isang mapanlinlang na video sa TikTok na nilikha gamit ang AI, na nagsasabing nagtatampok si Princess Leonor
Binibigyang-diin ng pundasyon na hindi ito o si Princess Leonor ay nagpapatakbo ng anumang mga programa na nag-aalok ng pera, gawad, o personal na tulong pinansyal, na tinawag ang lahat ng mga naturang mensahe na "ganap na mali." Natuklasan ng isang pagsisiyasat ng El País (sa pamamagitan ng The Guardian) na ang mga numero ng telepono na naka-link sa scam ay nasubaybayan sa Dominican Republic, na may ilang mga video na nakakaakit ng higit sa isang milyong mga panonood.
Sa kabila ng mga patakaran ng TikTok na nagbabawal sa pagpapanggap at mapanlinlang na aktibidad, iniulat ng pahayagan na ang paulit-ulit na mga reklamo tungkol sa mga pekeng Leonor account ay ibinasura, at sinabi ng platform na ang nilalaman ay hindi lumalabag sa mga patakaran nito. Itinatampok nito ang lumalaking mga alalahanin sa mga scam sa pagpapanggap na hinihimok ng AI, dahil ang lalong makatotohanang mga pekeng video ay ginagawang mas mahirap para sa mga gumagamit na makilala ang mga opisyal na numero mula sa sopistikadong pandaraya.
