Ang Malaysia at Indonesia ang naging unang bansa na hinarang ang Grok, ang artificial intelligence chatbot na binuo ng kumpanya ni Elon Musk na xAI, matapos sabihin ng mga awtoridad na ginagamit ito upang makabuo ng mga sekswal at hindi pinagkasunduang mga imahe.
Sinabi ng mga regulator sa dalawang bansa na nabigo ang mga pangangalaga ng Grok na pigilan ang paglikha at pagkalat ng manipuladong pornograpikong nilalaman, kabilang ang mga imahe na kinasasangkutan ng mga kababaihan at menor de edad. Ang Indonesia ay unang lumipat sa katapusan ng linggo, na sinundan ng Malaysia, na binabanggit ang mga panganib sa privacy, dignidad at kaligtasan ng publiko kapag ang mga tunay na larawan ay binago nang walang pahintulot.
Tinawag ng Ministro ng Komunikasyon ng Indonesia na si Meutya Hafid ang mga nonconsensual sexual deepfakes na isang malubhang paglabag sa karapatang pantao, na nagbabala na ang maling paggamit ng AI ay lumampas sa kasalukuyang mga proteksyon. Sinabi ng mga opisyal na ipinakita ng mga maagang tseke na madaling magamit si Grok upang makagawa ng malinaw na mga imahe ng mga ordinaryong mamamayan.
Itinuro ng awtoridad ng komunikasyon ng Malaysia ang paulit-ulit na maling paggamit ng chatbot at sinabing naglabas na ito ng mga abiso sa X Corp. at xAI na humihiling ng mas mahigpit na kontrol. Ang pag-access ay mananatiling naka-block, sinabi nito, hanggang sa epektibong mga pangangalaga ay inilagay sa lugar upang maiwasan ang karagdagang pang-aabuso.
Ang pagsugpo sa Timog-silangang Asya ay nagdaragdag sa lumalaking presyon sa ibang lugar. Binuksan ng Britain ang isang pagsisiyasat sa Grok at gumagalaw upang ipagbawal ang tinatawag na "nudification apps," habang ang mga regulator sa Europa at India ay nanonood din nang mabuti, na ginagawang isang pandaigdigang kaso ng pagsubok ang chatbot ni Musk para sa kung gaano kalayo ang mga pamahalaan ay pupunta sa pulisya ng nilalaman na binuo ng AI.
