Humigit-kumulang 200 Discord account ang naibalik kasunod ng isang bug na humantong sa mga gumagamit na permanenteng nasuspinde mula sa serbisyo ng pagmemensahe dahil sa mga imahe na nakabatay sa grid na maling natukoy na naglalaman ng nakakapinsalang materyal. Iniulat noong katapusan ng linggo na ang isang kahinaan sa mga tool sa pagmo-moderate ng AI ng Discord ay nangangahulugang natuklasan ng serbisyo ang anumang mga imahe ng square grid na mali na naglalaman ng CSAM.
"Ang aming mga system ay nag-flag ng nilalaman sa pamamagitan ng pagtutugma nito laban sa kilalang nakakapinsalang materyal. Ang ganitong uri ng pagtutugma ng pagkakatulad ay maaaring makabuo ng mga maling positibo, kaya naman ang isang miyembro ng aming koponan ng Trust & Safety ay palaging sinusuri ang na-flag na nilalaman bago ang anumang aksyon ay kinuha, " paliwanag ng Discord sa isang thread sa Twitter / X. Sinabi nito na ang pangunahing pokus ng naka-flag na nilalaman ay upang i-pause ang mga pag-upload, sa halip na ipagbawal ang isang gumagamit nang direkta.
Ang bug ang sanhi ng mga pagbabawal, at ang mga account na apektado ng bug ay sinuri at naibalik. Inihayag ng Discord na higit sa 8,000 mga account ang naapektuhan ng bug mula noong Mayo ng taong ito, ngunit lahat ay hindi na-ban.
"Alam namin na hindi iyon isang kasiya-siyang paliwanag kung ito ang iyong salaysay, at dapat ay nahuli namin ito nang mas maaga. Nagtatrabaho kami sa mas mahusay na mga pag-iingat upang hindi ito tahimik na mangyari muli, at mas malawak, sa pagtiyak na ang aming mga sistema ng kaligtasan ay hindi parusahan ang mga taong walang ginawang mali, " isinulat ng Discord.
Kaya, kung naghihintay ka upang ipakita ang iyong imbentaryo ng Minecraft na puno ng mga diamante, ngunit hindi mo nais na ma-ban ng bug, ngayon tila ang mga tampok ng pagkilala sa pattern ng Discord ay na-fine-tune upang maiwasan ang mga maling pagbabawal.
