Ipinagkait ng Anthropic si Claude Mythos dahil sa takot sa pag-hack
Ang bagong modelo ng AI ay naglalantad ng mga kritikal na kahinaan sa software.
Nagpasya ang Anthropic na huwag ilabas ang pinakabagong modelo ng artipisyal na katalinuhan, Claude Mythos, sa publiko matapos itong magpakita ng isang walang uliran na kakayahan upang alisan ng takip ang mga kahinaan sa software na maaaring samantalahin para sa malakihang cyberattacks.
Tulad ng iniulat ng The Guardian, sinabi ng kumpanya na nakabase sa San Francisco na natukoy na ng modelo ang libu-libong mga kahinaan sa malawakang ginagamit na mga application, kabilang ang ilan na nagmula pa noong mga dekada at dati nang hindi natuklasan ng mga developer. Nag-aalala tungkol sa potensyal na maling paggamit ng naturang mga kakayahan, sa halip ay nililimitahan ng Anthropic ang pag-access sa mga eksperto sa cybersecurity at piling mga kasosyo.
Sa pamamagitan ng isang inisyatiba na kilala bilang "Glasswing," ang kumpanya ay nakikipagtulungan sa mga pangunahing kumpanya ng teknolohiya at seguridad kabilang ang Amazon, Apple, Microsoft, Cisco, CrowdStrike at Palo Alto Networks, pati na rin ang Linux Foundation. Ang layunin ay gamitin ang modelo sa pagtatanggol, na tumutulong na makilala at i-patch ang mga kahinaan bago sila samantalahin ng mga malisyosong aktor.
