Tinanggihan ng Anthropic ang kahilingan ng Pentagon na alisin ang mga proteksyon ng AI

Sinabi ng AI firm na Anthropic na hindi ito susunod sa kahilingan ng Pentagon na alisin ang mga guardrail ng kaligtasan mula sa modelo ng Claude nito, matapos magbanta si Defense Secretary Pete Hegseth na kanselahin ang isang kontrata na $ 200m at lagyan ng label ang kumpanya ng isang "panganib sa supply chain." Sinabi ng CEO na si Dario Amodei na ang kumpanya ay nananatiling handa na suportahan ang pambansang seguridad ng US, ngunit may mga pag-iingat lamang.

Sa gitna ng pagtatalo ay ang kahilingan ng militar para sa walang paghihigpit, legal na paggamit ng Claude, kabilang ang potensyal na pag-deploy sa mga autonomous na armas at domestic surveillance. Tumanggi ang Anthropic na payagan ang gayong mga aplikasyon, na nagsasabing ang teknolohiya ay hindi ligtas o sapat na maaasahan para sa mga tungkuling iyon.

Sinusubukan ng standoff ang reputasyon ng Anthropic bilang isa sa mga pinaka-nakatuon sa kaligtasan ng sektor ng AI. Ang pagkawala ng kontrata ng Pentagon (at pormal na itinalaga bilang isang panganib sa supply chain) ay maaaring malubhang limitahan ang kakayahan ng kumpanya na makipagtulungan sa iba pang mga kasosyo sa pagtatanggol ng US.