La empresa de IA Anthropic ha dicho que no accederá a la exigencia del Pentágono de eliminar las salvaguardias de seguridad de su modelo Claude, después de que el Secretario de Defensa Pete Hegseth amenazara con cancelar un contrato de 200 millones de dólares y tachar a la empresa de "riesgo para la cadena de suministro". El director general, Dario Amodei, declaró que la empresa sigue dispuesta a apoyar la seguridad nacional estadounidense, pero sólo con salvaguardias.
En el centro de la disputa está la petición del ejército de un uso legal y sin restricciones de Claude, incluido su posible despliegue en armas autónomas y vigilancia doméstica. Anthropic se ha negado a permitir tales aplicaciones, argumentando que la tecnología no es lo bastante segura o fiable para esas funciones.
El enfrentamiento pone a prueba la reputación de Anthropic como uno de los actores del sector de la IA más centrados en la seguridad. Perder el contrato del Pentágono (y ser designada formalmente como riesgo para la cadena de suministro) podría limitar gravemente la capacidad de la empresa para trabajar con otros socios de defensa estadounidenses...
