Tecnología
Anthropic actualiza su política de uso para prohibir comportamientos abusivos en Claude
La nueva política de Anthropic, que entrará en vigor en 2026, busca prohibir abusos hacia sus modelos de inteligencia artificial.
Anthropic ha anunciado una actualización de su política de uso, que entrará en vigor el 12 de noviembre de 2026, la cual tiene como objetivo prohibir comportamientos abusivos y crueles hacia sus modelos de inteligencia artificial.
La medida afectará a todos los usuarios de Claude en las plataformas de la compañía, permitiendo al chatbot finalizar conversaciones en casos extremos.
La empresa, ubicada en San Francisco, afirmó que esta restricción no alterará las interacciones cotidianas ni las frustraciones normales que los usuarios pueden experimentar al utilizar el servicio. Además, señaló que muchas de las modificaciones de la política buscan formalizar reglas que ya se aplicaban de manera práctica.
Cambios en la Política de Uso
La revisión abarca diversas cuestiones, incluyendo campañas engañosas, interferencia en procesos electorales, y usos relacionados con armas, vigilancia y aplicaciones de alto riesgo en salud y finanzas.
Anthropic precisó que los cambios responden a la evolución de las capacidades de sus modelos y a nuevos patrones de uso indebido detectados durante el último año, con el propósito de ofrecer ejemplos más claros sobre la aplicación de sus normas en las tareas autónomas de Claude.
Una de las inclusiones más destacadas en la actualización es la prohibición del abuso persistente, que se dirige a casos en los que un usuario actúa de manera cruel y reiterada sin un propósito claro.
Esta regla no se aplicará a las críticas normales, las pruebas de seguridad o la creación de obras que toquen temas delicados, según indicó la compañía.
Los modelos Claude Opus 4 y Claudia 4.1 tienen la capacidad de cerrar conversaciones después de múltiples intentos fallidos de redirigir el diálogo. Esta función se conecta con la normativa sobre el bienestar de los modelos de inteligencia artificial.
Si un usuario sostiene una conducta abusiva constante, el modelo puede finalizar la conversación como último recurso. No obstante, una vez que se cierra un chat, el usuario no podrá enviar nuevos mensajes en esa conversación, aunque podrá iniciar un nuevo hilo o editar mensajes anteriores.
Prohibiciones Específicas
La política también encapsula la prohibición de participar en campañas engañosas y en actividades artificiales. Se han reformulado secciones relacionadas con la interferencia electoral, restringiendo el uso de Claude para engañar a votantes o alterar procesos electorales, aunque se han permitido usos legítimos de segmentación personalizada para organizaciones sin fines de lucro.
Asimismo, las nuevas reglas prohíben el desarrollo de software destinado al control de armas y al rastreo de personas sin su consentimiento.
En situaciones donde el uso de productos de Anthropic pueda impactar en la salud o derechos de las personas, se requiere la supervisión de un profesional calificado que pueda modificar las recomendaciones del modelo, garantizando así un uso ético y responsable de la inteligencia artificial.
La política, además, ha incorporado controles específicos para los casos en los que Claude esté conectado a equipos que realicen acciones físicas autónomas, suprimiendo el riesgo de que causen lesiones. Estas medidas están alineadas con los estándares de hardware previamente establecidos por la empresa.
