Anthropic bloquea intentos de usar su IA para armas biológicas

Anthropic, la empresa californiana detrás del modelo Claude, ha anunciado que ha detenido varios intentos de emplear su inteligencia artificial en investigaciones que podrían servir para crear armas biológicas. En un informe publicado este jueves, la compañía indica que detectó y bloqueó usos indebidos de su tecnología durante el presente año, sin poder confirmar si los proyectos tenían fines legítimos o maliciosos.

Esta acción te afecta directamente porque la IA está cada vez más presente en herramientas que usamos a diario, y su mal uso podría poner en riesgo la salud global. Al impedir que sus modelos sirvan para diseñar patógenos peligrosos, Anthropic busca evitar que la tecnología se convierta en un arma contra la humanidad.

El documento, de 154 páginas, también revela que actores vinculados al gobierno iraní intentaron acceder a Claude para apoyar operaciones de vigilancia y planificar posibles ataques contra objetivos estadounidenses, usando VPN y números de teléfono extranjeros para eludir las restricciones de acceso. Además, la empresa menciona casos detectados en los últimos ocho meses en China, Rusia y Yemen, donde sus modelos fueron empleados de forma indebida.

Si te preocupa el impacto de la IA, mantente atento a las políticas de uso de las plataformas que empleas y revisa sus mecanismos de detección. Anthropic asegura que seguirá mejorando sus sistemas para identificar y bloquear actividades de alto riesgo, mientras la industria debate la necesidad de frenar el ritmo de desarrollo de modelos avanzados.