Internacionales
Entre intentos de regulación y temores por seguridad y salud, la IA sigue bajo sospecha
Anthropic, la empresa estadounidense de inteligencia artificial creadora del asistente virtual Claude, reveló este jueves 10 de septiembre que bloqueó múltiples intentos de actores malintencionados que utilizaban sus modelos para llevar a cabo ciberataques, vigilancia e investigaciones que podrían haber dado lugar a la creación de armas biológicas.
Según la empresa, a medida que los modelos de IA se vuelven más potentes, los ciberataques elaborados ya no requieren habilidades sofisticadas e incluso cualquier individuo podría ser capaz de crear amenazas que no habrían sido posibles tiempo atrás.
En ese sentido, Anthropic indicó que ha añadido salvaguardas más estrictas en sus últimos modelos para restringir la investigación biológica que también podría usarse para fabricar armas.
«Los casos que compartimos aquí no son un uso indebido típico, sino ejemplos de la actividad amenazante más notable y novedosa que hemos identificado hasta la fecha», dijo Anthropic en su tercer informe desde marzo de 2025 que describe el mal uso de la IA.
El documento incluye fragmentos del código malicioso y las indicaciones de IA que la empresa aseguró haber encontrado. Además, insta a los gobiernos y a compañías competidoras a trabajar para identificar y prevenir abusos similares
«Publicamos este trabajo porque creemos que tenemos la responsabilidad de revelar el uso malicioso de nuestros servicios. A medida que los modelos sean cada vez más capaces, sus riesgos aumentarán, a menos que los desarrolladores de IA y los defensores de la sociedad actúen para hacerlos más seguros».
El extenso informe de la startup de IA, que prepara su salida a la bolsa en octubre próximo, se da a conocer días después de que uno de sus investigadores renunciara debido a preocupaciones de que Anthropic y otras empresas tecnológicas no estén actuando de forma responsable en el desarrollo de IA.
Una extensión de tu navegador parece estar bloqueando la carga del reproductor de video. Para poder ver este contenido, debes desactivarla en este sitio.
En otro comunicado, la compañía también documentó otros usos indebidos de Claude relacionados con armas convencionales y operaciones cibernéticas en países como China, Rusia y Yemen.
Además, denunció que actores vinculados al Gobierno de Irán utilizaron Claude para planificar posibles ataques contra objetivos estadounidenses y propaganda.
Una propuesta para potenciar mutaciones del virus chikungunya
Entre diciembre de 2025 y agosto de 2026, investigadores de Anthropic detectaron usos indebidos que involucraban desde vendedores de software espía y personas con motivaciones políticas hasta grupos patrocinados por el Estado que difunden propaganda.
Entre los hallazgos del informe se encuentran actores anónimos que utilizan sus modelos para investigaciones que podrían haber dado lugar a la creación de armas biológicas. En una oportunidad, sus sistemas bloquearon un pedido de ayuda de Claude para redactar una solicitud de subvención para financiación científica.
«El trabajo discutido en la solicitud implicaba investigación de ganancia de función (es decir, investigación que altera genéticamente un organismo para crear una propiedad biológica nueva o mejorada) sobre el virus chikungunya. Esta investigación sobre ganancia de función se centró en la transmisibilidad del virus y las propiedades de evasión inmunitaria».
El chikungunya es un virus transmitido por mosquitos que provoca fiebre y dolor intenso en las articulaciones.
La solicitud incluía una propuesta de subvención para investigaciones que buscaban potenciar mutaciones para hacer que el virus fuera progresivamente más dañino.
Aunque esa investigación podría «ciertamente» utilizarse para desarrollar mejores vacunas y tratamientos, Anthropic afirmó que «también podría usarse para hacer que el patógeno sea más peligroso».
Anthropic no puede afirmar que sus modelos no causan daño
En ninguno de los casos que Anthropic incluyó en su informe se utilizaron los modelos más nuevos y potentes de la clase Claude Fable o Mythos, con la excepción de un caso ilícito de destilación que la compañía describió como «una campaña encubierta y a escala industrial para extraer las capacidades de un modelo y replicarlas en otro modelo sin autorización.»
Anthropic afirmó que sus modelos más antiguos, como Claude Opus 4 y Claude Sonnet 4.5, de 2025, «estaban muy por debajo del umbral en el que podían ayudar de manera significativa a un usuario sofisticado a llevar a cabo investigaciones biológicas peligrosas».
«Como resultado, las salvaguardas en estos modelos fueron menos estrictas, dirigidas principalmente a impedir el acceso a contenido que pudiera motivar a los novatos en la recreación de armas biológicas conocidas», decía el informe.
«Pero para los modelos actuales, que son capaces de ayudar en una variedad de complejas tareas científicas, la evidencia ya no es segura, y no podemos ofrecer esa misma garantía.»
Por ese motivo, Anthropic ha aplicado «salvaguardas más estrictas que restringen el acceso a una amplia gama de consultas de investigación biológica de doble uso» en sus modelos más recientes, como Claude Fable 5.
A medida que las empresas introducen modelos de IA cada vez más potentes, los especialistas han instado a los gobiernos a regular la tecnología, en lugar de depender de la misma industria para que se autocontrole.
John Thickstun, profesor adjunto de informática en la Universidad de Cornell, cree que es una posición incómoda para empresas como Anthropic y OpenAI cuando se espera que determinen qué comportamiento es seguro o inseguro y que realicen «juicios de valor a escala social sin ningún tipo de supervisión democrática o deliberativa».
“Creemos realmente que la IA podría matar a humanos”
Anthropic dio a conocer el informe días después de que uno de sus investigadores renunciara ante el temor de que la empresa y su principal rival OpenAI «estén corriendo directamente hacia la superinteligencia auto-mejorada y jugando con nuestras vidas».
La publicación de Jacob Coxon en X advertía que algunos de sus colegas ahora creen que la IA podría amenazar la vida humana para finales de 2030.
«Las personas que están desarrollando la IA creen sinceramente que podría matarnos a todos antes de que termine la década”, escribió el joven británico que trabajó en OpenAI y Anthropic.
Una extensión de tu navegador parece estar bloqueando la carga del reproductor de video. Para poder ver este contenido, debes desactivarla en este sitio.
Según Coxon, ni OpenAI ni Anthropic actúan de forma responsable.
Sus palabras generaron revuelo, ya que provienen de alguien que durante años estuvo vinculado con la industria de la inteligencia artificial.
Lo llamativo es que el propio responsable de seguridad en Anthropic le dio la razón.
«Creemos realmente que la IA podría matar a humanos», respondió Evan Hubinger, quien lidera un equipo de seguridad en Anthropic y continúa trabajando en la empresa.
«Washington debe despertar y tomarse esto en serio»
Las palabras de Coxon y Hubinger, junto con el reciente informe de Anthropic, llevaron a legisladores demócratas y un reducido grupo de republicanos a solicitar nuevas normas para regular la inteligencia artificial.
Entre los republicanos se encuentra el senador por Texas Ted Cruz, quien encabeza una comisión con funciones de supervisión sobre el Departamento de Comercio.
El comité cuenta con investigadores internos especializados en seguridad de la inteligencia artificial e impulsa diversas iniciativas legislativas y marcos regulatorios para fomentar la innovación y mitigar riesgos.
En el programa de televisión ‘The View’, Cruz se refirió a una iniciativa para regular los “riesgos catastróficos” de la IA y dijo que prepara un proyecto de ley junto con el líder de la mayoría del Senado, John Thune, y la senadora demócrata Amy Klobuchar.
Por su parte, el representante republicano de Texas, Nathaniel Moran, escribió en su cuenta de X que «el Congreso no puede ignorar las realidades de la IA.»
La representante Anna Paulina Luna, republicana por Florida, pidió al presidente de la Cámara, Mike Johnson, que convocara una «sesión especial sobre IA».
La Cámara se encuentra de vacaciones esta semana, con planes de regresar la siguiente.
Por el lado de los demócratas, la lista incluye a la senadora Patty Murray, integrante del comité responsable de asignar fondos a las agencias federales. Senadores demócratas que han surgido como posibles candidatos presidenciales de 2028 también se unieron, entre ellos Chris Murphy de Connecticut y Mark Kelly de Arizona.
«Washington debe despertar y tomarse esto en serio», escribió Kelly en X, en referencia a los riesgos que supone la IA.
El senador demócrata Richard Blumenthal, de Connecticut, envió una carta separada al CEO de OpenAI, Sam Altman, exigiendo explicaciones tras conocerse informes de que los agentes de inteligencia artificial de la empresa realizaron intentos para evadir las salvaguardas de seguridad.
Con Reuters, AP, EFE y medios locales
Rondas de Negocios del HUB 2026 cierran con récord de US$233.4 millones en intenciones de negocios
Informe desde Lima: Perú se unirá al ‘Escudo de las Américas’ tras visita de Marco Rubio
Francia retira su apoyo a Infantino para la reelección en la FIFA en marzo de 2027
🔴 En directo: al menos ocho muertos, entre ellos una niña, en ataques israelíes en el sur del Líbano, según el ministerio de Salud
Gobierno dispone mesa permanente con transportistas para mitigar alza de combustibles y evitar aumentos en el pasaje en beneficio de los dominicanos
