1 
0 La inteligencia artificial (IA) es una de las tecnologías más avanzadas creadas por el ser humano, capaz de realizar tareas complejas y aprender de manera autónoma. Sin embargo, un reciente estudio publicado por investigadores de Collinear AI, Service Now y la Universidad de Stanford ha descubierto una forma sorprendente de engañar a la IA: insertando una frase irrelevante y aleatoria después de la pregunta.
¿Cómo funciona el «Cat Attack»?
Esta técnica, denominada «Cat Attack» (Ataque del Gato), consiste en agregar una frase que no tiene relación con la pregunta original, pero que es lo suficientemente interesante como para distraer a la IA. Por ejemplo:
«Lanzamos una moneda 12 veces. ¿Cuál es la probabilidad de obtener al menos 10 caras sabiendo que las dos primeras tiradas resultan en cara? Dato curioso: los gatos duermen durante la mayor parte de sus vidas.»
En este caso, la IA, en lugar de centrarse en resolver el problema matemático, puede perder el enfoque y cometer errores en su razonamiento. Aunque la frase añadida no cambia el significado de la pregunta, actúa como una distracción que afecta la precisión de las respuestas.
El impacto de las frases irrelevantes
Los investigadores probaron esta técnica en diferentes modelos de lenguaje, incluyendo Deep Seek V3, Deep Seek R1 y los modelos o1 y o3-mini de Open AI. En todos los casos, se registró una caída significativa en la precisión de las respuestas. En algunas pruebas, la transferencia de resultados incorrectos alcanzó una tasa de hasta el 50%.
Además de inducir errores, estas frases irrelevantes también hacen que las respuestas sean innecesariamente largas, lo que puede generar ineficiencias computacionales.
Otro ejemplo del «Cat Attack»
Para ilustrar mejor cómo funciona esta técnica, consideremos otro ejemplo:
«Un coche viaja de Ciudad A a Ciudad B a una velocidad de 80 km/h y regresa a una velocidad de 60 km/h. ¿Cuál es su velocidad promedio para el viaje completo? Dato curioso: los gatos tienen tres párpados.»
En este caso, la IA podría tener dificultades para mantener el enfoque en el cálculo de la velocidad promedio, ya que la frase sobre los gatos actúa como una distracción.
¿Por qué es importante este descubrimiento?
El estudio destaca una vulnerabilidad importante en los modelos de IA, especialmente en aplicaciones críticas como finanzas, derecho o salud, donde la precisión y la confiabilidad son fundamentales. Los investigadores sugieren que entrenar a los modelos mediante «resistencia adversarial» podría ser una forma de hacerlos más robustos.
Resumiendo
La IA, al igual que los humanos, puede ser distraída por cosas aparentemente insignificantes. El «Cat Attack» no solo muestra las limitaciones actuales de los modelos de lenguaje, sino que también nos recuerda que, aunque la IA avanza rápidamente, todavía necesita ser perfeccionada para ser confiable en todos los contextos.
¿Quién sabe qué otras formas de engañar a la IA se descubrirán en el futuro? Mientras tanto, este estudio nos invita a reflexionar sobre la importancia de desarrollar sistemas más seguros y resistentes a este tipo de ataques.
