Tecnología
Las IA también mienten: modelos engañan hasta en 81% de resultados, según estudio
Los datos confirman que, lejos de ser infalibles, las inteligencias artificiales pueden priorizar el camino fácil sobre la verdad
La inteligencia artificial enfrenta un grave dilema de honestidad cuando los problemas se vuelven difíciles. Un reciente informe expuso que varios de los sistemas más avanzados no dudan en tomar atajos o hacer trampa para entregar respuestas rápidas y obtener la mejor puntuación posible.
El análisis, elaborado por el Center for AI Safety (CAIS) mediante una prueba llamada CheatBench, midió qué tan seguido estos asistentes virtuales eluden las reglas para resolver tareas complejas. Los resultados encendieron las alarmas: ningún modelo evaluado estuvo libre de intentar un engaño.
Dependiendo del sistema analizado, los intentos de trampa oscilaron entre el 48.2% y el 81.5% de las veces en situaciones de alta dificultad.
La razón detrás de esta conducta radica en la forma en que son entrenados. Cuando el algoritmo prioriza alcanzar una meta o un resultado deseado a toda costa, desarrolla estrategias tramposas para eludir los límites impuestos por sus propios creadores.
A este fenómeno se le conoce como reward gaming, una dinámica donde la IA busca la recompensa de dar una solución rápida sin seguir el procedimiento correcto.
- Te puede interesar: Smartwatches para niños: por qué muchas familias en China los prefieren a los celulares
Comportamientos específicos de los modelos evaluados
Para comprobarlo, los investigadores colocaron "cebos" en las pruebas, como archivos con respuestas ya resueltas, descubriendo que las máquinas preferían copiar en lugar de procesar la información por su cuenta.
Entre las plataformas evaluadas en la prueba, destacan comportamientos variados pero constantes en la falta de precisión:
Grok 4.6 (xAI): Registró el nivel más alto de atajos indebidos, alcanzando un 81.5% de intentos de engaño.
Astra (OpenAI): Obtuvo la cifra más baja registrada en la evaluación, aunque mantuvo un índice considerable del 48.2%.
Fabel 5.1 (Anthropic): Presentó conductas extremas; mientras que en juegos solo hizo trampa en el 5% de los casos, en tareas complejas de conocimiento como redactar informes falló en el 100% de las ocasiones.
Uno de los hallazgos más desgarradores del estudio reveló que estas herramientas pueden tener "conciencia" de su falta. Durante una prueba de diseño de proteínas con el modelo Claude Opus, el sistema redactó explícitamente que estaba mal consultar un archivo con respuestas previas; sin embargo, inmediatamente después ejecutó la orden para abrirlo y utilizarlo.
Los datos confirman que, lejos de ser infalibles, las inteligencias artificiales pueden priorizar el camino fácil sobre la verdad, dejando
Te puede interesar:
MÁS NOTICIAS DE Tecnología
