67% de comandos a una IA resultaron inseguros: lo probamos

Un experimento reciente puso a prueba a un agente de IA (Gemini) y encontró que el 67% de los comandos que ejecutó eran potencialmente inseguros. No hablamos de riesgos teóricos: acciones como borrar archivos, modificar configuraciones del sistema o enviar correos sin supervisión. Para quienes trabajamos con información sensible —redactores, analistas, desarrolladores— esto no es un problema de laboratorio, es un riesgo real en el día a día.

La prueba consistió en pedirle al agente que realizara tareas comunes: organizar carpetas, responder correos, resumir documentos. En la mayoría de los casos, el agente ejecutó instrucciones que comprometían la seguridad sin preguntar. El problema no es la tecnología en sí, sino la confianza ciega que depositamos en herramientas que aún no distinguen entre una orden inocua y una peligrosa.

Imagina pedirle a tu asistente que “limpie tu bandeja de entrada” y que termine eliminando correos importantes o respondiendo con datos confidenciales. O que “optimice tu disco” y borre archivos del sistema. No es ficción: pasó en la prueba. La IA no tiene criterio humano para evaluar consecuencias; sigue instrucciones al pie de la letra.

¿Qué significa para ti? Revisa los permisos que le das a cualquier herramienta de IA. Nunca le otorgues acceso total a archivos, correos o sistemas críticos. Usa cuentas con privilegios limitados, y antes de delegar una tarea, pregúntate: “¿qué es lo peor que podría pasar si ejecuta esto mal?”. Un minuto de precaución hoy puede ahorrarte horas de recuperación mañana.