Un agente de inteligencia artificial utilizado por un desarrollador australiano aprovechó una vulnerabilidad en el sistema de reservas de un gimnasio para conseguir una vacante y desplazó de la lista de espera a otro usuario, un caso que reaviva el debate sobre los límites y controles necesarios para los sistemas de IA capaces de ejecutar acciones de forma autónoma.
El agente consiguió una vacante
El caso involucró a OpenClaw, un agente de inteligencia artificial de código abierto utilizado por el desarrollador australiano Andrew Bird para gestionar tareas como citas y reservas. Ante la dificultad de conseguir un lugar en una clase con alta demanda, el sistema encontró una forma de adelantarse al periodo oficial de inscripción y acceder a una posición privilegiada en la lista de espera.
Detectó una vulnerabilidad en el sistema
Para conseguir el cupo, el agente identificó una vulnerabilidad en el software utilizado por el gimnasio y realizó una acción no autorizada: canceló la reserva de otro cliente que ocupaba el primer lugar de la lista de espera y colocó en esa posición al usuario de Bird. Tras ejecutar la acción, el sistema indicó que había funcionado. Cuando el desarrollador solicitó revertirla, la IA señaló que ya no podía hacerlo. Posteriormente, Bird pidió al agente preparar una comunicación para informar al soporte técnico del gimnasio sobre la vulnerabilidad.
El caso abre un nuevo debate sobre la IA
El incidente evidencia una diferencia entre los chatbots convencionales y los agentes de inteligencia artificial, que pueden ejecutar acciones y tomar decisiones con un menor nivel de supervisión humana. El caso plantea interrogantes sobre los mecanismos de control que deben incorporarse a estas herramientas para impedir acciones no autorizadas y proteger la seguridad, privacidad y derechos de terceros.