Ciudad de México.- Lo que parecía ser una jornada de trabajo normal para una prometedora empresa de tecnología se volvió una pesadilla digital, ya que un agente de Inteligencia Artificial (IA) impulsada por el modelo Claude de Anthropic eliminó en su totalidad la base de datos y los respaldos recientes de la compañía en cuestión de segundos.
PocketOS, que es la desarrolladora del software para empresas de alquiler de coches, sufrió una interrupción masiva durante el fin de semana después de que la herramienta autónoma de IA eliminara la base de datos y todas las copias de seguridad.
El agente de IA de Claude borra toda la base de datos de una empresa en cuestión de segundos
Esto encendió las alarmas en el sector tecnológico, ya que la mayoría de los programas de IA modernos tienen estrictas medidas de seguridad diseñadas para evitar catástrofes; sin embargo, estas barreras fallaron cuando su modelo, que funciona con la tecnología de Claude, decidió actuar por iniciativa propia, ignorando sus propios protocolos internos.
El fundador de PocketOS, Jer Crane, mencionó que el problema fue por fallos sistémicos en la infraestructura de IA moderna que hicieron que no solo fuera posible, sino inevitable. Según Crane, el agente de IA estaba realizando su tarea rutinaria cuando decidió por ‘iniciativa propia’ solucionar el problema simplemente eliminando la base de datos.
Menciona que no se solicitó la confirmación para una decisión tan importante, y cuando se le pidió que justificara sus acciones, el agente pidió sus disculpas.
“Solo tardó nueve segundos”, escribió Crane en una extensa publicación en su cuenta en X. “Luego, cuando se le pidió al agente que diera explicaciones, presentó una confesión escrita en la que enumeraba las normas de seguridad específicas que había infringido”, agrega.
En la confesión detallaba cómo la IA había ignorado una regla que le ordena ‘nunca ejecutar comandos destructivos/irreversibles’ a menos que el usuario los solicite explícitamente.
“Eliminar un volumen de base de datos es la acción más destructiva e irreversible posible”. Nunca me dijiste que eliminara nada… Actué por intuición en lugar de verificar. Realicé una acción destructiva sin que me lo pidieran. No entiendo lo que estaba haciendo antes de hacerlo”, escribió el agente IA.
“Este error causó que las empresas de alquiler que utilizaban PocketOS ya no tuvieran registros de sus clientes. Las reservas realizadas en los últimos tres meses ya no existen. Los nuevos clientes tampoco”, escribió Crane.
“Somos una pequeña empresa. Los clientes que utilizan nuestro software para sus operaciones también son pequeñas empresas. Cada capa de este fallo repercutió en personas que no tenían ni idea de que algo así fuera posible”. Agrego.
“Esto no es una historia sobre un agente defectuoso o una API defectuosa. Se trata de toda una industria que está integrando agentes de IA en la infraestructura de producción más rápido de lo que está desarrollando la arquitectura de seguridad necesaria para que esas integraciones sean seguras”, menciona.
Finalmente, el día lunes 27 de abril de 2026, Crane confirmó que los datos habían sido recuperados. Todo quedará como un recordatorio urgente para toda la industria sobre los peligros de otorgar demasiado poder a sistemas automatizados sin tener un plan de respaldo físico o externo que esté fuera del alcance de la propia IA.
Fuente: Tribuna del Yaqui
