IA sin revisión: cuando el código generado expone una base de datos

Un caso real, con una lección que no depende de la herramienta: según reportó MyBroadband, el CEO de una cadena de cafés en Sudáfrica, con 132 tiendas, creó con IA un panel interno de gestión. Los datos sensibles de la empresa quedaron a la vista de cualquiera.

Qué se reportó

Según MyBroadband, citado por International Cyber Digest, los datos sensibles quedaron guardados en el código fuente de la pantalla de inicio de sesión. Cualquiera que mirara ese código podía leerlos. La URL del panel se descubrió a partir de fotos que empleados habían subido a Instagram.

No hizo falta un ataque sofisticado. Alcanzó con mirar el código de una página pública.

El problema no es la IA

Usar IA para escribir código no es el error. Es una herramienta más, y puede acelerar mucho el trabajo. El error es publicar lo que genera sin revisarlo.

Hay tres cosas que un profesional verifica antes de salir a producción, y que una herramienta sola suele omitir:

1. Qué viaja al navegador. Ningún dato sensible debe quedar en el HTML o en el JavaScript que baja el usuario. Si el dato tiene que existir, vive en el servidor, detrás de una sesión.
2. Quién puede ver qué. Un panel de gestión necesita permisos: qué rol ve las ventas, cuál ve los datos de empleados y quién puede tocar qué.
3. Qué se indexa y qué se archiva. Una página sin protección puede terminar en buscadores y en archivos públicos. Lo que se publica con error, se queda.

Qué te conviene preguntarle a quien te desarrolla

Esto aplica a un estudio, a un freelancer o a tu propio equipo:

• ¿Quién revisó el código antes de publicarlo?
• ¿Qué datos viajan al navegador del usuario?
• ¿Cómo se controla el acceso al panel de administración?
• ¿Hay pruebas de seguridad antes de cada publicación?

Si la respuesta es un silencio o un “la IA lo hizo bien”, es señal de alerta.

Entonces, ¿qué hacemos con la IA?

La usamos todos los días, con criterio. Nos sirve para prototipar, para escribir pruebas, para explorar alternativas y para ahorrar tiempo en lo repetitivo. Pero ningún cambio llega a producción sin que alguien lo lea, lo entienda y lo pruebe. Esa responsabilidad no se delega en una herramienta.

Esto también se aplica a un sitio como el nuestro. El pipeline de verificación corre linters, pruebas y revisiones antes de cada publicación, y eso es lo que evita que un error llegue a tus clientes.

Para cerrar

La IA no reemplaza el criterio de quien construye un sistema. Lo que hizo este caso fue exponer lo que pasa cuando se confía ciegamente en lo que una herramienta produce. Usala para ir más rápido, pero no para saltearte la revisión.

Si querés conversar sobre tu proyecto, escribinos. Hablás directo con quien lo construye.