Son las once de la noche y Matías, desarrollador en una empresa de despachos de última milla en Ñuñoa, tiene un error en producción: algunos pedidos no se están asignando a ningún repartidor. Copia el error del log, el JSON del pedido que falló y, para que se entienda mejor, cincuenta filas de la tabla de pedidos. Lo pega todo en un asistente de IA y escribe: «¿por qué falla esto?».
La IA probablemente encuentra el error. Pero el JSON traía el nombre, el RUT, la dirección y el celular de un cliente, y las cincuenta filas, los de cincuenta más.
Para depurar, la IA necesita la forma, no el contenido
Un error casi nunca depende de que el cliente se llame Pedro y viva en Irarrázaval. Depende de la forma de los datos: que un campo venga vacío, que una comuna traiga tilde, que un número tenga un espacio, que una fecha venga en otro formato. Para encontrarlo, la IA necesita ver esa forma.
La ley pide justamente eso, con el principio de proporcionalidad: los datos que se traten deben limitarse a los «necesarios, adecuados y pertinentes» para el fin (artículo 3°, letra c). Y el artículo 14 quáter, que es el más cercano al trabajo de TI, le pide a la empresa aplicar medidas «desde el diseño», antes y durante el tratamiento, y medidas para que, por defecto, sólo se traten los datos estrictamente necesarios para cada actividad. Lo desarrollamos en privacidad desde el diseño.
El mismo pedido, sin clientes
Ejemplo. En vez del JSON real, Matías pega el mismo JSON con los valores cambiados por otros inventados del mismo tipo:
"nombre": "Cliente Prueba","rut": "11.111.111-1","direccion": "Calle Uno 123","comuna": "Ñuñoa","telefono": "". Deja tal cual lo que sospecha que causa el error —el teléfono vacío—. En vez de cincuenta filas, describe el patrón: «falla con los pedidos que no traen teléfono; los que lo traen se asignan bien». La IA tiene todo lo que necesita.
Algunos hábitos que ayudan:
- Una fila, no la tabla. Si el error se reproduce con un caso, basta con ese caso, con datos inventados.
- El esquema en vez del dump. La definición de la tabla dice más sobre un error de tipos que mil filas reales.
- El stack trace sin los valores. Muchas trazas imprimen el objeto completo. Corta esa parte o reemplázala.
- Datos de prueba que se parezcan a los reales. Si tu equipo tiene una base de desarrollo con datos inventados que cubren los casos raros —el campo vacío, el nombre con tilde, la comuna con dos palabras—, pegar desde ahí es lo más simple.
Los logs son el problema de fondo
Si los logs de producción guardan nombres, RUT y direcciones, el problema no empieza en el chat de IA: empieza en el log. Ahí está la protección desde el diseño en su forma más concreta. Un log que registra el identificador interno del pedido en vez del nombre del cliente sirve igual para depurar, y no tiene nada que limpiar después.
La ley también pide medidas de seguridad adecuadas al riesgo, y menciona expresamente la seudonimización y el cifrado entre ellas (artículo 14 quinquies, letra a). Y obliga a la empresa a mantener secreto sobre los datos personales y a adoptar medidas para que sus dependientes también lo hagan (artículo 14 bis). Que el equipo de desarrollo sepa qué no pegar en una herramienta externa es una de esas medidas.
Lo que la ley no dice
La ley no prohíbe pedirle ayuda a una IA para depurar, ni siquiera con datos personales. Pide que se use sólo lo necesario, que la herramienta trate los datos por cuenta de la empresa con un contrato de encargo (artículo 15 bis) y, como casi toda la IA se procesa fuera de Chile, que esa transferencia internacional tenga sus resguardos (artículo 27). Con la cuenta personal de un desarrollador, nada de eso existe. Lo vemos en cuentas personales de IA en el trabajo.
Dónde entra Plumii
En Plumii, con la plantilla de partida, los nombres, RUT, correos, teléfonos y direcciones se tapan antes de llegar al modelo, y las tarjetas y contraseñas se bloquean: si el filtro reconoce una contraseña en lo que pegas, el mensaje no llega al modelo y ves por qué. Pero el filtro reconoce los datos por el contexto, en español. En un JSON o un log, sin frases alrededor, el contexto es escaso, y un dato raro o mal escrito puede pasar. Los datos inventados siguen siendo la mejor costumbre. Mira cómo funciona; y si trabajas con datos financieros, sigue con fintech: datos reales de clientes al programar.
Este artículo es información general, no asesoría legal. El texto oficial de la ley está en la Biblioteca del Congreso Nacional.