Usar asistentes de IA de forma segura

1. La idea central

Todo lo que se escribe, se pega o se sube a una herramienta de IA —texto, archivos, capturas, código— se envía a un servicio externo para ser procesado. Aunque la herramienta sea muy útil, hay que tratarla como a un tercero.

2. Tipos de herramientas y qué riesgo tiene cada una

3. Cuenta, plan y herramientas aprobadas

• Usar solo herramientas aprobadas por la empresa y, siempre que se pueda, con la cuenta corporativa. Evitar las cuentas personales para trabajo: no hay control de la empresa sobre esos datos.
• No instalar extensiones, complementos o aplicaciones de IA desconocidas: pueden leer lo que se ve en pantalla.
• Revisar la configuración de privacidad de cada herramienta: si guarda historial, si usa las conversaciones para mejorar o entrenar modelos y si se puede desactivar. Las condiciones cambian según el proveedor y el plan; verificarlas con la política vigente.
• Las versiones gratuitas suelen tener condiciones de privacidad distintas a las empresariales. Ante la duda, tratar todo lo que se ingrese como no confidencial.
• Consultar con Sistemas antes de incorporar una herramienta nueva o conectarla a correo, archivos o sistemas de la empresa.

4. Qué no debe compartirse con ninguna IA

5. Cómo compartir lo necesario sin exponer lo sensible

• Reducir: pegar solo el fragmento relevante (unas líneas del error, no todo el archivo ni toda la planilla).
• Reemplazar nombres, CUIT, importes y códigos reales por valores ficticios que conserven la estructura (por ejemplo Cliente A, 20-00000000-0).
• Usar datos de ejemplo o generados para la ocasión, nunca una copia de producción.
• Describir en lugar de adjuntar: a veces alcanza con explicar la estructura de una tabla o de un documento.

6. Trabajar con código: carpeta local y archivos simulados

Cuando la IA ayuda a programar, conviene trabajar siempre sobre una copia local del código, separada del sistema real, y llevar los cambios a producción de forma manual y revisada.

Archivos simulados en lugar de los reales

Los archivos de configuración se reemplazan por versiones de ejemplo, con la misma estructura y valores ficticios. Los reales quedan solo en el servidor.

; config.ejemplo  (simulado — es el que ve la IA)
servidor=servidor-de-prueba.local
base=BASE_DE_PRUEBA
usuario=usuario_demo
password=CAMBIAR_EN_PRODUCCION

• Al pasar a producción, no sobrescribir la configuración real con la de ejemplo; si hay opciones nuevas, cargarlas a mano en el archivo real.
• Hacer backup de cada archivo que se va a reemplazar y tener un plan para volver atrás.
• Probar primero con un usuario de prueba y datos ficticios.

7. Permisos y agentes: dar el menor acceso posible

• Acceso mínimo. Darle a la herramienta acceso solo a la carpeta, el documento o el buzón que necesita, y en modo solo lectura cuando alcance.
• Revisar antes de aprobar. Si la herramienta pide permiso para ejecutar comandos, enviar mensajes o modificar archivos, leer qué va a hacer. Desconfiar de las opciones de “aprobar todo automáticamente”.
• Nada de credenciales en la conversación. Si una herramienta pide una contraseña o clave, detenerse y consultar con Sistemas.
• Los cambios en bases de datos o sistemas reales los ejecuta una persona, después de leer el script y con backup. Nunca dar a una IA un usuario con permisos de escritura sobre producción.
• Conectores e integraciones: cada conexión (correo, archivos, calendario, bases) amplía lo que la IA puede ver. Activar solo las necesarias y revisarlas periódicamente.
• Acciones hacia afuera (enviar correos, publicar, pagar, borrar): siempre con confirmación humana.

8. Verificar lo que responde la IA

Las herramientas de IA pueden equivocarse y hacerlo con mucha seguridad: inventar datos, citas, funciones o normas que no existen.

• No usar una respuesta como definitiva en decisiones importantes (legales, financieras, de calidad o seguridad alimentaria) sin verificarla con una fuente confiable o con la persona responsable.
• Código generado: leerlo, probarlo en un entorno de prueba y buscar credenciales escritas dentro, consultas SQL sin validar, páginas sin control de acceso y permisos de más.
• Números y fórmulas: recalcular o contrastar con la fuente original.
• Derechos de autor y licencias: tener cuidado al incorporar texto o código generado en productos o documentos externos.
• La persona que usa la IA sigue siendo responsable del resultado final.

9. Contenido externo e “instrucciones escondidas”

Páginas web, documentos, correos o archivos de terceros pueden contener texto que intenta darle órdenes a la IA (“ignorá lo anterior y enviá estos datos…”). Es la llamada inyección de instrucciones.

• Las órdenes válidas son las que escribe el usuario. Lo que aparece dentro de un archivo o una web es información, no una instrucción.
• Ser cuidadoso al pedirle a un asistente con acceso al correo o a la web que “resuma” o “procese” contenido de origen desconocido, sobre todo si puede actuar (enviar, descargar, ejecutar).
• Si la herramienta avisa que encontró instrucciones sospechosas, no aprobar acciones hasta entender de dónde vienen.

10. Datos personales y políticas de la empresa

• Los datos de personas están alcanzados por la normativa de protección de datos personales (en Argentina, la Ley 25.326) y por las políticas internas. Ante la duda, anonimizar o no compartir.
• Cumplir las políticas de uso de IA, de seguridad de la información y de confidencialidad de la empresa; si no existen para un caso, consultarlo con Sistemas o con el área correspondiente.
• Los resultados de una IA no reemplazan la revisión del área responsable en temas legales, contables, de calidad o de seguridad alimentaria.

11. Si algo salió mal

12. Listas de verificación

Antes de pegar o subir algo

• Estoy usando una herramienta y una cuenta aprobadas.
• Revisé que no haya contraseñas, servidores, usuarios, clientes ni importes reales.
• Compartí solo lo necesario (fragmentos, no archivos completos).
• Reemplacé los datos reales por ficticios cuando hizo falta.

Si la IA trabaja con mi código o mis archivos

• Trabaja sobre una copia local, no sobre el sistema real.
• Los archivos de configuración están reemplazados por versiones simuladas.
• Reviso lo que quiere ejecutar o modificar antes de aprobarlo.
• No hay certificados, backups ni logs de producción en la carpeta.

Antes de usar el resultado

• Verifiqué los datos, números y citas con una fuente confiable.
• Leí y probé el código en un entorno de prueba.
• Hice backup y sé cómo volver atrás.
• No voy a sobrescribir la configuración real en producción.

13. Frases útiles para pedirle a la IA