índice
Una empresa puede querer preguntas en lenguaje natural sin conceder poder de modificar el banco. Un prompt que prohíbe borrar registros no crea una frontera técnica de acceso.
El diseño que necesita contratar
Defina fuentes, tablas o consultas autorizadas. El componente de acceso debe usar permisos compatibles con lectura y finalidad, independientemente de la salida del modelo. Lectura amplia también expone información; siguen necesarios filtros por usuario y organización. Compare consultas libres con funciones analíticas predefinidas. Preguntas recurrentes pueden beneficiarse de funciones conocidas, previsibles y revisables. IA interpreta preguntas y presenta resultados sin recibir credenciales administrativas. Incluya límites de volumen, duración y exportación, además de identificar la consulta que sostiene la respuesta. No acepte ejecución genérica solamente porque la demostración utilizó comandos seguros. Las capacidades se seleccionan al implementar, y el usuario comprende cuándo una pregunta excede el universo autorizado. Confirme permisos del destino ante consultas fuera de funciones aprobadas; negativa textual no debe ser el único control.
Criterios para el proveedor
- Credencial de consulta sin permiso para modificar datos.
- Resultados filtrados por acceso real del solicitante.
- Límites de lectura y origen de respuesta consultables.
Aceptación con una excepción
En aceptación hipotética, una pregunta pide corregir un registro durante análisis. El asistente explica que queda fuera del alcance, sin buscar otra herramienta que haga la modificación.
Referencia para evaluar el alcance
Riesgos de aplicaciones de IA de OWASP
Prepare su proyecto con Quantum9
Comparta preguntas frecuentes y límites de acceso con Quantum9. Evaluamos funciones preparadas y asistencia lingüística con controles técnicos coherentes con el uso previsto.
Desarrollo con IA agéntica · Definir la prioridad de la empresa