Firma · Responsabilidad de IA
Uso responsable de la inteligencia artificial
La IA generativa es una herramienta poderosa y falible al mismo tiempo. Usarla con seriedad no consiste en ponerla en todas partes, sino en decidir dónde aporta, dónde no corresponde y bajo qué controles opera. Esta página describe cómo tomamos esas decisiones en cada solución que diseñamos y operamos.
Criterio de diseño
Dónde usamos IA generativa y dónde reglas deterministas
No toda tarea merece un modelo de lenguaje. La regla es simple: la IA generativa interpreta y redacta; las reglas deterministas calculan y verifican; las personas deciden lo que tiene consecuencias.
| Tipo de tarea | Enfoque que aplicamos | Por qué |
|---|---|---|
| Interpretar lenguaje natural: mensajes, correos, consultas | IA generativa | Es su fortaleza real. La salida se contrasta con los datos del negocio antes de usarse. |
| Extraer datos de documentos: facturas, órdenes, comprobantes | IA con verificación determinista | El modelo lee; reglas fijas validan totales, formatos y campos obligatorios. |
| Cálculos: montos, saldos, impuestos, inventarios | Reglas deterministas | Un cálculo no debe "aproximarse". Se resuelve con lógica exacta, no con un modelo. |
| Redactar borradores: respuestas, resúmenes, reportes | IA generativa con revisión | El borrador acelera; la versión final la aprueba una persona cuando el mensaje compromete. |
| Decisiones con impacto: crédito, excepciones, compromisos comerciales | Persona, con información preparada por el sistema | La automatización ordena el contexto; la decisión no se delega a un modelo. |
Supervisión y control humano
La persona conserva el control del proceso
Cada agente de IA que ponemos en operación tiene un marco de supervisión definido antes de tocar un proceso real, alineado con los controles de Seguridad y gobierno.
- Límites de autonomía por escrito. Qué puede hacer el agente por sí mismo y qué tiene prohibido queda documentado y configurado, no sobreentendido.
- Aprobaciones humanas. Las acciones irreversibles o con impacto económico requieren la aprobación de una persona designada antes de ejecutarse.
- Puntos de revisión en el flujo. En los pasos críticos, el proceso se detiene hasta que alguien de su equipo revisa y autoriza continuar.
- Registro auditable. Lo que el agente hizo, con qué información y con qué resultado queda registrado y disponible para revisión.
Limitaciones reconocidas
Lo que reconocemos abiertamente sobre la IA
Prometer una IA infalible sería deshonesto. Diseñamos asumiendo lo contrario:
- Los modelos pueden equivocarse con seguridad aparente. Una respuesta bien redactada no es una respuesta correcta. Por eso las salidas relevantes se validan contra datos del negocio o contra una persona, nunca se aceptan por su tono.
- El comportamiento varía con la entrada. Documentos borrosos, formatos nuevos o mensajes ambiguos degradan los resultados. Los flujos detectan los casos de baja confianza y los envían a revisión humana en lugar de adivinar.
- La IA no conoce su negocio por defecto. Solo responde bien sobre aquello a lo que se le dio acceso. Delimitar ese contexto es parte del diseño, no un detalle.
- Ninguna solución con IA queda "terminada". Los modelos, los datos y el negocio cambian; sin monitoreo y ajuste, el desempeño se degrada con el tiempo.
Validación antes de producción
Ningún flujo con IA llega a producción sin pasar por pruebas
"Se ve bien la respuesta" no es un criterio de aceptación. Seguimos una ruta de validación explícita, coherente con nuestra metodología:
Casos reales
Construimos un conjunto de casos de prueba con documentos y mensajes reales del cliente, incluyendo los difíciles y los ambiguos.
Criterios acordados
Definimos con usted qué cuenta como respuesta correcta, qué errores son tolerables y cuáles son inaceptables.
Piloto acotado
La solución opera primero sobre un alcance limitado, con supervisión reforzada, antes de asumir el proceso completo.
Producción con monitoreo
El paso a producción no elimina la vigilancia: el desempeño se sigue midiendo y los casos dudosos se siguen escalando.
Seguridad y privacidad
Los datos en los flujos con IA
Usar IA no cambia nuestras reglas de datos; las hace más importantes. Aplican los mismos controles descritos en Seguridad y gobierno:
- Los datos permanecen en las cuentas y sistemas del cliente. Los flujos con IA se integran sobre su infraestructura, con acceso delegado y revocable.
- Al modelo llega lo mínimo necesario. Cada paso con IA recibe solo la información que esa tarea requiere, no la base de datos completa.
- No entrenamos modelos con datos del cliente. Usamos servicios de IA en modalidades empresariales cuyos términos excluyen sus datos del entrenamiento.
- Cifrado en tránsito y credenciales como secretos. La comunicación con los servicios de IA viaja cifrada y las llaves de acceso nunca se exponen en código ni en repositorios.
Transparencia con el cliente
Usted sabe qué hace el agente y qué no
La transparencia no es un gesto: es documentación que usted puede leer y verificar.
Alcance documentado
Qué tareas ejecuta la solución con IA, qué tareas resuelven reglas deterministas y qué queda siempre en manos de personas consta por escrito en la entrega.
Sin capacidades infladas
Si una tarea no se puede resolver con calidad suficiente, se lo decimos antes de venderla. Preferimos un alcance menor que funcione a una promesa amplia que falle.
Ruta hacia una persona
En los flujos de atención, el interlocutor siempre puede llegar a una persona de su equipo; el agente no es una barrera para impedirlo.
Manejo de errores
Cuando la IA no puede, el caso pasa a una persona con contexto
Todo sistema falla alguna vez; lo responsable es decidir de antemano qué pasa ese día.
- Detección de baja confianza. Cuando el modelo no tiene suficiente certeza, el flujo no adivina: marca el caso y lo envía a revisión humana.
- Escalamiento con historial. El caso llega a su equipo con la conversación o el documento completo y lo que el sistema ya procesó, para retomarlo sin empezar de cero.
- Reintentos y rutas de excepción. Las fallas técnicas —un servicio caído, un documento ilegible— tienen reintentos controlados y una ruta alterna definida, no un error silencioso.
- Registro del incidente. Qué falló, cuándo y cómo se resolvió queda registrado, y alimenta las mejoras del siguiente ciclo.
Medición y mejora
Lo que no se mide, no mejora: también aplica a la IA
Cada solución con IA opera con métricas acordadas con el cliente: volumen procesado, casos escalados a personas, errores detectados y tiempos de respuesta. Esas métricas se revisan periódicamente y de ahí salen los ajustes: afinar instrucciones, agregar validaciones o mover una tarea de la IA hacia reglas deterministas cuando conviene.
Este estándar de medición viene de cómo trabajamos en general: el caso Capturista Digital se midió con cronómetro y quedó grabado en video, procesando una factura en alrededor de cuatro segundos. La misma disciplina —medir, mostrar y mejorar— dirige nuestros flujos con IA, encabezada por Humberto Henríquez, fundador de Optimatiza: Ingeniero en Sistemas, MSc en Data Science y MSc en Business Intelligence, con más de 8 años automatizando operaciones empresariales.
Conversemos sobre el uso responsable de IA en su operación
La conversación inicial no tiene costo ni compromiso. Respondemos en horario hábil de El Salvador (GMT-6).
Solicitar evaluación ejecutiva