¿Los agentes pueden inventar información?

Ningún sistema lo elimina por completo. La plataforma lo reduce de tres maneras: cada afirmación debe citar fragmentos reales de tu corpus, una validación automática lo comprueba y, sin evidencia suficiente, la respuesta es «sin datos suficientes». Por eso cada cita enlaza a su fuente y muestra el fragmento: puedes verificarla.

¿Qué planes incluyen los agentes?

Los tres planes incluyen los seis agentes. Los que usan un proveedor de IA externo requieren que el administrador de la organización lo permita. La demo muestra su comportamiento con datos de ejemplo y respuestas pregrabadas.

¿Qué significa «sin datos suficientes»?

Que entre los ítems recopilados no hay evidencia para responder. El agente lo dice en lugar de completar la respuesta con suposiciones, e indica el motivo: no se encontró nada sobre eso, lo encontrado no responde a la pregunta o la respuesta no pudo sustentarse con citas válidas.

Agentes de IA — Atalaya

Qué hace cada agente

Generador de etiquetas: Clasifica cada ítem con etiquetas acordes a los temas del canal.
Generador de mensajes clave: Redacta los puntos esenciales de un canal en un periodo, del más al menos importante, cada uno con sus fuentes.
Resumidor: Resume un contenido o una historia cubierta por varias fuentes, e indica en cuántos contenidos se basa.
Recomendador de contenidos: Ordena lo que aún no has valorado según lo que marcaste con «me interesa», y muestra por qué recomienda cada ítem.
Recomendador de fuentes: Propone fuentes que podrías añadir: las del catálogo que aún no tienes y los sitios que ya aparecen en tus ítems. Las puntúa por la evidencia que las respalda, su relevancia, tus valoraciones y su presencia en el catálogo. No consulta nada en línea.
Preguntas al corpus: Responde preguntas en lenguaje natural sobre lo recopilado, con al menos una cita enlazada en cada respuesta. Puedes acotar por canal y fechas, y consultar el historial.

Cómo se verifican las citas

El agente recibe fragmentos de tus ítems, cada uno con una referencia que solo vale para esa llamada; nunca ve identificadores internos.
Debe devolver cada afirmación junto con las referencias de los fragmentos que la respaldan.
Una validación automática comprueba que cada referencia corresponda a un fragmento entregado. Una referencia desconocida invalida la afirmación entera.
Si la validación falla, se reintenta una vez. Si vuelve a fallar, el resumen responde «sin datos suficientes»; los mensajes clave y las respuestas descartan solo la afirmación inválida y, si no queda ninguna, también responden «sin datos suficientes».
Cada cita se guarda con el fragmento que la sustenta, para que puedas comprobarla.

Cada afirmación enlaza a su fuente. Si no hay evidencia, lo decimos.

Salvaguardas

El contenido de las fuentes es dato, nunca instrucción: El texto capturado se delimita y se sanea. Los agentes no ejecutan acciones con efectos a partir de lo que diga una página.
Instrucciones versionadas: Cada ejecución guarda el modelo, la versión de las instrucciones y las fuentes utilizadas.
Evaluación antes de cada cambio: Todo cambio de modelo o de instrucciones se mide contra conjuntos de referencia de relevancia, etiquetado, resúmenes con citas y preguntas.
Datos del cliente: El contenido de una organización no se envía a un proveedor de IA externo salvo que su administrador lo permita. El permiso es por organización y viene desactivado.
Uso y presupuesto a la vista: Cada llamada a un modelo queda en un registro de ejecuciones. Una organización puede tener un tope de uso de IA; al alcanzarlo, los agentes dejan de llamar al modelo.
Modelos intercambiables: Una capa de abstracción permite usar un modelo local o una API comercial según la configuración.

La revisión humana es parte del proceso

Cada persona puede valorar un ítem con «me interesa» o «no me interesa». Esa valoración es personal y alimenta los recomendadores. Además, el conjunto de las valoraciones de la organización afina la relevancia de los ítems parecidos que se puntúan después, dentro de un margen acotado y con la explicación a la vista. Y los boletines pasan por una persona, que los revisa y edita antes de enviarlos.

Ver cómo se comportan en la demo

Preguntas frecuentes

¿Los agentes pueden inventar información?: Ningún sistema lo elimina por completo. La plataforma lo reduce de tres maneras: cada afirmación debe citar fragmentos reales de tu corpus, una validación automática lo comprueba y, sin evidencia suficiente, la respuesta es «sin datos suficientes». Por eso cada cita enlaza a su fuente y muestra el fragmento: puedes verificarla.
¿Qué planes incluyen los agentes?: Los tres planes incluyen los seis agentes. Los que usan un proveedor de IA externo requieren que el administrador de la organización lo permita. La demo muestra su comportamiento con datos de ejemplo y respuestas pregrabadas.
¿Qué significa «sin datos suficientes»?: Que entre los ítems recopilados no hay evidencia para responder. El agente lo dice en lugar de completar la respuesta con suposiciones, e indica el motivo: no se encontró nada sobre eso, lo encontrado no responde a la pregunta o la respuesta no pudo sustentarse con citas válidas.

Empieza a vigilar tu sector hoy

Crea la cuenta, elige tu sector y en pocos minutos tendrás fuentes trayendo información, un canal y tu primera watchlist.

Crear cuenta gratis

¿Dudas? Escríbenos.