¿Un agente de IA puede inventar información sobre mi negocio?

De dónde salen las respuestas, en realidad

Un agente de Vyrkon responde con dos cosas: sus instrucciones —el texto que define quién es, qué tono usa y qué no debe hacer— y su conocimiento, que son los documentos, precios, horarios y catálogos que el negocio cargó. Cuando alguien pregunta algo, el sistema busca en ese conocimiento y le pasa al modelo los fragmentos que parecen relevantes.

Eso importa porque cambia dónde hay que buscar cuando algo sale mal. Si el agente da un precio equivocado, casi nunca lo imaginó: lo leyó. Está en alguno de los archivos que se subieron, en una versión vieja del catálogo, en un PDF que nadie volvió a mirar desde que se cargó.

El conocimiento le gana a las instrucciones

Este es el aprendizaje que más nos costó, y es contraintuitivo. Cuando un agente repite un dato viejo, la reacción natural es agregarle una instrucción: «no menciones el catálogo anterior», «los precios correctos son estos». Casi nunca funciona.

El motivo es que la instrucción y el documento no compiten en igualdad de condiciones. El documento llega como contexto concreto, con el dato específico que la persona preguntó; la instrucción es una regla general que el modelo tiene que recordar aplicar. Cuando el conocimiento dice una cosa y el prompt dice otra, el conocimiento suele ganar.

La reparación no es escribir mejor la instrucción: es sacar el dato de donde está. Borrar el documento viejo, reemplazarlo por el vigente, y verificar preguntándole al agente exactamente lo que un cliente preguntaría. Si el dato ya no está cargado, no hay de dónde sacarlo.

Negar también es afirmar

Hay un error hermano del anterior y pasa mucho más desapercibido: el agente niega algo sin haberlo consultado. «No, no manejamos ese servicio», «no tenemos disponibilidad», dicho con seguridad y sin haber mirado.

Se pasa por alto porque cuando uno revisa conversaciones busca datos raros — un precio que no cuadra, una fecha imposible. Una negación no tiene números que chequear, así que se lee como una respuesta prudente. Pero para el cliente que preguntaba tiene el mismo efecto que un dato falso: se va con información equivocada, y encima convencido.

Un agente bien montado distingue tres cosas: lo que sabe, lo que no sabe, y lo que sabe que no existe. Solo la tercera habilita una negación.

Qué se puede hacer para que no pase

Lo primero es poder verlo. En el portal de Vyrkon queda registrada cada conversación, así que una respuesta equivocada se detecta leyendo lo que el agente contestó de verdad, no lo que se supone que debería contestar.

Lo segundo es que el conocimiento se actualice solo donde se pueda. Si el catálogo vive en Shopify, WooCommerce, HubSpot, Odoo o Clientify, se conecta una vez y se refresca cada 6 horas. Un precio nuevo no depende de que alguien se acuerde de volver a subir un archivo, que es exactamente el punto donde entran los datos viejos.

• Cargar una sola versión de cada cosa: dos listas de precios conviven mal.
• Conectar la fuente en vez de subir archivos, cuando el sistema lo permita.
• Probar con las palabras del cliente, no con las del negocio.
• Revisar las conversaciones reales cada tanto, sobre todo las que terminaron en una negación.