Incorporar el Conocimiento de una Organización en una IA
Explorando dos opciones para integrar el conocimiento de una organización en una IA: Botpress y un sistema RAG con Milvus y Gradio.
Incorporar el conocimiento de una organización en una IA
Hace no mucho, me encontré con un desafío interesante: incorporar el conocimiento de una organización en una IA para mejorar procesos y optimizar el acceso a la información. Una de esas tareas que, a primera vista, parece sencilla, pero que en realidad oculta bastantes complejidades.
En este camino, he explorado dos enfoques diferentes:
1. Utilizar Botpress
Botpress (https://botpress.com/) es una plataforma de código abierto para crear chatbots. Ofrece herramientas potentes de orquestación y una interfaz visual que facilita el desarrollo. Además, permite conectarse a diferentes fuentes de datos e integrarse con servicios externos.
Ventajas:
- Fácil de desplegar y configurar
- Buena interfaz gráfica
- Integraciones nativas con varias plataformas
Inconvenientes:
- La gestión del conocimiento es limitada y depende mucho de reglas predefinidas
- No cuenta con una recuperación avanzada de la información basada en embeddings
- Puede resultar restrictiva si se busca una solución más flexible
2. Crear un RAG con Milvus y Gradio
La otra opción ha sido construir un sistema Retrieval-Augmented Generation (RAG). Para quienes no estén familiarizados con el concepto, un RAG combina dos fases:
1. Recuperación de la información utilizando una base de datos vectorial (en este caso, Milvus) para encontrar los documentos más relevantes.
2. Generación de respuestas a partir de un modelo de lenguaje, enriqueciéndolas con el conocimiento recuperado.
Para la interfaz de usuario, he utilizado Gradio, que permite crear prototipos de interacción de manera rápida y funcional.
Ventajas:
- Mucho más flexible: la IA puede adaptarse a nuevos datos fácilmente
- Recuperación semántica de la información, evitando la rigidez de los bots convencionales
- Escalabilidad: permite ampliar la base de conocimiento sin grandes dificultades
Inconvenientes:
- Requiere más trabajo de despliegue y configuración
- Necesita un mantenimiento constante para ajustar los embeddings y las respuestas
La decisión final
Después de probar ambas opciones, me decanté por la segunda. La flexibilidad y la potencia de un RAG superan las limitaciones de una solución basada en reglas como Botpress. A largo plazo, la adaptabilidad de la IA es clave, especialmente cuando se trata de integrar el conocimiento dinámico de una organización.
Ahora bien, seguro que hay otros enfoques interesantes. ¿Alguien ha probado alternativas diferentes? ¿Qué herramientas os han funcionado mejor? ¡Estoy abierto a escuchar experiencias y sugerencias!
Oleguer Serra - Marzo 2025