Incorporar el Coneixement d'una Organització a una IA
Explorant dues opcions per integrar el coneixement d'una organització en una IA: Botpress i un sistema RAG amb Milvus i Gradio.
Incorporar el coneixement d'una organització a una IA
No fa gaire, m'he topat amb un repte interessant: incorporar el coneixement d'una organització a una IA per millorar processos i optimitzar l'accés a la informació. Una d'aquelles tasques que, a priori, sembla senzilla, però que en realitat amaga un bon grapat de complexitats.
En aquest camí, he explorat dues aproximacions diferents:
1. Utilitzar Botpress
Botpress (https://botpress.com/) és una plataforma de codi obert per a crear chatbots. Té eines potents d'orquestració i una interfície visual que facilita el desenvolupament. A més, permet connectar-se a diferents fonts de dades i integrar-se amb serveis externs.
Avantatges:
- Fàcil de desplegar i configurar
- Bona interfície gràfica
- Integracions natives amb diverses plataformes
Inconvenients:
- La gestió del coneixement és limitada i depèn molt de regles predefinides
- No té una recuperació avançada de la informació basada en embeddings
- Pot resultar restrictiu quan es vol una solució més flexible
2. Crear un RAG amb Milvus i Gradio
L'altra opció ha estat construir un sistema Retrieval-Augmented Generation (RAG). Per qui no estigui familiaritzat amb el concepte, un RAG combina dues fases:
1. Recuperació de la informació mitjançant una base de dades vectorial (en aquest cas, Milvus) per trobar els documents més rellevants.
2. Generació de respostes a partir d'un model de llenguatge, enriquint-les amb el coneixement recuperat.
Per a la interfície d’usuari, he utilitzat Gradio, que permet crear prototips d’interacció de manera ràpida i funcional.
Avantatges:
- Molt més flexible: la IA pot adaptar-se a noves dades fàcilment
- Recuperació semàntica de la informació, evitant la rigidesa dels bots convencionals
- Escalabilitat: permet ampliar la base de coneixement sense grans dificultats
Inconvenients:
- Requereix més feina de desplegament i configuració
- Necessita manteniment constant per ajustar els embeddings i les respostes
La decisió final
Després de provar ambdues opcions, m’he decantat per la segona. La flexibilitat i la potència d’un RAG superen les limitacions d’una solució basada en regles com Botpress. A llarg termini, l’adaptabilitat de la IA és clau, especialment quan es tracta d’integrar el coneixement dinàmic d’una organització.
Ara bé, segur que hi ha altres enfocaments interessants. Algú ha provat alternatives diferents? Quines eines us han funcionat millor? Estic obert a escoltar experiències i suggeriments!
Oleguer Serra - Març 2025