Voor het uitoefenen van hun job hebben medewerkers van de klant vaak ad-hoc vragen over bedrijfsgegevens. Denk hierbij aan verzoeken zoals "Geef mij alle registraties van het laatste kwartaal in regio Gent." Traditioneel kwamen deze verzoeken bij het data-analyseteam terecht, die vervolgens SQL queries schreven om de benodigde informatie te leveren. Dit proces was tijdrovend en inefficiënt, vaak moesten medewerkers weken wachten op hun antwoorden.

De implementatie van dit systeem bracht verschillende uitdagingen met zich mee, vooral omdat de gegevens zeer gevoelig zijn en niet in de cloud opgeslagen mogen worden. Kenan beschrijft de technische kant:  

"We hebben intern sandbox systeem ontwikkeld op de cloud, waar we deze self-service datasysteem op hebben ontwikkeld en getest. Met dit systeem kunnen we gemakkelijk gebruik maken en wisselen tussen elke publieke LLM modellen die beschikbaar zijn.  

Maar niet elke klant kan zijn gegevens op de cloud opslaan wegens gevoeligheid en aard van gegevens. We hebben dus naast deze sandbox ook een oplossing dat een lokale model finetuned op de gevoelige data en die dus self-service data kan aanleveren zonder de lokale omgeving te verlaten. “

Om onze klanten het gemak en de kracht van deze technologie te laten ervaren hebben we een demo-opstelling gecreëerd met gebruik van publieke vluchtdata. Deze opstelling kan eenvoudig worden meegenomen te demonstreren hoe onze technologie in real-time werkt. Gebruikers kunnen bijvoorbeeld specifieke queries uitvoeren zoals: "Geef mij alle vluchten die zijn vertrokken van Brussels Airport naar Rome tussen 12/08/24 en 17/08/24."

‍

In de eerste testfase werd het systeem intern getest door business-analisten die geen SQL-kennis hadden. Dit bood waardevolle feedback voor verdere optimalisatie. "We zagen direct winst in efficiëntie. Waar medewerkers voorheen weken moesten wachten, kunnen we nu veel sneller antwoorden leveren," zegt Jean-Joseph. Het systeem bleek effectief in het verminderen van de workload voor het data-analyseteam en verbeterde de responstijd voor de gebruikers aanzienlijk.

Hoewel het project nog in ontwikkeling is, toont het al veel potentieel. Een belangrijk aspect voor de toekomst is het verbeteren van de gebruikerservaring en het verder trainen van het model om ook complexe vragen beter te kunnen beantwoorden. Een andere uitdaging is het omgaan met hallucinaties van het model, waarbij onjuiste of verzonnen antwoorden worden gegeven. Tot nu toe zijn deze beperkt gebleven, maar het blijft een punt van aandacht.

Kenan voegt toe: "De technologie evolueert snel, en we moeten ervoor zorgen dat we future-proof blijven. Het is belangrijk om niet alleen te vertrouwen op één model of provider, maar flexibel te blijven en verschillende oplossingen te overwegen."

Het text-to-SQL project van Algorhythm Group is een uitstekend voorbeeld van hoe AI de efficiëntie en zelfredzaamheid binnen organisaties kan verbeteren. Door generatieve AI in te zetten, kunnen medewerkers sneller en zelfstandiger werken, wat uiteindelijk leidt tot een hogere productiviteit en tevredenheid. Bij OECO Groep zijn we trots op deze vooruitstrevende aanpak en blijven we ons inzetten voor het verkennen van nieuwe technologieën die onze klanten helpen hun bedrijfsprocessen te optimaliseren.