Hoe Belgische bedrijven bouwen aan controle over AI-systemen

Dat de huidige AI-revolutie de bedrijfswereld en het maatschappelijk weefsel hertekent, staat buiten kijf. Dat de duizelingwekkende snelheid waarmee dit gebeurt zelfs de insiders bij momenten doet duizelen, is eigenlijk ook geen nieuws meer. In de wetenschap dat we in de economisch en geopolitiek competitieve wereld waarin we leven niet anders kunnen dan meegaan in de evolutie, ontstaat er een groeiende nood voor bedrijven om controlemechanismes te ontwikkelen die geënt zijn op een AI-gestuurde wereld. 

Belgische pioniers

Een van de pioniers op dit vlak is Textgain. Deze spin-off van de UAntwerpen ontwikkelt slimme taalmodellen die in staat zijn haatspraak, desinformatie en extremisme online op te sporen. Voor hen staat de huidige boom rond alles wat te maken heeft met AI observability gelijk aan heel wat nieuwe mogelijkheden. “We merken dan ook een groeiende interesse vanuit twee hoeken: enerzijds de cybersecuritysector, anderzijds – en zeer concreet – veiligheidsdiensten en rechtshandhaving die tekst op grote schaal moeten analyseren en verdachte patronen detecteren. Dat is precies het domein waarin we al jaren actief zijn”, verduidelijkt oprichter Guy De Pauw. 

Van een heel andere orde, maar met een vergelijkbaar doel en eveneens made in Belgium zijn NannyML en Soda, die eind vorig jaar samensmolten en vandaag samen onder de vlag van Soda varen. “NannyML is in 2020 gestart vanuit het idee om voor grote bedrijven AI-processen te monitoren vanuit een businessperspectief. Met andere woorden: dankzij onze technologie kunnen de bedrijven nagaan of de AI-modellen die ze gebruiken, echt doen wat ze beloven. Wanneer de prestaties verslappen, krijgen ze via onze systemen een melding”, legt medeoprichter Hakim Elakhrass uit

Van black box naar glazen machine 

“Dat idee sloeg meteen aan, alleen zagen we dat de crux in dit verhaal steevast zit bij de kwaliteit van de data waarmee onze modellen kunnen werken. Want om de performantie van een AI-gestuurd proces te kunnen meten, moet je in eerste instantie weten welke data erin gaat, weten hoe je dit moet managen en wie hier toegang tot heeft”, gaat Elakhrass verder. Als je dat niet doet, vormt AI immers een deeltjesversneller voor bestaande fouten in de bedrijfsvoering. “Dit zien we in de praktijk ook duidelijk gebeuren. Dit gaat dan bijvoorbeeld over de schaal van bepaalde bestellingen: die worden geplaatst, maar overstijgen in de praktijk de capaciteit van het magazijn.”

Nochtans is dit soort fouten perfect te voorkomen, als de ingebouwde AI voldoende observeerbaar is. “Dat is precies wat wij mogelijk willen maken. Daarom bouwen we nu, sinds onze krachtenbundeling met Soda, een zogenaamd enterprise context management system. Dit moet begrepen worden als een extra laag waarbinnen je AI-systemen kunnen interageren met de bestaande data, op zo’n manier dat het bedrijf steevast de controle houdt hierover. We stellen ons dus niet meer louter de vraag of de AI oplevert op vlak van business performance, maar vragen ons bovendien ook af: welke data wordt er gebruikt, en mag ik deze data überhaupt gebruiken?”

Transparantie als motor voor snelheid

Die mentaliteitswijziging in de manier over hoe er wordt nagedacht over de meerwaarde die AI-modellen moeten kunnen bieden, voelen ze ook bij Textgain. “Eerlijk gezegd is het een opluchting dat dit besef nu breder leeft. We hebben dit al jaren uitgedragen, maar het was niet altijd evident om klanten of beleidsmakers daarvan te overtuigen. Vandaag is de vraag naar transparante en controleerbare AI-systemen veel concreter geworden. Dat maakt gesprekken een stuk eenvoudiger”, aldus De Pauw, die meteen wijst op de grote urgentie van deze shift. “Met de opkomst van AI-gegenereerde content is de schaal immers alleen maar groter geworden, en daarmee ook de nood aan geautomatiseerde analyse. In die zin maakt het onze technologie alleen maar relevanter.”

Dat onderschrijft ook Elakhrass volmondig. “De AI-revolutie heeft ervoor gezorgd dat grote bedrijven eigenlijk nog veel meer kunnen doen: voor meer klanten en in meer domeinen. Dat betekent dat de traditionele logica waarbij je als bedrijf op zoek gaat naar een niche en daarin zoveel mogelijk probeert uit te blinken, aan het verdwijnen is. De snelheid waarmee een service geleverd kan worden, wordt in plaats daarvan meer dan ooit bepalend voor succes. Dat wil zeggen dat je verantwoordelijkheid moet inbouwen zonder aan snelheid in te boeten. Sterker nog, eigenlijk moet de observeerbaarheid vandaag steeds meer begrepen worden als een voorwaarde om de snelheid van uitvoering verder te kunnen verhogen. “Voor de bedrijven die in deze omgeving moeten bewegen, is de snelheid waarmee dit alles evolueert ongezien. Zelfs voor ons, die er dagelijks middenin zitten. Maar dat bewijst tegelijk dat we nog maar aan het prille begin staan van deze evolutie”, besluit hij.