AI met geweten

Olivier Wouters
Managing Partner bij advocatenkantoor Claeys & Engels

Waar trek je als organisatie de grens tussen menselijke en geautomatiseerde beslissingen? 

“Op zich nemen wij geen geautomatiseerde beslissingen, omdat in professionele dienstverlening menselijke controle cruciaal is om fouten te vermijden. Wetgeving en compliance vereisen dat beslissingen niet volledig door machines worden genomen. AI-oplossingen hebben vaak moeite om heldere juridische oplossingen te formuleren en er zijn risico’s op onjuiste interpretaties, verkeerde premissen en een gebrek aan nuance in complexe dossiers. Daarom wordt elke geautomatiseerde output, zoals bijvoorbeeld een vertaling van een contract, herzien door een expert. Automatisatie dient voor ons als ondersteuning, niet als vervanging van menselijk oordeel. We gebruiken wel tools zoals spelcheck en co-pilot, maar geen enkel advies verlaat het kantoor zonder nalezing door een senior advocaat.”

Hoe communiceer je naar klanten en medewerkers dat een algoritme meespeelt in je proces?

“Wij communiceren bewust beperkt naar cliënten, omdat we onnodige paniek willen vermijden en alleen correcte communicatie willen geven. Het eindresultaat is nooit definitief zonder menselijke validatie, dus het risico blijft beperkt en we houden daar de vinger aan de pols. Intern verwachten wij dat jongere medewerkers kritisch kunnen antwoorden op vragen over hun ontwerptekst en nooit zomaar een opzoeking doen of klakkeloos inhoud overnemen. Ze moeten hun originele bronnen nalezen en de inhoud eigen maken. Veel mensen kunnen de impact van AI moeilijk inschatten, en tegelijk merken we in het juridisch landschap nog een tekort aan goede AI-tools, zeker in een klein land met drie taalissues.”

Wordt verantwoord automatiseren straks net zo belangrijk als cybersecurity en compliance?

“Ik ben ervan overtuigd dat verantwoord automatiseren even belangrijk is als cybersecurity en compliance, omdat automatisatie processen, data en beslissingen raakt. Slechte automatisatie kan leiden tot compliance-issues, securitylekken en onbedoelde toegang. Daarom moet automatiseren altijd gebeuren in overeenstemming met wettelijke en interne regels, en blijven we voorzichtig en doordacht omgaan met data, zeker omdat ons kantoor ISO-gecertificeerd is en we als advocaten ook ons beroepsgeheim hebben. De processen achter AI-tools zijn vaak onduidelijk, net zoals wat er met die data gebeurt. Daarom zetten wij in op governance: duidelijke richtlijnen, controles, monitoring en audit trails. Automatiseren zonder governance is voor ons geen optie.”

Pieter Duysburgh
Coördinator van het Kenniscentrum Data & Maatschappij

Waar trek je als organisatie de grens tussen menselijke en geautomatiseerde beslissingen? 

“We vertrekken vaak van het idee dat je een human in the loop of human in the lead moet hebben, maar in de praktijk is dat niet zo gemakkelijk. Daarom kunnen we eigenlijk niet anders dan heel casus-specifiek te werken. Bij projecten die we begeleiden kijken we eerst in detail naar het specifieke AI-systeem: in welke context wordt het gebruikt, welke mensen komen ermee in contact? We lijsten alle betrokken partijen op, brengen positieve en negatieve effecten in kaart en bekijken welke waarden belangrijk zijn om te bewaken. Van daaruit bekijken we welke competenties mensen die met het systeem in contact komen nodig hebben, hoe het systeem zelf moet worden ontworpen en de afspraken errond. Zo trekt een organisatie die grens.”

Hoe communiceer je naar klanten en medewerkers dat een algoritme meespeelt in je proces?

“Transparantie over het gebruik van AI-algoritmes is al tot op zekere hoogte een verplichting, maar de grote vraag blijft hoe je dat best duidelijk kan maken. Bij generatieve AI zien we steeds vaker vaste disclaimers en formats, en wij gebruiken die zelf ook. Maar AI zit in alsmeer meer systemen, zeker in een professionele context is het voor medewerkers belangrijk dat ze zicht hebben op waar aanbevelingen vandaan komen. Daarom staat AI-geletterdheid zo hoog op de agenda en werk je best participatief, met aandacht voor waar mensen met het systeem in contact komen.”

Wordt verantwoord automatiseren straks net zo belangrijk als cybersecurity en compliance?

“Cybersecurity en compliance staan vandaag hoger op de agenda omdat ze een onmiddellijke urgentie hebben. Maar in AI-trajecten zie je dat het vaak niet de toepassing zelf is die tekortkomingen heeft, maar dat onvoldoende is nagedacht over het menselijke aspect. AI laat organisaties nieuwe mogelijkheden verkennen, maar zonder vertrouwen gaat het mis. Daarom benadrukken we in opleidingen dat je werknemers vanaf het begin moet betrekken: kijken welke impact systemen hebben op de werkvloer, welke processen herdacht moeten worden en hoe taken veranderen. Er bestaat geen vaste aanpak, maar hoe meer je vertrekt van noden en problemen die werknemers zelf aanbrengen, hoe groter de kans dat het project gedragen wordt en succes heeft.”

Jelle Hoedemaekers
Expert Data Economy bij Agoria

Waar trek je als organisatie de grens tussen menselijke en geautomatiseerde beslissingen? 

“Ik geloof niet dat je een scherpe grens moet trekken tussen menselijke en geautomatiseerde beslissingen, omdat zo’n grens moeilijk én te finaal is. Automatisatie bestaat al sinds de industriële revolutie, en AI zet dat gewoon verder door nu ook niet-manuele arbeid te automatiseren. Daarom vinden wij het belangrijker dat bedrijven case-by-case bekijken hoe technologie, en specifiek AI, echt een meerwaarde kan creëren. AI kan zorgen voor efficiëntie, kostenbesparing en meer werkcomfort, zeker bij kleine repetitieve taken, waardoor mensen zich kunnen richten op meer specifieke en creatieve werkzaamheden. Automatiseren om te automatiseren heeft weinig zin.”

Hoe communiceer je naar klanten en medewerkers dat een algoritme meespeelt in je proces?

“Algoritmes spelen al mee in bijna alle processen vandaag, dus de vraag is in welke situaties communiceren echt belangrijk wordt. Bij AI is dat relevanter omdat het een nieuwe technologie is waar veel misverstanden rond bestaan en die voor veel mensen negatief aanvoelt. Daarom vinden wij het cruciaal dat bedrijven duidelijk uitleggen wat AI-tools doen en hoe werknemers ze kunnen gebruiken. Met een goede interne communicatie en training verloopt de implementatie veel vlotter. Vooral bij nieuwe toepassingen is opleiding belangrijk, want zonder omkadering vallen zulke tools snel stil. Het is dus ook een skills issue.”

Wordt verantwoord automatiseren straks net zo belangrijk als cybersecurity en compliance?

“We zien dat ethiek lange tijd vooral vrijwillig was, via gedragscodes, maar nu komt er ook echte wetgeving rond artificiële intelligentie. Die nieuwe wet zal de komende jaren een belangrijke leidraad vormen. Tegelijk stellen we vast dat bedrijven meer en meer een eigen AI-policy invoeren: een interne leidraad die vastlegt welke ethische waarden gelden en hoe werknemers correct met AI-tools kunnen omgaan. Voor mij zijn verantwoord automatiseren, cybersecurity en compliance drie verschillende dingen, maar bedrijfsmatig spelen gelijkaardige zorgen: kosten, het risico dat tools mislukken zonder goede omkadering, en de behoefte van werknemers aan duidelijkheid. Bedrijven tonen bovendien een grote willingness om AI correct te gebruiken en discriminatie te vermijden.”