Vincent Blok (WUR): ‘AI gaat teler niet tot slaaf maken’

De klimaatcomputer werd al in de jaren tachtig van de vorige eeuw gemeengoed in de glastuinbouw. Het was toen moeilijk denkbaar dat dat kastje alle bedrijven van alle boeren en tuinders zou kunnen gaan besturen. Maar in tijden van precisielandbouw, de autonome kas en met AI op ieders lippen, lijkt het ondertussen eerder onafwendbaar. Hoe eng is dat? Of is slimme inzet van kunstmatige intelligentie juist de zegen waarop we hopen, omringd als we zijn door tal van bovenmenselijk complex in elkaar grijpende crises?

ELSA Lab voor agrofood

In dat krachtenveld leidt WUR-hoogleraar Vincent Blok een zogeheten ELSA Lab voor de agrarische productieketen. Het doel van de ELSA Labs is ervoor te zorgen dat bedrijven, overheid, kennisinstellingen en burgers gezamenlijk verantwoorde toepassingen van AI ontwikkelen.

“Je hebt aan de ene kant het maatschappelijke debat over de gevaren van AI, als zou het de mensheid bedreigen, als zouden we zelfs tot slaaf gemaakt worden en meer van dat soort cowboyverhalen. Maar aan de andere kant is er ook een specifieke, gerichte toepassing van AI om bepaalde problemen in bijvoorbeeld de land- en tuinbouw op te lossen. En die hebben helemaal niks te maken met de vraag of de mens vervangen wordt als zodanig.”

“Het is een dolzinnige gedachte dat de mens zal worden overtroffen en vervangen door AI. Binnen de beperkte regels van een spel als schaak kan een AI-gestuurde robot een mens overtreffen. Dat geldt ook voor een heel precies te omschrijven instrumentele taak op een agrarisch bedrijf. Maar dat heeft niks te maken met het overbodig maken van een mens als zodanig.”

Dat lijkt hard nodig gezien de ophef die er is rond een AI-toepassing als ChatGPT. Een tuinder wordt misschien niet de slaaf van zijn klimaatcomputer en de boer niet van zijn zelfrijdende trekker. Maar wij allemaal wel langzaamaan van de grote techbedrijven die achter al die AI-algoritmes zitten?

“AI wordt gedomineerd door technologiebedrijven die nu nog vaak vrijelijk hun gang kunnen gaan. In de ELSA Labs kijken we naar mogelijkheden om die AI-ontwikkeling in de goede richting te sturen. Zo kijken we naar duurzaamheid en gezondheid in plaats van alleen maar de private belangen van techbedrijven. Een grote weerstand is dat die techbedrijven geld verdienen met de data die ze ‘krijgen’ van burgers en bedrijven, ook die van boeren en tuinders. Die kunnen zich manager van datastromen gaan voelen. Data waarmee leveranciers, adviseurs, afnemers of overheden ze vervolgens een kant op sturen, waar ze uit eigen beweging niet heen zouden gaan.”

Je wilt meer zekerheid over de voorspellende kracht van een systeem en op welke data dat gebaseerd is en of dat de variabelen zijn die jij meeneemt in je teeltbeslissingen

Maar als je dan ziet dat het je teelt en productie ten goede komt, prima toch?

“Nou, ga er maar eens aanstaan: te moeten luisteren naar een algoritme dat dingen doet in je kas die voor jou als een soort riskant experiment voelen, zonder dat je vooraf weet dat er meer tomaten uit gaan komen. Dus je wilt je zomaar niet uitleveren aan een blackbox. Je wilt meer zekerheid over de voorspellende kracht van een systeem en op welke data dat gebaseerd is en of dat de variabelen zijn die jij ook altijd hebt meegenomen in je teeltbeslissingen.”

Maar is dat wel zo’n black box? Stapje voor stapje wordt er al jaren steeds meer AI en datatechnologie op de bedrijven geïntroduceerd. Veel bedrijven schermen daar ook mee in hun marketing naar de klant.

“Waar ze niet mee schermen, is wat er vervolgens met jouw data gebeurt. Je levert bijvoorbeeld als veehouder via sensoren gemeten gezondheidsdata. Het techniekbedrijf dat er een bewerking mee doet, kan er een kostprijsberekening mee reconstrueren, of de gemiddelde medische kosten per dier. Dat is informatie die je onderhandelingspositie in je keten of je concurrentiepositie in de markt kan aantasten. Vanuit een economisch competitieve situatie wil je eigenlijk zo min mogelijk informatie delen. Maar door de interconnectie tussen alle systemen op moderne agrarische bedrijven, gebeurt dat om allerlei redenen dus toch. De afhankelijkheid van de bedrijven die hardware leveren en waar jij informatie aan teruglevert, kan boeren en tuinders onzeker maken over wie er in control is.”

De afhankelijkheid van de bedrijven die hardware leveren en waar jij informatie aan teruglevert, kan tuinders onzeker maken over wie in control is

Maatschappelijke organisaties doen ook mee aan dit debat, wat het misschien ook niet overzichtelijker maakt?

“Burgers maken zich zorgen dat AI de volgende stap is in de industrialisatie van de landbouw en de instrumentalisering van plant en dier in de voedselindustrie. Bij ELSA Labs betrekken we allerlei belanghebbenden om ook het milieu en welzijn van mens en dier mee te wegen. Want het idee achter deze vorm van overleg is dat we in een tijd leven met zulke complexe vraagstukken, dat niet alleen politiek of alleen bedrijven die kunnen oplossen. Laat iedereen daarom meepraten over oplossingen.”

Is er al zoiets als een AI-vrij domein in aanbouw, net zoals de biologische sector graag gentech-vrij wil blijven?

“Dat raakt aan levensbeschouwelijke vragen. Mensen die de neiging hebben om ecologie te omarmen, hebben vaak de neiging kritisch te zijn op technologie. En aan de andere kant staan mensen die juist technologie omarmen als potentiële oplosser van alle vraagstukken. De vraag is of dat wel zo’n tegenstelling moet zijn. Ik zit in een Europees project waarin wordt gekeken hoe digitale technologie een agro-ecologische benadering van voedselproductie kan helpen. Voorbeeld: AI stelt een boer in staat om veel individueler naar het welzijn of de gezondheid van de dieren op een veehouderij te kijken. Dan kan AI dus een ‘ecologisch’ doel dichterbij brengen.”

Weerstand tegen AI-technologie is misschien meer tegen de grote technologiebedríjven?

“Zeker. Dat is weer die zorg om grote toeleverende bedrijven, die met jouw data tot adviezen en producten komen, waar jij dan weer voor moet betalen. Dan heeft het dus meer te maken met weerstand tegen de machtsconcentratie bij een klein aantal bedrijven. Dat is binnen een vrije markt geen goed idee is. Dus je kunt best een overtuigd kapitalist zijn en toch tegen de machtsconcentratie in grote bedrijven.”

Zoals boeren en tuinders ook de grote retailers wel als tegensstander zien. En deze techbedrijven zijn nóg groter, machtiger en dus gevaarlijker?

“Machtsconcentratie bij een klein aantal heel grote partijen werkt negatief op innovatie, blijkt uit allerlei onderzoek. Maar een verbod op technologie, bijvoorbeeld Italië dat ChatGPT in eerste instantie verbood en nu kweekvlees in de ban doet, dat zet kennisontwikkeling in een land op slot. Door kritisch te reflecteren op de zin van technologische ontwikkelingen kun je concluderen: nee, dit moeten we niet willen. Maar je kunt ook beter anticiperen op risico’s die mensen ervaren. Dit is wat we ‘verantwoord innoveren’ noemen. Dat doen wij in ons ELSA Lab, om zo verantwoorde AI-ontwikkelingen in de goede richting te sturen.”

Data vormen een grondstof in de economie, als een soort reststroom die je kunt doorverkopen

Eigenaarschap van data is zo’n risico. Als je de techreuzen er niet mee vertrouwt en de overheid eigenlijk ook niet, waar dan wel naartoe?

“Voor dat eigenaarschap van data kun je verschillende modellen hanteren. Data vormen een grondstof in de economie, als een soort reststroom die je kunt doorverkopen. Maar als degene aan wie je ze levert er schathemelrijk mee wordt, dan voel je je toch een beetje bedonderd. Dus wil je een keten waarin bedrijven vertrouwen opbouwen in elkaar en economisch wederzijds ook voordeel opleveren.

Naar afstemming tussen partijen in de keten is veel onderzoek gedaan in Wageningen. Dat kun je ook loslaten op de waardeketen van data. Kun je het ontwerp van je AI aanpassen om het gevoel van controle te vergroten en zo de bereidheid om duurzame technologieën te omarmen te vergroten? Dat je als teler niet je hele dataset openstelt, maar dat je zelf bepaalt wie wat waarvoor mag gebruiken. Hoe kun je daar garanties voor opstellen die vertrouwenwekkend zijn voor telers? Het zou in ieder geval een gekke wereld worden als de Apples van deze wereld zich over de tuinbouw gaan ontfermen.”

Lees ook: Meer regelgeving rond data-beheer