AI-cheerleader of doemdenker?

Ook wetenschappers kan je misschien indelen in twee groepen: AI -adepten en AI -wantrouwers. Dagelijks gebruiken veel wetenschappers generatieve AI‑tools. Schrijven is een groot deel van onze job, en laat net daarin generatieve AI‑modellen zeer sterk zijn: papers, projectaanvragen voor budgetten, doctoraatsthesissen, code, … Maar zullen deze tools nu zorgen voor meer maatschappelijke impact door wetenschap te ondersteunen of zelfs te versnellen? Bepaalde AI‑ontwikkelingen waren zelf ooit een grote wetenschappelijke doorbraak, maar gaan we met hulp van AI nog grotere revoluties op de kaart zetten, ook in andere domeinen? Of gaat AI net de wetenschap vertragen omdat creativiteit verdwijnt en we niet meer ‘diep’ leren denken? Voer voor debat!

Met het HINT.GENT, een netwerk rond AI in de gezondheidszorg aan de UGent, nodigden we enkele professoren met diverse achtergronden uit om hierover van gedachten te wisselen. Katleen De Preter, professor en onderzoeker aan het Vlaams Instituut voor Biotechnologie en de UGent, en Erik Mannens, professor gespecialiseerd in artificiële intelligentie aan de UGent en UAntwerpen en auteur van het boek ‘Sustainable AI’. Daarnaast namen ook twee klinisch georiënteerde professoren deel aan het debat. Beiden hebben ook ervaring als editor bij Acta Clinica Belgica: Mirko Petrovic, geriater, en Marijn Speeckaert, nefroloog.

Verschillende topics stonden ter discussie, maar centraal stond de impact van (generatieve) AI op onderzoek. De algemeen gedragen conclusie: AI kan ondersteunend veel betekenen en wetenschap sneller doen vooruitgaan, zolang onderzoekers zelf creatief blijven denken. De impact van superintelligentie? Die is moeilijk in te schatten. Belangrijk is dat we als mens nog steeds zelf verantwoordelijk blijven voor wat we doen. Helaas kunnen we, net als bij AI-output, niet altijd alle mensen vertrouwen. We moeten dus een aantal zaken preventief aanpakken om de kwaliteit van wetenschap hoog te houden.

AI-evolutie of publicatierevolutie?

Wie publiceert, die blijft” wordt vaak gezegd onder academici. Het aantal papers in kwalitatieve wetenschappelijke tijdschriften bepaalt nog steeds in grote mate je carrière. Hoewel de UGent inzet op bredere criteria om academische kwaliteiten te meten, geven veel andere instellingen en financiers nog steeds de voorkeur aan publicaties tellen. De publicatiedruk wordt dus nog altijd sterk aangevoeld, ook door onze panelleden. Wie Engels niet als moedertaal heeft, kan met AI toch kwalitatieve teksten produceren. Dat leidt tot gretig gebruik.

Waar complexe teksten vroeger vaak ook als inhoudelijk bijzonder kwalitatief werden beschouwd, rijst nu de vraag of ze niet (deels) door AI zijn gegenereerd. Als het gebruik van AI beperkt blijft tot het opsmukken van taal en de onderliggende wetenschap authentiek en betrouwbaar is, vormt dat geen probleem. Helaas heeft niet iedereen deze intentie. Er bestaan inmiddels ook “paperfabriekjes” die met behulp van generatieve AI de ene publicatie na de andere produceren.

Voordat een paper met nieuwe bevindingen officieel wordt gepubliceerd in een wetenschappelijk tijdschrift, legt hij een lange weg af. Nadat alle (echte of AI gegenereerde) auteurs akkoord gaan met het manuscript, belandt het bij een editor van een wetenschappelijk tijdschrift. Deze tijdschriften durven vaak aanzienlijke bedragen aan te rekenen en vormen zo een industrie op zich. Ook in ons panel zetelden (voormalige) editors van wetenschappelijke tijdschriften, voor wie het geen sinecure is om kwaliteit te waarborgen en misbruik te detecteren. AI verslaan met AI door detectietools in te zetten die speuren naar deze AI gegenereerde manuscripten? Werkt niet echt. Momenteel detecteren deze tools vooral tekstuele aanpassingen, en zal dus de paper van de niet-Engelstalige onderzoeker die zijn tekst heeft opgesmukt maar geen inhoudelijke fraude pleegde, gesignaleerd worden als ‘volledig AI-gegenereerd’.

De papers ondergaan gelukkig een grondige kwaliteitscontrole via wat we het peerreviewproces noemen, denk je dan. Gevestigde onderzoekers lezen een manuscript en beoordelen of het sterk genoeg is voor publicatie. Maar onze panelleden beamen dat ze overspoeld worden met verzoeken om op vrijwillige basis manuscripten te reviewen: soms tot tientallen mails per week. Een degelijke review vraagt tijd en aandacht, waardoor onderzoekers noodgedwongen selectief zijn en zich vooral engageren voor toonaangevende tijdschriften. Het gevolg is dat er steeds minder controle is op de kwaliteit van publicaties buiten die categorie. Het idee om dit proces (gedeeltelijk) over te laten aan AI, wat vandaag soms al gebeurt, wordt door zowat iedereen in het panel resoluut afgewezen.

Misschien is de booming publicatie-industrie in combinatie met de AI-revolutie dan ook een vrijgeleide om het wetenschappelijk publiceren grondig te hervormen; het aantal papers reduceren en de echte kwaliteit behouden, in plaats van bedolven te worden onder niet-reproduceerbare of door AI gehallucineerde verhalen.

Tijd voor creativiteit

Programmeren gaat vandaag veel sneller dan vroeger (zelfs als het al even geleden is). Administratieve taken kunnen bovendien verder worden geautomatiseerd. Waar AI volgens sommige panelleden in the box denkt, is het net belangrijk dat onderzoekers out of the box blijven denken. De tijd die we winnen door bepaalde taken uit te besteden aan generatieve AI, zouden we als onderzoeker moeten herinvesteren in creativiteit. Alleen zo vergroten we de kans op echte wetenschappelijke doorbraken. Doen we dat niet, en laten we ook onze ideeën zonder eigen inbreng door generatieve AI produceren, dan dreigen veel onderzoekers uiteindelijk binnen hetzelfde speelveld te blijven.

Alle panelleden herkennen de valkuil van AI‑gebruik zonder voldoende begrip. Zeker jonge onderzoekers lopen het risico bepaalde vaardigheden niet meer ten volle te ontwikkelen: schrijven, maar ook redeneren en probleemoplossend denken. Daarom is het cruciaal om nog sterker in te zetten op het aanleren van kritisch denken, van jongs af aan en zeker bij de tieners van vandaag. Ze moeten vragen leren stellen bij de output die ze krijgen, maar ook de juiste tools aangereikt krijgen om informatie te kunnen valideren.

De avond loopt ten einde. Er rest nog één heikel punt: de kosten om AI te gebruiken stijgen. Betalende tokens moet je kopen (bovenop een abonnement) als je de meest krachtige algoritmes wil gebruiken. Sommige laboratoria spenderen nu al honderden euro’s per maand per doctoraatsstudent aan deze tokens voor de assistentie van AI. Financieel sterkere onderzoeksgroepen kunnen zich zo ook toegang verschaffen tot krachtigere modellen. Een laatste vraag wordt in de groep gegooid: kies je voor één doctoraatsstudent of het equivalent aan AI‑tokens? Gelukkig bleef iedereen resoluut kiezen voor de menselijke optie.