Moeten we bang zijn voor een AI-pandemie?

Onzekere tijden

Het mag niet als een ver­rass­ing komen dat het weten­schap­pelijke vak­blad Sci­ence deze zomer een onder­zoek bracht waaruit bleek dat er met behulp van arti­fi­ciële intel­li­gen­tie volledi­ge virale genomen samengesteld kun­nen wor­den. Al jaren waren er in het AI-debat weten­schap­pers die waarschuw­den voor cat­a­stro­fale scenario’s waarin men met behulp van AI als het ware een super­virus zou kun­nen creëren, met alle gevol­gen van dien voor de glob­ale gezond­heid. Nu is die dreig­ing dus een stap con­creter gewor­den.

Hoe evolueert dit verder? Als reac­tie op enkele vra­gen in het kad­er van dit artikel stelde een pro­fes­sor com­pu­ta­tionele biolo­gie dat hij “geen glazen bol” had. Elke uit­spraak over de verdere ontwik­kelin­gen van arti­fi­ciële intel­li­gen­tie in het domein van biowapens is en bli­jft een vorm van spec­u­latie, hoe bear­gu­menteerd die ook kan zijn. Dit artikel beperkt zich daarom tot twee vra­gen: wat kan AI van­daag al, en hoe moet men daarmee omgaan?

Over de waarschi­jn­lijkheid van nieuwe biol­o­gis­che wapen­pro­duc­tie – een risic­o­cat­e­gorie hoger dus -, waar de mod­ellen vooral­snog niet toe in staat zouden zijn, is nog min­der duidelijkheid.

Wat kan AI vandaag?

De arti­fi­ciële intel­li­gen­tie die de meeste mensen ken­nen en gebruiken, is wat men noemt de gen­er­al-pur­pose AI, die ingezet kan wor­den voor een brede waaier aan tak­en – denk aan Chat­G­PT (Ope­nAI), Gem­i­ni (Google) en Claude (Anthrop­ic). Hoewel je er soms wat naar moet zoeken, geven de bedri­jven achter deze mod­ellen op basis van interne en externe eval­u­aties aan hoe ver de capaciteit­en van hun bots reiken. Qua biol­o­gis­che capaciteit­en is de rode draad in deze eval­u­aties dat er wordt nage­gaan of het mod­el een actor met relatief beperk­te ervar­ing en mid­de­len sig­nif­i­cant kan bijs­taan en ver­beteren in het creëren van een (reeds bestaande) biol­o­gis­che bedreig­ing.

Voor Ope­nAI ver­taalt het ver­mo­gen van een AI-sys­teem tot de zonet beschreven vorm van bij­s­tand zich in een “hoge capaciteit in het biol­o­gis­che en chemis­che domein”. Chat­G­PT Astra 6 valt bin­nen deze cat­e­gorie, maar Ope­nAI nuanceert dat men vooral pro­vi­soir tot die con­clusie gekomen is. Voor Anthrop­ic komt dit ver­mo­gen neer op een “CB-1-niveau”, een cat­e­gorie die wordt toegepast op alle recentste Claude-mod­ellen. Google beschri­jft boven­staande capaciteit­en dan weer met de cat­e­gorie “CBRN CCL Uplift Lev­el 1”. De Gem­i­ni 3‑modellen hebben deze CCL-Uplift 1 “niet bereikt”.

Dat is de the­o­rie. Hoe groot die capaciteit­en dan in prak­tijk zijn, is niet alti­jd duidelijk. “We zijn nog steeds in sig­nif­i­cante mate onzek­er over de werke­lijke mate van risi­co van onze mod­ellen”, schri­jft Anthrop­ic in een recent Risk Report. Over de waarschi­jn­lijkheid van nieuwe biol­o­gis­che wapen­pro­duc­tie – een risic­o­cat­e­gorie hoger dus -, waar de mod­ellen vooral­snog niet toe in staat zouden zijn, is nog min­der duidelijkheid. Daaren­boven is er nog een heel pro­ces van DNA-syn­these en gerichte ver­sprei­d­ing nodig om een ontwerp van een virus als het ware uit een beeld­scherm fysiek in de echte wereld te kri­j­gen.

Naast deze LLM’s komt een ander, mogelijks grot­er risi­co van gespe­cialiseerde biol­o­gisch gerichte AI-sys­te­men. Deze mod­ellen wor­den vaak gebruikt voor weten­schap­pelijk onder­zoek. Zij zijn gebaseerd op dezelfde foun­da­tion mod­els als de LLM’s, laat prof. Vanes­sa Ver­meirssen weten, die onder andere kan­keron­der­zoek ver­richt met behulp van AI, “maar de con­tex­tu­al­isatie en het gebruik van domain-spe­cif­ic knowl­edge is key.” De AI in haar vakge­bied werkt bijvoor­beeld met mol­e­c­u­laire data in plaats van taal als input. 

Met zo’n gespe­cialiseerd biol­o­gisch AI-sys­teem heeft men aan de Uni­ver­siteit van Stan­ford dus een viraal genoom gecreëerd. Hier moet benadrukt wor­den dat dit vooral­snog gaat om bac­te­ri­ofa­gen. Deze kun­nen dus enkel bac­ter­iën, geen mensen, infecteren. Desal­ni­et­temin wordt in een besprek­ing van het onder­zoek gewaarschuwd dat de meth­o­d­en in het onder­zoek in kwest­ie, indi­en zij suc­cesvol toegepast zouden kun­nen wor­den op het gener­eren van “eukary­oot-infecterende patho­genen”, kun­nen lei­den tot “nieuwe patho­genen die mensen, dieren of planten kun­nen infecteren op manieren die niet onder con­t­role kun­nen wor­den gehouden door bestaande tegen­maa­trege­len.”

Wat nu?

De dis­cussie over AI en biowapenproductierisico’s is echter beza­aid met mit­sen en maren. Die dis­cussie wordt enkel com­plex­er wan­neer men probeert na te denken over hoe met dit risi­co om te gaan. 

De vraag is dan wat zwaarder door­weegt: de risico’s of de voorde­len van deze krachtige tech­nolo­gie?

Een belan­grijk debat is of men biol­o­gis­che AI-capaciteit­en moet beperken. We hebben hier immers te mak­en met een tweesni­j­dend zwaard: wan­neer zij voor slechte inten­ties gebruikt wor­den, kun­nen de hoge biol­o­gis­che capaciteit­en van arti­fi­ciële intel­li­gen­tie schadelijke resul­tat­en hebben. Ander­som kun­nen die capaciteit­en erg voordelig zijn voor de weten­schap. De vraag is dan wat zwaarder door­weegt: de risico’s of de voorde­len van deze krachtige tech­nolo­gie?

“Voor ons vakge­bied (meer het bio­medis­che) ben ik van mening dat AI gereg­uleerd moet wor­den om de ethis­che gren­zen niet te over­schri­j­den,” aldus prof. Ver­meirssen. “Het prob­leem is dat er een knowl­edge gap is tussen AI-ontwikke­laars, AI-gebruik­ers en de mensen die de wet­ten daar­rond vast­leggen. De AI-ontwik­kel­ing gaat razend­snel.”

De geschiede­nis van de mod­erne weten­schap kent vel­er­lei voor­beelden van razend­snel ontwikke­lende tech­nolo­gieën met poten­tieel gigan­tis­che risico’s die (vooral­snog) niet geleid hebben tot het einde van de wereld. Of dat in de toekomst zo zal bli­jven, ligt nu voor een deel in onze eigen han­den, maar is zo goed als zek­er onmo­gelijk te voor­spellen. “Yes­ter­day is his­to­ry. Tomorrow’s a mys­tery. Today is a gift – that’s why they call it the present”, vat­te een wijze schild­pad eens mooi samen. Aan de weten­schap én de samen­lev­ing om dat geschenk te koesteren.