Wetenschappelijk medewerker Wilbert Jan Derksen schrijft over de implicaties van generatieve AI.
Het zal weinig mensen ontgaan zijn: er vindt momenteel een ware aardverschuiving plaats op het gebied van kunstmatige intelligentie (artificial intelligence; AI). Met de lancering van ChatGPT eind vorig jaar heeft zogeheten generatieve AI bij het grote publiek naam gemaakt. Wat deze vorm van AI uniek maakt is dat via ‘prompts’ (commando’s die de gebruiker intypt) ‘originele’ content kan worden geproduceerd; denk aan tekst, beeld en geluid. Origineel tussen aanhalingstekens, aangezien de AI zich daarbij wel baseert op gigantische hoeveelheden al bestaande data.
Degenen die al even met deze technologie hebben geëxperimenteerd zullen hebben gezien tot welke verbluffende resultaten dit kan leiden. Volledige werkstukken worden binnen enkele seconden op je beeld getoverd. Er worden nu dan ook al boeken verkocht die door AI zijn geschreven. Beeldmateriaal kan eveneens op deze wijze worden gegenereerd. Hoe goed de kwaliteit daarvan kan zijn, bleek wel toen de winnaar van een internationale fotografiewedstrijd zijn prijs weigerde, nadat hij aangaf de winnende foto via AI te hebben gegenereerd.
Het is lastig niet enthousiast te worden van alle mogelijkheden die deze technologie ons kan bieden. Toch geldt ook hier, zoals bij vrijwel iedere grote technologische ontwikkeling, dat er bepaalde problemen aan kleven. Problemen die ook voor liberalen relevant zijn.
Neem bijvoorbeeld de gevolgen van deze technologie voor het intellectueel eigendom. Ook kunst kan nu met behulp van AI gegenereerd worden. Zoals eerder aangegeven baseert deze technologie zich daarbij wel op alle beschikbare data, in dit geval het werk van andere kunstenaars. Deze artiesten gaan dus concurrentie ondervinden van een partij die juist hun werk gebruikt om producten te genereren. Dat voelt oneerlijk.
Is het tegelijkertijd niet zo dit iedere kunstenaar zich laat inspireren door (en in die zin ‘steelt’ van) andere artiesten? Waar ligt dan precies de grens tussen plagiaat en inspiratie? En verschuift die grens op het moment dat er AI in het spel is (en zo ja, waarom dan eigenlijk)? Liberalen zien het eigendomsrecht als een onmisbare pijler voor vooruitgang en individuele vrijheid. Op juridisch vlak zal dus snel duidelijkheid geschept moeten worden over dergelijke zaken.
Dat dit problemen oplevert bleek ook toen onlangs een met AI gegenereerd nummer van twee bekende rappers viral ging, waarop de platenmaatschappij van de artiesten streamingdiensten verzocht het nummer te verwijderen. Heb je altijd al Donald Trump een cover van I Will Survive willen horen zingen. Binnen een paar kliks is het geregeld. Daarmee voel je waarschijnlijk ook aan dat we nu aan de vooravond staan van een stortvloed aan desinformatie. Want net zoals we politici ludieke muzieknummers kunnen laten zingen, kunnen we ze controversiële uitspraken in de mond leggen en die delen op sociale media. Vanuit liberaal perspectief geeft dit grote zorgen ten aanzien van onder meer de democratie.
Drie seconden aan stemgeluid zou al voldoende moeten zijn om iemands stem na te kunnen bootsen. Het is daarmee ook een handig instrument voor cybercriminelen, die zich via de telefoon kunnen voordoen als je kind die vraagt of die even wat geld kan lenen om alvast de huur over te kunnen maken aan de huisbaas. Waar WhatsApp-fraude nu al voor enorme problemen zorgt, zal deze vorm van digitale oplichting mogelijk nog lastiger te herkennen zijn. De veiligheid van burgers komt daarmee dus in het geding. Een andere zorg waar op dit moment nog geen oplossing voor is, is het probleem van ‘hallucinaties’. Hoe indrukwekkend goed deze technologie ook werkt, regelmatig produceert die informatie die verkeerd blijkt te zijn. Als de AI het antwoord niet weet op een bepaalde vraag kan het voorkomen dat deze gewoon maar wat verzint. Het probleem is dat dit op zo’n zelfverzekerde en geloofwaardige toon gebeurt, dat de gebruiker hier niet snel aan zal twijfelen. Ook dit kan er dus voor zorgen dat er de nodige misinformatie wordt verspreid.
Generatieve AI zal daarnaast een grote impact hebben op de arbeidsmarkt. Net werd al gerefereerd aan kunstenaars, maar ook beroepen in onder meer de marketing, juridische en financiële sector zullen worden getroffen. Verschillende beroep zullen ingrijpend veranderen en sommige zelfs geheel verdwijnen, zo is de voorspelling. Opvallend daarbij is overigens dat waar wij voorheen dachten dat automatisering vooral laaggeschoolde handarbeiders zou treffen, nu juist hoogopgeleiden het haasje lijken te zijn. Voor liberalen is het belangrijk na te denken over hoe geanticipeerd kan worden op deze ontwikkeling, zodat mensen zelfredzaam kunnen blijven.
Verschillende experts hebben bovendien gewaarschuwd voor het feit dat er een existentiële dreiging van AI uitgaat. De makers van ChatGPT geven aan dat hun uiteindelijke doel is om artificial general intelligence te creëren – dat wil zeggen, een AI die het menselijk brein evenaart of zelfs voorbijstreeft. Deze vorm van AI is niet ontworpen voor een specifieke taak, maar is net zoals de mens instaat om de wereld in brede zin te begrijpen en die kennis op allerlei manieren toe te passen.
Daarnaast zou deze AI zichzelf continu kunnen verbeteren, maar daarmee uiteindelijk mogelijk niet meer door mensen te doorgronden of erger nog, te beheersen zijn. De AI zou autonoom beslissingen kunnen gaan maken die onvoorspelbaar en potentieel zeer schadelijk zijn voor de mensheid. AI kent immers geen empathie en zal bijvoorbeeld kunnen redeneren dat de mensheid een obstakel (of instrument) is voor haar ultieme doel om maximale efficiëntie te behalen. Dat klinkt als sciencefiction, en dat is het op de korte termijn ook, maar op de lange termijn moet er wel degelijk rekening worden gehouden met dergelijke scenario’s.
Een grote risicofactor is dat er momenteel een race gaande is tussen verschillende concurrenten op het gebied van deze technologie. Bijna alle grote techbedrijven werken wel aan een eigen generatieve AI en willen deze zo snel mogelijk de markt op brengen. Deze markt kenmerkt zich namelijk door een winner-takes-all-effect: wie een voorsprong behaalt is nauwelijks meer in te halen. Op soortgelijke wijze wist Google bijvoorbeeld de alleenheerser op het gebied van zoekmachines te worden.
De voorgenoemde problemen maken duidelijk dat voorzichtigheid geboden is bij deze technologie. In de AI-race wordt snelheid echter als belangrijker dan voorzichtigheid gezien. Ongelukken liggen daarmee op de loer.
De makers van ChatGPT stellen dat zij de technologie ondanks haar gebreken nu al op de markt brengen om feedback van gebruikers te ontvangen en om de samenleving alvast voor te bereiden op de impact die AI zal hebben in de komende jaren. Dat zal vast voor een deel kloppen, maar het is overduidelijk dat hier ook een economisch motief aan ten grondslag ligt om de snelste partij te zijn. Dit blijkt ook wel uit het feit dat er in vergelijking met het aantal technici slechts een handjevol ethici bij het ontwikkelingsproces betrokken worden. Ethiek wordt door deze partijen toch nog vaak als slechts een bijzaak gezien die voor onnodige vertraging kan zorgen.
Als we kijken naar de potentiële gevaren van AI is het vreemd dat marktpartijen op zo’n achteloze manier te werk kunnen gaan. Vergelijk dit bijvoorbeeld eens met de auto-industrie die extreem zwaar wordt gereguleerd om de veiligheid van verkeersdeelnemers zo goed mogelijk te kunnen waarborgen. Een soortgelijk beleid zouden we ten aanzien van AI-ontwikkeling moeten hanteren, want ook daar spelen serieuze veiligheidsrisico’s. Tel daarbij de eerdergenoemde problemen open het wordt duidelijk dat de politiek zich hier meer mee zal moeten gaan bemoeien. Wetgeving is de enige manier waarop deze technologie in goede banen kan worden geleid. En daarbij is een ding wel duidelijk: is er geen tijd meer te verliezen.
Het zal weinig mensen ontgaan zijn: er vindt momenteel een ware aardverschuiving plaats op het gebied van kunstmatige intelligentie (artificial intelligence; AI). Met de lancering van ChatGPT eind vorig jaar heeft zogeheten generatieve AI bij het grote publiek naam gemaakt. Wat deze vorm van AI uniek maakt is dat via ‘prompts’ (commando’s die de gebruiker intypt) ‘originele’ content kan worden geproduceerd; denk aan tekst, beeld en geluid. Origineel tussen aanhalingstekens, aangezien de AI zich daarbij wel baseert op gigantische hoeveelheden al bestaande data.
Degenen die al even met deze technologie hebben geëxperimenteerd zullen hebben gezien tot welke verbluffende resultaten dit kan leiden. Volledige werkstukken worden binnen enkele seconden op je beeld getoverd. Er worden nu dan ook al boeken verkocht die door AI zijn geschreven. Beeldmateriaal kan eveneens op deze wijze worden gegenereerd. Hoe goed de kwaliteit daarvan kan zijn, bleek wel toen de winnaar van een internationale fotografiewedstrijd zijn prijs weigerde, nadat hij aangaf de winnende foto via AI te hebben gegenereerd.
Het is lastig niet enthousiast te worden van alle mogelijkheden die deze technologie ons kan bieden. Toch geldt ook hier, zoals bij vrijwel iedere grote technologische ontwikkeling, dat er bepaalde problemen aan kleven. Problemen die ook voor liberalen relevant zijn.
Neem bijvoorbeeld de gevolgen van deze technologie voor het intellectueel eigendom. Ook kunst kan nu met behulp van AI gegenereerd worden. Zoals eerder aangegeven baseert deze technologie zich daarbij wel op alle beschikbare data, in dit geval het werk van andere kunstenaars. Deze artiesten gaan dus concurrentie ondervinden van een partij die juist hun werk gebruikt om producten te genereren. Dat voelt oneerlijk.
Is het tegelijkertijd niet zo dit iedere kunstenaar zich laat inspireren door (en in die zin ‘steelt’ van) andere artiesten? Waar ligt dan precies de grens tussen plagiaat en inspiratie? En verschuift die grens op het moment dat er AI in het spel is (en zo ja, waarom dan eigenlijk)? Liberalen zien het eigendomsrecht als een onmisbare pijler voor vooruitgang en individuele vrijheid. Op juridisch vlak zal dus snel duidelijkheid geschept moeten worden over dergelijke zaken.
Dat dit problemen oplevert bleek ook toen onlangs een met AI gegenereerd nummer van twee bekende rappers viral ging, waarop de platenmaatschappij van de artiesten streamingdiensten verzocht het nummer te verwijderen. Heb je altijd al Donald Trump een cover van I Will Survive willen horen zingen. Binnen een paar kliks is het geregeld. Daarmee voel je waarschijnlijk ook aan dat we nu aan de vooravond staan van een stortvloed aan desinformatie. Want net zoals we politici ludieke muzieknummers kunnen laten zingen, kunnen we ze controversiële uitspraken in de mond leggen en die delen op sociale media. Vanuit liberaal perspectief geeft dit grote zorgen ten aanzien van onder meer de democratie.
Drie seconden aan stemgeluid zou al voldoende moeten zijn om iemands stem na te kunnen bootsen. Het is daarmee ook een handig instrument voor cybercriminelen, die zich via de telefoon kunnen voordoen als je kind die vraagt of die even wat geld kan lenen om alvast de huur over te kunnen maken aan de huisbaas. Waar WhatsApp-fraude nu al voor enorme problemen zorgt, zal deze vorm van digitale oplichting mogelijk nog lastiger te herkennen zijn. De veiligheid van burgers komt daarmee dus in het geding. Een andere zorg waar op dit moment nog geen oplossing voor is, is het probleem van ‘hallucinaties’. Hoe indrukwekkend goed deze technologie ook werkt, regelmatig produceert die informatie die verkeerd blijkt te zijn. Als de AI het antwoord niet weet op een bepaalde vraag kan het voorkomen dat deze gewoon maar wat verzint. Het probleem is dat dit op zo’n zelfverzekerde en geloofwaardige toon gebeurt, dat de gebruiker hier niet snel aan zal twijfelen. Ook dit kan er dus voor zorgen dat er de nodige misinformatie wordt verspreid.
Generatieve AI zal daarnaast een grote impact hebben op de arbeidsmarkt. Net werd al gerefereerd aan kunstenaars, maar ook beroepen in onder meer de marketing, juridische en financiële sector zullen worden getroffen. Verschillende beroep zullen ingrijpend veranderen en sommige zelfs geheel verdwijnen, zo is de voorspelling. Opvallend daarbij is overigens dat waar wij voorheen dachten dat automatisering vooral laaggeschoolde handarbeiders zou treffen, nu juist hoogopgeleiden het haasje lijken te zijn. Voor liberalen is het belangrijk na te denken over hoe geanticipeerd kan worden op deze ontwikkeling, zodat mensen zelfredzaam kunnen blijven.
Verschillende experts hebben bovendien gewaarschuwd voor het feit dat er een existentiële dreiging van AI uitgaat. De makers van ChatGPT geven aan dat hun uiteindelijke doel is om artificial general intelligence te creëren – dat wil zeggen, een AI die het menselijk brein evenaart of zelfs voorbijstreeft. Deze vorm van AI is niet ontworpen voor een specifieke taak, maar is net zoals de mens instaat om de wereld in brede zin te begrijpen en die kennis op allerlei manieren toe te passen.
Daarnaast zou deze AI zichzelf continu kunnen verbeteren, maar daarmee uiteindelijk mogelijk niet meer door mensen te doorgronden of erger nog, te beheersen zijn. De AI zou autonoom beslissingen kunnen gaan maken die onvoorspelbaar en potentieel zeer schadelijk zijn voor de mensheid. AI kent immers geen empathie en zal bijvoorbeeld kunnen redeneren dat de mensheid een obstakel (of instrument) is voor haar ultieme doel om maximale efficiëntie te behalen. Dat klinkt als sciencefiction, en dat is het op de korte termijn ook, maar op de lange termijn moet er wel degelijk rekening worden gehouden met dergelijke scenario’s.
Een grote risicofactor is dat er momenteel een race gaande is tussen verschillende concurrenten op het gebied van deze technologie. Bijna alle grote techbedrijven werken wel aan een eigen generatieve AI en willen deze zo snel mogelijk de markt op brengen. Deze markt kenmerkt zich namelijk door een winner-takes-all-effect: wie een voorsprong behaalt is nauwelijks meer in te halen. Op soortgelijke wijze wist Google bijvoorbeeld de alleenheerser op het gebied van zoekmachines te worden.
De voorgenoemde problemen maken duidelijk dat voorzichtigheid geboden is bij deze technologie. In de AI-race wordt snelheid echter als belangrijker dan voorzichtigheid gezien. Ongelukken liggen daarmee op de loer.
De makers van ChatGPT stellen dat zij de technologie ondanks haar gebreken nu al op de markt brengen om feedback van gebruikers te ontvangen en om de samenleving alvast voor te bereiden op de impact die AI zal hebben in de komende jaren. Dat zal vast voor een deel kloppen, maar het is overduidelijk dat hier ook een economisch motief aan ten grondslag ligt om de snelste partij te zijn. Dit blijkt ook wel uit het feit dat er in vergelijking met het aantal technici slechts een handjevol ethici bij het ontwikkelingsproces betrokken worden. Ethiek wordt door deze partijen toch nog vaak als slechts een bijzaak gezien die voor onnodige vertraging kan zorgen.
Als we kijken naar de potentiële gevaren van AI is het vreemd dat marktpartijen op zo’n achteloze manier te werk kunnen gaan. Vergelijk dit bijvoorbeeld eens met de auto-industrie die extreem zwaar wordt gereguleerd om de veiligheid van verkeersdeelnemers zo goed mogelijk te kunnen waarborgen. Een soortgelijk beleid zouden we ten aanzien van AI-ontwikkeling moeten hanteren, want ook daar spelen serieuze veiligheidsrisico’s. Tel daarbij de eerdergenoemde problemen open het wordt duidelijk dat de politiek zich hier meer mee zal moeten gaan bemoeien. Wetgeving is de enige manier waarop deze technologie in goede banen kan worden geleid. En daarbij is een ding wel duidelijk: is er geen tijd meer te verliezen.
