Generative Adversarial Networks, of GAN's, zijn een van de meest fascinerende concepten in de moderne AI. Ze bestaan uit twee neurale netwerken die tegen elkaar strijden in een soort nulsomspel.

Stel je een kunstvervalser en een kunstcriticus voor. De vervalser (de Generator) probeert een schilderij te maken dat niet van echt te onderscheiden is. De criticus (de Discriminator) probeert te bepalen of het schilderij echt is of een vervalsing. In het begin is de vervalser niet erg goed en de criticus kan de vervalsingen gemakkelijk herkennen. Maar elke keer dat de criticus een vervalsing ontdekt, leert de vervalser van zijn fouten en wordt hij beter. Tegelijkertijd wordt de criticus, door het zien van steeds betere vervalsingen, ook beter in het herkennen ervan.

Dit proces gaat door totdat de generator zulke overtuigende vervalsingen maakt dat de discriminator ze niet meer van echt kan onderscheiden. Op dat moment heeft de generator geleerd de onderliggende verdeling van de echte data te vangen en kan hij volledig nieuwe, realistische data creëren.

GAN's staan bekend om het genereren van extreem scherpe en realistische afbeeldingen, maar ze kunnen notoir moeilijk te trainen zijn. De delicate balans tussen de generator en de discriminator kan gemakkelijk verstoord raken, een probleem dat bekend staat als 'mode collapse'.

Variational Autoencoders (VAE's) benaderen het genereren van data op een andere manier. In plaats van een competitief spel, gebruiken ze een encoder-decoder architectuur.

De Encoder neemt inputdata, zoals een afbeelding, en comprimeert deze tot een vereenvoudigde, compacte representatie. Dit is niet zomaar een samenvatting; het is een probabilistische beschrijving in een zogenaamde 'latente ruimte' (latent space). In plaats van een enkel punt te creëren, definieert de encoder een gebied van mogelijke punten waar de input zich zou kunnen bevinden.

De Decoder doet het tegenovergestelde. Het neemt een willekeurig punt uit deze latente ruimte en probeert de originele data te reconstrueren. Omdat de latente ruimte continu is, kun je door kleine stapjes in deze ruimte te nemen vloeiende overgangen tussen verschillende outputs genereren. Je kunt bijvoorbeeld een gezicht van een lachende persoon geleidelijk veranderen in een fronsend gezicht.

VAE's zijn over het algemeen stabieler om te trainen dan GAN's, maar produceren vaak iets wazigere afbeeldingen. Hun kracht ligt in de controleerbare en interpreteerbare latente ruimte, wat ze nuttig maakt voor taken als het aanpassen van attributen in data.

De volgende stap in generatieve AI is multimodaliteit. Dit betekent dat modellen niet beperkt zijn tot één type data, maar meerdere 'modaliteiten' tegelijk kunnen begrijpen en genereren, zoals tekst, afbeeldingen, geluid en video.

Een bekend voorbeeld is een model dat een tekstuele beschrijving (prompt) als input neemt en een volledig nieuwe afbeelding genereert die bij die beschrijving past. Deze systemen leren de complexe relaties tussen woorden en visuele concepten. Ze begrijpen niet alleen wat een 'astronaut' is en wat 'paardrijden' is, maar kunnen deze concepten combineren op een manier die logisch is, zelfs als ze nog nooit een afbeelding van een paardrijdende astronaut hebben gezien.

Deze technologie combineert vaak de kracht van transformermodellen (bekend van taal-AI) met generatieve technieken om rijke, contextuele output te creëren.

Het veld van generatieve AI evolueert razendsnel. Naast GAN's en VAE's zijn er nieuwe architecturen die dominant zijn geworden.

Diffusiemodellen: Dit is de technologie achter veel state-of-the-art beeldgeneratoren zoals Stable Diffusion en DALL-E 2. Ze werken door stapsgewijs ruis aan een afbeelding toe te voegen tijdens de training, en leren vervolgens dit proces om te keren. Om een nieuwe afbeelding te genereren, beginnen ze met pure ruis en 'denoisen' ze dit stapsgewijs tot een coherent beeld.

Transformers voor alles: De transformer-architectuur, die oorspronkelijk is ontwikkeld voor taalverwerking, wordt nu toegepast op bijna elke modaliteit, inclusief beeld, geluid en video. Hun vermogen om lange-afstandsrelaties in data te modelleren maakt ze extreem krachtig en veelzijdig.

Een belangrijke trend is de focus op efficiëntie en controle. Onderzoekers werken aan het verkleinen van modellen zodat ze op consumentenhardware kunnen draaien, en aan het ontwikkelen van technieken om de output van generatieve modellen nauwkeuriger te sturen.

Deze geavanceerde modellen vormen de voorhoede van wat mogelijk is met AI, en de ontwikkelingen blijven in een adembenemend tempo doorgaan.