/

21 July 2023

Opkomst AI-pornogeneratoren: ethische bezorgdheid en real-world consequenties

De opkomst van generatieve kunstmatige intelligentie, beter bekend als AI, gaat gestaag door. Dit leidt tot verbeteringen in allerlei gebieden, waaronder AI-gegenereerde pornografie. Deze ontwikkelingen hebben er voor gezorgd dat AI pornogeneratoren steeds meer op de voorgrond treden, met tal van gratis opties die nu beschikbaar zijn voor het grote publiek.

Deze ontwikkeling heeft echter ook geleid tot een groeiende bezorgdheid over de ethische aspecten en de real-world effecten van AI-gegenereerde pornografie. Een van de meest zorgwekkende ontwikkelingen is de toename van niet-consensuele deepfakes en het ontstaan van kinderpornografisch materiaal.

Unstable Diffusion is een groep die de ontwikkeling van AI pornogeneratoren leidt. Ondanks de ethische problemen die gepaard gaan met dit soort technologie, blijven ze hun platform doorontwikkelen. Unstable Diffusion maakt gebruik van modellen die zijn getraind op miljarden gecaptionde afbeeldingen en heeft vrijwilligers gerekruteerd om pornografische datasets te creëren voor het verfijnen van hun AI-modellen.

In de loop van de tijd is de kwaliteit van AI-gegenereerde pornografie verbeterd. De afbeeldingen worden realistischer en esthetisch aantrekkelijker. De groep is van plan om zich te ontwikkelen tot een software-as-a-service bedrijf. Ze bieden abonnementen op hun webapp aan om productverbeteringen te financieren.

Unstable Diffusion beweert een robuust systeem voor contentmoderatie te hebben geïmplementeerd om illegale of expliciete inhoud te blokkeren. Er zijn echter twijfels gerezen over de effectiviteit van dit systeem. Het blijkt namelijk dat het systeem soms expliciete afbeeldingen, waaronder kinderporno, niet blokkeert.

Unstable Diffusion wordt geconfronteerd met uitdagingen op het gebied van financiering en de ethische overwegingen die gepaard gaan met door AI gegenereerde kunst. Bovendien zijn er vraagstukken rondom instemming en compensatie voor kunstenaars. Omdat deze technologie zich nog in een stroomversnelling bevindt, blijft het van cruciaal belang dat we alert blijven op de ethische kwesties en de mogelijke real-world consequenties.