/

13 July 2023

Onderzoek FTC: Beschuldigingen van AI met schadelijke uitspraken en impact op toekomst AI.

De Amerikaanse Federal Trade Commission (FTC) bevindt zich in de verkenningsfase van een onderzoek naar OpenAI. Dit onderzoek komt voort uit beschuldigingen dat de conversatie AI van OpenAI, genaamd ChatGPT, valse, misleidende, denigrerende of schadelijke uitspraken over individuen heeft gedaan.

Het onderzoek van de FTC suggereert dat er meer actie wordt ondernomen dan alleen het waarschuwen van de AI-industrie voor mogelijke overtredingen. Dit blijkt uit een 20 pagina’s tellende brief die de FTC naar OpenAI heeft gestuurd. In deze brief wordt informatie gevraagd over klachten betreffende denigrerend gedrag. Dit nieuws werd onlangs door de Washington Post gerapporteerd.

In het licht van de toenemende zorgen over misleidende praktijken in de technologiesector heeft de FTC eerder al een Bureau voor Technologie opgericht. Het is de taak van dit bureau om onder andere de beweringen van AI-bedrijven te controleren.

OpenAI staat wereldwijd bekend als een van de leiders binnen de AI-industrie. Naar aanleiding van dit onderzoek wordt van hen verwacht dat ze zich verantwoorden voor de aantijgingen. Gewoonlijk start de FTC onderzoeken op basis van rechtszaken of formele klachten die duiden op niet-naleving van de regelgeving.

Er is een mogelijkheid dat een rechtszaak waarbij een Australische burgemeester betrokken was, het onderzoek heeft getriggerd. Deze burgemeester beweerde dat ChatGPT valse beschuldigingen tegen hem had geuit.

Mogelijk staat ChatGPT in het licht van deze beschuldigingen bloot aan aantijgingen van smaad of laster. Dit zou flinke schade aan de reputatie van het AI systeem kunnen toebrengen.

Een belangrijk aspect van de zaak zijn de technische details. Er moet bijvoorbeeld nog bewezen worden of de acties van ChatGPT als publicatie of spraak kunnen worden gerekend.

Het onderzoek zoekt van OpenAI een verklaring voor de systematische en ondetecteerbare uitvinding van details over individuen op grote schaal. Dit zijn zeer serieuze beschuldigingen, en het is aan OpenAI om hun systemen en hun aanpak te verdedigen en uitleg te geven over de werking van hun AI, in het bijzonder hoe het systematisch en onopgemerkt details over individuen kan verzinnen.

OpenAI zal ongetwijfeld de komende tijd onder een vergrootglas liggen, terwijl ze zich proberen te rechtvaardigen tegenover deze aantijgingen en het onderzoek van de FTC. De uitkomst van dit onderzoek zal ongetwijfeld impact hebben op hoe we in de toekomst naar AI en de mogelijke risico’s ervan kijken.