/

25 July 2023

OpenAI staakt AI-classificatietool vanwege lage nauwkeurigheid en zoekt naar betere tekstherkomsttechnieken

OpenAI, het gerenommeerde kunstmatige intelligentie (AI) onderzoekslaboratorium, heeft zijn AI-classificatietool stopgezet vanwege de lage nauwkeurigheid bij het vaststellen van de waarschijnlijkheid dat een tekstpassage door een andere AI is geschreven. Deze tool werd veel gebruikt om slordige cheats op te sporen, maar kreeg kritiek vanwege de onbetrouwbaarheid.

Het idee dat AI-gegenereerde tekst identificeerbare kenmerken of patronen heeft, is in de praktijk niet bewezen. Dit bleek ook uit een test van TechCrunch van AI-schrijfdetectietools. Deze tools bleken over het algemeen wisselvallig te presteren, waarbij de classificatietool van OpenAI slecht presteerde. OpenAI lanceerde de classificatietool met aanzienlijke beperkingen, maar sommige gebruikers vertrouwden toch op de resultaten ervan.

OpenAI heeft nu besloten de classificatietool offline te halen en is op zoek naar effectievere technieken voor tekstherkomst. Dit besluit komt op een interessant moment, aangezien OpenAI recentelijk vrijwillig de toezegging heeft gedaan om AI op een ethische en transparante manier te ontwikkelen. Bedrijven hebben zich geëngageerd om robuuste watermerk- en detectiemethoden te ontwikkelen, maar tot op heden zijn er nog geen betrouwbare methoden waargenomen.

Het ontwikkelen van een betrouwbare watermerk- of detectiemethode zou van grote waarde zijn. Het is wellicht overbodig om dit op te nemen in AI-akkoorden, aangezien het eerste bedrijf dat dit bereikt waarschijnlijk ruimschoots beloond zal worden.

Het lijkt erop dat de weg naar een betrouwbaar AI-detectiesysteem nog lang en vol uitdagingen is. Voorlopig moeten we ons bewust zijn van de beperkingen en de onbetrouwbaarheid van bestaande tools. Hoewel de toezegging van OpenAI om ethisch en transparant te handelen bemoedigend is, herinnert deze situatie ons eraan dat AI nog steeds een veld is dat volop in ontwikkeling is en waar veel ruimte is voor verbetering.