/

25 July 2023

Experts benadrukken beveiliging en samenwerking voor veilige AI-technologieën

Vooraanstaande experts in AI-onderzoek verschenen voor de Senaatscommissie voor Justitie om te praten over AI-technologie en de mogelijke risico’s ervan. Onder hen bevonden zich Dario Amodei, Yoshua Bengio en Stuart Russell, die elk hun zorgen uitten en suggesties deden over hoe de voortdurende ontwikkeling van deze technologie veilig kan worden gehouden.

Dario Amodei, een bekende naam in de wereld van AI, benadrukte de noodzaak om de AI-toeleveringsketen te beveiligen en test- en controlemethoden te ontwikkelen. Volgens Amodei is het cruciaal om te waarborgen dat de elementen die bijdragen aan de ontwikkeling van AI veilig en betrouwbaar zijn, om mogelijke risico’s tot een minimum te beperken.

Yoshua Bengio, een andere gevierde expert in de AI-wereld, legde sterk de nadruk op het beperken van de toegang tot grootschalige AI-modellen. Daarnaast pleitte hij voor wereldwijde samenwerking in AI-veiligheidsonderzoek. Volgens Bengio is het van cruciaal belang om AI-ontwikkeling te zien als een wereldwijde inspanning, waarbij landen en organisaties samenwerken om optimale veiligheidsnormen en -procedures te waarborgen.

Stuart Russell, een autoriteit op het gebied van AI, stelde voor om het recht te creëren om te weten of men interactie heeft met een persoon of een machine. Ook pleitte hij voor een verbod op algoritmen die kunnen besluiten om mensen te doden. Russell betoogde dat het essentieel is om te waarborgen dat de menselijke waardigheid en veiligheid voorop staan ​​in de evolutie van AI-technologie.

Alle drie de experts wezen op de behoefte aan meer financiering voor basisonderzoek om test-, audit- en handhavingsschema’s te ondersteunen die gebaseerd zijn op rigoureuze wetenschap. Ze identificeerden risico’s zoals desinformatie, deepfakes en externe impactcampagnes die gebruikmaken van gepersonaliseerde AI.

Ze erkenden de versnipperde staat van inspanningen om AI te labelen, watermerken en detecteren. Russell wees specifiek op de aanzienlijke hoeveelheid geld die wordt geïnvesteerd in AI-startups en riep op tot verhoogde financiering voor AI-veiligheid.

Het Chinese voortouw in AI werd als enigszins overdreven beschouwd, maar ze werden erkend als leidend op het gebied van surveillancetechnologieën. De experts waren het erover eens dat ondanks sommige overdrijvingen, de vooruitgang die China heeft geboekt op het gebied van AI niet lichtvaardig kan worden opgevat.

De experts concludeerden dat er dringend een overheidsorgaan moet worden opgericht om de regelgeving van AI aan te pakken en een productief gebruik ervan te waarborgen. Ze waren unaniem van mening dat de voortdurende ontwikkeling en implementatie van AI de dringende noodzaak van effectieve en tijdige regulering onderstreept.

In het licht van deze uitspraken is het duidelijk dat AI een technologie is die met zorg moet worden aangepakt, met een uitgebalanceerde mix van innovatie en regulering. De inzichten van deze experts bieden niet alleen een waardevol perspectief op de huidige staat van AI-ontwikkeling, maar benadrukken ook de dringende noodzaak om het pad naar de toekomst van AI te beveiligen.