De ontwikkeling van geavanceerde AI gaat zo snel dat overheden het tempo niet meer bijhouden, wat betekent dat we AI niet op tijd veilig kunnen houden. Dat zegt David Dalrymple, AI-veiligheidsexpert bij het Britse onderzoeksagentschap Aria.
Volgens Dalrymple is het geen sciencefiction dat AI binnen vijf jaar het meeste economisch waardevolle werk beter en goedkoper uitvoert dan mensen. “We zullen worden weggeconcurreerd op alle domeinen waarin we dominant móéten zijn om de controle te behouden over onze beschaving, samenleving en planeet”, waarschuwt hij tegen The Guardian.
Het probleem
Het probleem is dat we bovendien nog steeds niet weten hoe we zulke systemen betrouwbaar en veilig maken. Het komt er dus op neer dat AI zo snel beter wordt dat mens en overheid achterlopen, terwijl we nog niet weten hoe we zulke systemen onder controle houden als ze belangrijker en machtiger worden dan wij. We worden simpelweg weggeconcurreerd, beargumenteert hij.
“We kunnen er niet zomaar van uitgaan dat deze systemen betrouwbaar zijn. De wetenschap die dat moet onderbouwen gaat er door de economische druk waarschijnlijk niet op tijd komen.” Volgens hem kunnen we ons vanaf nu daarom het beste focussen op het beheersen en beperken van de nadelen.
Geavanceerde modellen verdubbelen elke acht maanden
Cijfers van het Britse AI Security Institute ondersteunen die zorg. De prestaties van de meest geavanceerde AI-modellen verdubbelen in sommige gebieden elke acht maanden. Waar AI vorig jaar nog nauwelijks zelfstandig complexe taken kon uitvoeren, lukt dat nu steeds vaker, soms zelfs zonder menselijke tussenkomst.
Dalrymple verwacht dat AI eind 2026 zelfstandig een volledige dag aan onderzoek kan uitvoeren, wat de ontwikkeling verder versnelt. “De mensheid wandelt grotendeels slapend deze overgang in”, zegt hij.
Over de auteur
