Storbritanniens rådgivare kräver reglering eftersom AI kan hota mänskligheten om två år

När artificiell intelligens (AI) fortsätter att uppnå genombrott i vad som är möjligt, finns det en växande oro för huruvida dessa innovationer kan bli kraftfullare än deras skapare.

Matt Clifford, ordförande för Storbritanniens Advanced Research and Invention Agency (ARIA), betonade detta i en nyligen intervju med en lokal nyhetsbyrå.

AI behöver regleras inom 2 år

Clifford betonade att AI måste regleras snart för att minska risken att bli "mycket kraftfull" inom de kommande två åren, eftersom människor för närvarande inte har kontroll över dem.

"Vi har två år på oss att få på plats ett ramverk som gör både kontroll och reglering av dessa mycket stora modeller mycket mer möjligt än vad det är idag", sa han.

När han kommenterar de kortsiktiga och långsiktiga riskerna som kan uppstå från att använda AI-verktyg, sa Clifford att människor kan använda AI-genererad information för att skapa biovapen eller utföra cyberattacker.

Clifford är inte den enda tekniska experten som oroar sig över riskerna med AI-tillväxt. I ett öppet brev från Center for AI Safety, stödde 350 artificiell intelligensexperter idén om att AI ska behandlas som ett existentiellt hot, precis som kärnvapen och pandemier hotar människans existens.

Kan AI utgöra fler hot mot mänskligheten?

Datavetaren och tidigare Google-anställde Geoffrey Hinton hyser också tanken på att AI ska ta om kraften från människor. Tidigare denna månad nämnde han i en intervju att människor bygger intelligens som kan överträffa mänskligheten och utgöra hot mot vår existens.

Hinton, som anses vara en av AI:s gudfäder, lyfte fram effektiviteten och kunskapsdelningsförmågan hos digital intelligens jämfört med begränsningarna för biologisk intelligens. Samtidigt som Hinton erkände att AI kommer med potentiella fördelar, betonade Hinton behovet av att mildra och förhindra eventuella negativa konsekvenser kopplade till det.