FN:s generalsekreterare António Guterres varnar för AI-terrorism.
Nu vill han starta ett FN-organ för att reglera den nya tekniken.
– AI-användning av terrorister kan leda till fruktansvärda nivåer av död och förstörelse, säger Guterres.
Artificiell intelligens (AIAIArtificiell intelligens (AI) är förmågan hos datorprogram och robotar att efterlikna människors och andra djurs naturliga intelligens, främst genom att lära sig saker av redan existerande information.) kan revolutionera många områden av samhället – men ses ibland som ett hot mot mänskligheten. I en intervju med Aftonbladet i april sa AI-experten Nick Bostrom att tekniken var ett större hot än klimatförändringarna – och menade att AI hade kapacitet att ta över jorden eller kolonisera universum.
– Vi kanske inte vet vilka planer den har förrän det är för sent. En avancerad AI med onda avsikter skulle ha strategiska motiv att dölja sina planer tills den var övertygad om att vi inte skulle kunna ändra eller stänga ner den, sa han.
Nu vill FN:s generalsekreterare António Guterres vidta åtgärder för att AI inte ska kunna hamna i terroristers händer.
– Den skadliga användningen av AI-system för terrorist-, kriminella eller statliga syften kan orsaka fruktansvärda nivåer av död och förstörelse, utbredda trauman och djupa psykiska skador i en ofattbar skala, sa Guterres under FN:s första säkerhetsråd om AI, som hölls på tisdagen.
Startar nytt AI-organ
Enligt generalsekreteraren, som talade på länk från New York, har AI-framkallade cyberattacker redan riktat in sig på FN:s fredsbevarande eller humanitära operationer.
Nu vill Guterres starta en ny FN-avdelning som ska jobba för att bemöta AI-hotet, på samma sätt som FN:s klimatpanel IPCC hanterar klimatförändringarna.
– Det övergripande målet för detta organ skulle vara att stötta länder att maximera fördelarna med AI, att mildra befintliga och potentiella risker, och att etablera och administrera internationellt överenskomna mekanismer för övervakning och styrning, sa han.
”Känner inga gränser”
Storbritannien var värd för säkerhetsrådet, där den brittiska utrikesministern James Cleverly delade generalsekreterarens oro för att AI ska hamna i fel händer.
– Vi behöver snarast forma den globala styrningen av transformativ teknik eftersom AI inte har några gränser, sa han i sitt öppningstal.
– Inget land kommer att vara oberört av AI så vi måste involvera och engagera den bredaste koalitionen av internationella aktörer från alla sektorer.
Guterres nämnde även i sitt tal att FN jobbar med AI i sitt arbete för fred och säkerhet, bland annat genom att ”identifiera våldsmönster och övervaka vapenvilor”.
