Ledande personer inom AI-branschen har kommit med en minst sagt överraskande bedömningen av teknikens potentiella faror. ”Chockerande”, säger rapportens författare.
Larmet: "5 procents risk för global AI-katastrof – i år"
Simon Kronö
Uppdaterad: 07 jan. 2025Publicerad: 06 jan. 2025
ANNONS
ANNONS
Mest läst i kategorin
Sedan den artificiella intelligensens guldrusch startade med buller och brak för två år sedan har techjättarnas aktier stigit till astronomiska höjder, samtidigt som tekniken – åtminstone inom Silicon Valley, målats upp i närmast utopiskt dager.
Men flera ledande AI-experter i Silicon Valley bedömer att risken för en AI-katastrof är betydligt högre än vad som kommuniceras offentligt – dock bakom lyckta dörrar.
Missa inte: AI-krisen: Slut på bränsle i techjättarnas kapplöpning. Realtid
Enligt en undersökning från analysföretaget Gladstone AI, som har gjorts på uppdrag av USA:s regering, uppskattar många branschinsiders att det finns omkring fem procents risk för att AI tar över kontrollen från människan innan årets slut.
”Det var chockerande… Det är en mycket högre siffra än jag hade föreställt mig”, säger Edouard Harris, teknisk chef på Gladstone AI, till Svenska Dagbladet.
Oklara mål
Berkeleyprofessorn Stuart Russell, en av världens ledande AI-forskare, jämför situationen med utvecklingen av kärnvapen.
Han varnar för att dagens AI-system är särskilt riskabla eftersom deras mål är oklara.
ANNONS
”De system som har dykt upp de senaste åren är ännu värre. Vi vet inte ens vilka mål de strävar mot”, säger Russell.
Läs mer: Nya AI-modellen: Ett gigantiskt steg – men till vilket pris? Dagens PS
ANNONS
”Bara en algoritm”
Rapportens slutsatser har dock mött motstånd. AI-specialisten Richard Socher, tidigare forskningschef på Salesforce, avfärdar farhågorna som överdrivna.
”Artificiell intelligens är ett fantastiskt verktyg, men det är bara en algoritm som kommer att förutsäga nästa tecken, så länge vi ber den om det”, hävdar han.
Missa inte: Så använder du som är 55+ AI för att boosta din karriär. News55
EU antog nyligen världens första heltäckande AI-lag som kategoriserar system efter risknivå och ställer krav på bolagen därefter.
Lagen träder i kraft gradvis mellan 2024 och 2026, medan USA fortfarande saknar federal lagstiftning på området.
ANNONS
Läs även: Varningen: AI-assistenter kommer att manipulera dig. Realtid
ANNONS
Läs mer från Realtid - vårt nyhetsbrev är kostnadsfritt:
ANNONS
ANNONS
Senaste nytt
ANNONS
