AI-assistenter väntas göra sitt stora intåg nästa år. Det låter väldigt bekvämt, men är också en teknik som skrämmer slag på filosofer.
Varningen: AI-assistenter kommer att manipulera dig
Daniel Jacobs
Uppdaterad: 23 dec. 2024Publicerad: 23 dec. 2024
ANNONS
ANNONS
Mest läst i kategorin
Wired förutspår att under 2025 så kommer personliga AI-assistenter att slå igenom på bred front, en utveckling av den generativa AI-tekniken som bland annat Google och Open AI jobbar på.
AI-assistenterna agerar som en kompis – de vet vilka dina vänner är, kan ditt schema, har koll på din ekonomi, vilka butiker du besöker både i verkligheten och på nätet, vad du läser, vad du gillar att göra på fritiden, och så vidare.
Missa inte: Manifestation 2.0 – när AI gör tankar till handling. Realtid
Med all den informationen tillhanda kan assistentens algoritmer påminna dig så du inte glömmer viktiga saker, föreslå nästa resa, fylla din shoppingkorg i förväg och plocka fram de bästa böckerna som passar just dig. AI-systemen kan tyckas svara på alla våra önskemål.
Infiltrerar psyket
Bekvämt? Absolut. Men också livsfarligt, enligt Wired.
Makten att anpassa verkligheten efter individens preferenser gör att AI-assistenterna får förmågor att skapa ekokammare som får traditionella metoder av ideologisk kontroll som censur, propaganda och repression att se barnsliga ut.
Läs även: Jakten på AI:s verkliga fördelar: ”Enormt”. Realtid
ANNONS
”I kontrast fungerar dagens algoritmiska styrning under radarn och infiltrerar psyket”, skriver Wired .
ANNONS
”Farligaste i mänsklighetens historia”
Vi tror att vi själva styr AI-assistenterna, men makten ligger i själva designen av systemet.
Visst kanske vi litar på Google och Open AI:s varianter, men vad sker om en illvillig agent får kontroll över systemen? Det kan leda till en typ av mardrömsamhälle med tankekontroll och manipulation som inte ens George Orwell kunde föreställa sig.
Missa inte: Chatbots uppmanade barn till självskadebeteende och mord. Dagens PS
”Dessa förfalskade människor är de farligaste artefakterna i mänsklighetens historia de distraherar och förvirrar oss och genom att utnyttja våra mest oemotståndliga rädslor och oro kommer de att leda oss in i frestelser och, därifrån, till att acceptera vår egen underkastelse”, skrev filosofiprofessorn och neuroforskaren Daniel Dennett innan sin död tidigare i år.
Läs även: Manifestation 2.0 – när AI gör tankar till handling. Realtid
Läs mer från Realtid - vårt nyhetsbrev är kostnadsfritt:
ANNONS
ANNONS
Senaste nytt
ANNONS
