Den som vänder sig till kundtjänst får ofta tala med en chattbot numera. Men om den ger fel svar kan det bli dyrt för företaget.
Felaktiga AI-svar kan stå företag dyrt: "Många attacker"
Johannes Stenlund
Uppdaterad: 03 apr. 2025Publicerad: 03 apr. 2025
ANNONS
ANNONS
Mest läst i kategorin
ANNONS
Lär dig av AI-experterna
I KORTHET
- Hackare kan manipulera öppna AI-modeller med skadlig kod som överbelastar system eller ger felaktiga svar.
- Företag köper ofta AI-modeller från aktörer som Open AI, men höga kostnader gör att mellanstora företag vänder sig till öppna alternativ.
- AI används allt mer inom kundtjänst, men felaktiga svar kan leda till juridiska och ekonomiska konsekvenser.
Sammanfattat med hjälp av AI och kvalitetssäkrat av Realtid
AI har blivit en central del av många företags verksamhet. Fler och fler företagsledare vill använda sig av AI-verktyg, antingen för internt bruk eller för att underlätta för kunder.
Detta utgör inte bara stora möjligheter, utan också en risk.
Missa inte: Så stoppar du hackaren – tre enkla steg. Realtid
Hackare utnyttjar nämligen den artificiella intelligensen för att utföra attacker mot företag på ett nytt sätt, skriver Business Insider.
”Många attacker”
Ett företag som vill använda AI bygger sällan en stor språkmodell (som ChatGPT) helt från grunden eftersom det är både tidsödande och svårt.
Det är vanligare att man köper in en modell från ett AI-företag som Anthropic eller Open AI. De har tagit fram sina egna modeller som de sedan säljer till näringslivet.
ANNONS
Miljonkupp mot Kina – hackare erbjuds drömlön
En mystisk aktör söker hackare för att ta över kinesiska webbsidor. Oklara motiv och löften om stora summor väcker frågor.
Men även detta kostar en hel del pengar och alternativet är sällan tillgängligt för mellanstora företag. Då återstår alternativet att ta in en modell med öppen källkod.
Det är här som risken kommer in. En sådan modell kan nämligen innehålla skadlig kod från hackare som av någon anledning vill företaget ont.
”Vi ser många, många attacker”, säger Yuval Fernbach, som är teknisk chef på mjukvaruföretaget Jfrog.
Missa inte: AI-hajpen möter den krassa verkligheten. Realtid
ANNONS
Senaste nytt
Företag kan få betala
Ett vanligt angrepp är att införa kod som överbelastar modellen och göra att den slutar att svara efter ett tag.
Skadlig kod kan också göra att modellen ger felaktiga svar – vilket kan bli kostsamt. 2024 fick Air Canada betala omkostnaderna för en resenär som hade fått felaktig information om en förmån hos företaget, skriver Forbes.
ANNONS
Allt fler företag använder sig också av artificiell intelligens inom kundtjänsten. Klarna har gått i bräschen och har ersatt 700 kundtjänstmedarbetare med AI.
Ryska hackare attackerade Firefox-användare
En rysk hackargrupp, känd som RomCom, har utnyttjat två tidigare okända sårbarheter.
Läs mer från Realtid - vårt nyhetsbrev är kostnadsfritt:
Johannes Stenlund
Journalist med fokus på ekonomi och näringslivsfrågor.
Johannes Stenlund
Journalist med fokus på ekonomi och näringslivsfrågor.
ANNONS
Lär dig av AI-experterna
På Al Unlocked får du en halvdag med fyra av Sveriges mest framstående AI-experter - för dig som vill gå från nyfiken till kunnig. Få 20 % rabatt med koden RealtidUnlocked
Boka här
ANNONS
ANNONS
Senaste nytt
ANNONS
ANNONS