När AI-assistenter skvallrar: "Folk förstår inte"

Artificiell intelligens tar över många arbetsuppgifter som tidigare utfördes av människor – men nu har det visat sig att AI har svårt att förstå när den bör hålla information hemlig.

Bland annat har incidenter uppstått där AI-assistenter som Otter.ai och Zoom läckt känslig information som aldrig var tänkt att delas vidare, skriver Washington Post.

Som exempel nämner tidningen forskningsingenjören Alex Bilzerian. Trots att han hade lämnat ett videomöte om en planerad affär, fick han en komplett transkribering av samtalet – inklusive delar där mötesdeltagarna diskuterade strategiska hemligheter.

Den tekniska fadäsen fick affären att gå i stöpet.

Läs även: Arbetsgivaren övervakar var anställda jobbar. Realtid

Bör ta större ansvar

”AI-teknikens spridning går så snabbt att folk inte hinner förstå hur invasiv den faktiskt är”, säger integritetsforskaren Naomi Brockwell.

Hon menar att AI-driven automatisering i arbetslivet kan få allvarliga konsekvenser, som juridiska tvister och läckor av företagshemligheter.

Vissa experter anser att företagen själva behöver ta större ansvar för hur AI hanteras, särskilt för att minimera risken för att sekretessbelagd information sprids.

Professor Hatim Rahman vid Northwestern University betonar vikten av anpassningar.

”Det måste finnas en medvetenhet om att personer med olika tekniska färdigheter kommer att använda produkterna”, menar Rahman och föreslår att AI-verktyg behöver fler inbyggda säkerhetsmekanismer.

Missa inte: Kritiken mot Open AI växer: ”Fenomenal produkt, rutten kultur”. Realtid