Oenighet om EU-lag för AI-baserad brottsidentifiering: ”Inte sannolikt med ett förbud”

Idag diskuteras artificiell intelligens på ett trepartsmöte mellan företrädare för Europaparlamentet, Europeiska unionens råd och Europeiska kommissionen. EU-ledamöterna vill ha ett förbud mot AI-styrda identifieringssystem i realtid inom rättsväsendet, medan ministerrådet tycker att detta ska kunna användas med hjälp av undantag. EU:s föreslagna kompromiss begränsar användandet till specifika fall, som exempelvis vid förbyggande av terrorattacker. AI-experten Ivana Bartoletti, som är Global Privacy Officer på it-företaget Wipro, säger till Realtid att hon inte tror att det kommer att införas ett förbud.

– Å ena sidan måste vi vara försiktiga. AI-styrd ansiktsidentifiering i realtid kan komma att påverka samhället, eftersom sättet vi beter oss på offentliga platser och hur vi interagerar med varandra kan förändras om man är, eller tror sig vara, övervakad. Ansiktsigenkänning kan potentiellt medföra djupt diskriminerande effekter, säger Ivana Bartoletti, och fortsätter:

– Å andra sidan verkar det inte särskilt sannolikt med ett förbud, med tanke på de så vitt skilda ståndpunkterna. Dessutom skulle inte ett fullständigt förbud enbart kunna härledas ur rättsliga principer för mänskliga rättigheter. Så sannolikt blir det en kompromiss, säger hon.

Hon påpekar att både EU-ledamöternas och ministerrådets ståndpunkter, samt det reglerande ramverket för användningen, behöver förbättras. Hon tror att det kommer att krävas fler kontroller, samt en ny dedikerad myndighet för att hantera införandet av AI-styrd ansiktsidentifiering i realtid.

– Lagen måste förtydligas för att begränsa den subjektiva tolkningen exempelvis gällande antal personer som kan ingå i övervakningslistor. Och vilka regler ska gälla för att en person offentligt ska få identifieras av kameror? Vi måste också vara mycket försiktiga med ”teknik-solutionism”, det vill säga idén om att teknologi nödvändigtvis kommer att lösa problem med djupa socioekonomiska och politiska rötter, säger Ivana Bartoletti.

Hon är övertygad om att EU:s diskussioner om realtidsanvändning av AI kan bli mycket långdragna till följd av förvirring kring terminologin, och med tanke på alla möjligheter som tekniken medför.