Hur transparenta kan nätföretagen bli?

5/4/2018

Finn Myrstad, Forbrukerrådet, och Kari Laumann, Datatilsynet

Enskilda har rätt till information om hur persondata behandlas. Men hur ska företag som Google kunna förklara hur deras AI fungerar så att användare förstår när utvecklarna knappt gör det själva?

När jag lyssnade på Max Schrems föreläsning om hans arbete med att få Safe Harbor-beslutet ogiltigförklarat vid Nordic Privacy Arena häromåret var det som gäst. Förra året fick jag förmånen att planera den andra upplagan av konferensen. Begreppet transparens gick som en röd tråd genom programmet - ett tema som inte blivit mindre aktuellt givet vinterns diskussioner om plattformarnas hantering av data och den förestående övergången från dataskyddsdirektiv till dataskyddsförordning.

Vi diskuterade bl a Cambridge Analytica och demokratin, smarta städer och övervakning, uppkopplade leksaker och inte minst den så kallade black box-problematiken - hur vet vi vilka beslut självlärande algoritmer fattar när utvecklarna själva har svårt att överblicka hur de fungerar?

Kari Laumann, jurist vid norska Datatilsynet, presenterade myndighetens rapport om dataskydd och artificiell intelligens. Hon berättade om hur tekniken används inte bara för att förbättra sökmotorer utan också för att exempelvis diagnostisera sjukdomar och för att upptäcka skattebedrägerier och näthat. Utvecklingen går mot mer personliga tjänster, vi får bättre tjänster i utbyte mot persondata. Samtidigt är det viktigt att vi kan lita på att informationen inte missbrukas och att vi inte känner oss konstant övervakade, menar Laumann.

Dataskyddsförordningen ger enskilda rätt till begriplig information om hur personuppgifter behandlas, och innehåller en särskild bestämmelse om helt automatiserade beslut. Företag blir alltså skyldiga att förklara vad som händer i den "svarta lådan" på ett lättfattligt sätt.

- Good luck with that, tillade Laumann.

- Det räcker inte att en läkare säger att svaret är "42", man måste förklara hur man kom fram till resultatet, sade IBM:s CTO Mikael Haglund i ett panelsamtal om AI och integritet med Per Meyerdierks, jurist vid Google, Stanley Greenstein, forskare i rättsinformatik vid Stockholms universitet (läs min intervju med Greenstein om hans avhandling om predictive modeling här) och Rebecka Cedering Ångström, director vid Ericsson Networked Society Lab.

Meyerdierks menade att det finns gränser för hur transparenta verktygen kan bli, åtminstone i förhållande till konsumenter. Eftersom vi inte förstår hur människor fungerar fullt ut använder vi "black boxes to solve black boxes", menade han. Meyerdierks betonade dock vikten av att tillse att verktyg är transparenta i förhållande till experter. Rebecka Cedering Ångström instämde i att konsumenter inte kommer kunna förstå hur AI:n fungerar, och tillade att kontroll kan vara mer intressant än insyn. Se diskussionen här:

Electronic Privacy Information Center, EPIC, har verkat för stärkt integritetsskydd och ökad transparens sedan 1994 och har bl a drivit mål mot Google och Uber. EPIC:s president, professor Marc Rotenberg, talade i sin inledande keynote om organisationens arbete för att undersöka Rysslands eventuella inblandning i det amerikanska presidentvalet och om de mål EPIC drivit mot bl a NSA, IRS och FBI. Läs mer och se keynoten i dess helhet här.

FN:s privacyrapportör Joe Cannataci och Eticas grundare Gemma Clavell talade om bl a övervakning, lagstiftning och smarta städer, Finn Myrstad vid norska Forbrukerrådet om dockan Cayla, Erik O Wennerström (Brottsförebyggande rådet) och Erika Wiking Häger (Mannheimer Swartling) om outsourcing mot bakgrund av turerna kring Tansportstyrelsen och Maria Corazza Bildt om förhandlingarna om dataskyddsreglerna i Bryssel.

Peter Wright, grundare av DigitallawUK, talade om internationella datatransfers i ljuset av Brexit och utvecklingen i USA efter presidentvalet. Jag och Peter diskuterar och sammanfattar konferensen nedan. Lyssna också på Juridikinstitutets podcast från konferensen. 2018 års upplaga av Nordic Privacy Arena går av stapeln 12-13 november.