Europaparlamentets utskott för rättsliga frågor föreslår ett gemensamt regelverk för självkörande bilar och andra robotar. I den rapport som presenterades på torsdagen väcks också nytt liv i tanken på att erkänna robotar som elektroniska personer.
”From Mary Shelley's Frankenstein's Monster to the classical myth of Pygmalion, through the story of Prague's Golem to the robot of Karel Čapek, who coined the word, people have fantasised about the possibility of building intelligent machines, more often than not androids with human features. Now that humankind stands on the threshold of an era when ever more sophisticated robots, bots, androids and other manifestations of artificial intelligence ("AI") seem poised to unleash a new industrial revolution, which is likely to leave no stratum of society untouched, it is vitally important for the legislature to consider all its implications.”
Så inleder Mady Delvaux sin rapport om behovet av ett regulatoriskt ramverk för utveckling och användning av robotar. Enligt rapporten står vi inför en ny industriell revolution som sannolikt kommer påverka alla delar av samhället.
- A growing number of areas of our daily lives are increasingly affected by robotics. In order to address this reality and to ensure that robots are and will remain in the service of humans, we urgently need to create a robust European legal framework, säger hon i en kommentar.
Läs också: Yttrandefrihet för robotar? Siri-ously?
I rapporten föreslås bl a ett frivilligt etiskt ramverk för utvecklare:
”Researchers in the field of robotics should commit themselves to the highest ethical and professional conduct and abide by the following principles:
- Beneficence – robots should act in the best interests of humans;
- Non-maleficence – the doctrine of ‘first, do no harm’, whereby robots should not harm a human;
- Autonomy – the capacity to make an informed, un-coerced decision about the terms of interaction with robots;
- Justice – fair distribution of the benefits associated with robotics and affordability of homecare and healthcare robots in particular.”
Utskottet föreslår också:
- Inrättandet av ett organ som kan vägleda myndigheter på området
- Krav på obligatoriska försäkringar vid användning av självkörande fordon
- Att kommissionen följer utvecklingen på arbetsmarknaden och att resurser avsätts för att hantera eventuella förändringar
- Att frågan om huruvida robotar bör erkännas som ”elektroniska personer” tas upp för övervägande
Den sistnämnda frågan har varit uppe för diskussion tidigare. I oktober presenterades en studie enligt vilken vi bör förbereda oss för stora omställningar. Exempelvis kan skadeståndsrätten och immaterialrätten kan behöva anpassas när mer eller mindre självständiga maskiner börjar orsaka skador och skapa egna verk. Studiens författare vänder sig dock mot tanken på en särskild rättslig status för elektroniska personer:
"Doing so risks not only assigning rights and obligations to what is just a tool, but also tearing down the boundaries between man and machine, blurring the lines between the living and the inert, the human and the inhuman."
Studien tar också upp scenariot att maskiner på sikt kan bli mer överlevnadsdugliga än människor – som då kan bli förlorare i det naturliga urvalet. Därför bör vi redan nu ta fram regler för utveckling av AI. Isaac Asimovs robotlagar (se nedan) bör enligt författarna inte användas för att styra robotars agerande eller för att för att skydda mänskligheten (Europakonventionen för de mänskliga rättigheterna anses fullt tillräcklig). Däremot bör vi, enligt studien och enligt den rapport som presenterades igår, ta fram frivilliga etiska regelverk för utvecklare. Bl a föreslås att robotar ska gå att stänga av vid behov och att utvecklare i vissa situationer bör göra källkoden tillgänglig.
Sci-fi-författaren Isaac Asimovs "robotlagar" beskrivs första gången i novellen Runaround från 1942:
1 Robotar ska inte skada människor eller tillåta att människor skadas
2 Robotar ska följa människors instruktioner, så länge det inte innebär ett brott mot regel 1
3 Robotar ska skydda sig själva, så länge det inte innebär ett brott mot regel 1 eller 2
Han lade senare till regeln att robotar inte ska skada mänskligheten eller tillåta att mänskligheten kommer till skada.
I First Law, Cal och Sally skriver han om robotar som av olika skäl väljer att bryta mot reglerna. Senare författare har föreslagit kompletteringar, som att robotar bör programmeras att vara ”medvetna” om att de är robotar. Reglerna, eller varianter på dem, återkommer i filmer som I, Robot, Alien, Robocop, Bicentennial Man och i HBO:s TV-serie Westworld. I filmen Ex Machina saknar roboten liknande regler - utvecklaren avsåg inte att maskiner och människor skulle samexistera.
Fredrik Svärd
[email protected]
Läs också:
Sci-fi-böckerna varje jurist bör läsa
Yttrandefrihet för robotar? Siri-ously?
Hur straffar man en robot?
Google tar fram regler för robotar
Ska självkörande bilar kunna välja att offra människoliv?
