Nye data fra spillet Moral Machine kaster klarhed over, hvordan vi vil have selvkørende biler til at opføre sig, hvis en ulykke er uundgåelig. Men der forskellige præferencer i forskellige lande.
En selvkørende bil kommer kørende hen mod en fodgængerovergang. Bremserne svigter, og med barrierer i begge sider af vejen har bilen ikke mulighed for at undvige. En ældre mand og en lille dreng er på vej over fodgængerfeltet fra hver sin side af vejen. Hvem skal bilen ramme?
I den vestlige verden vil de fleste ofre den gamle mand, så den lille dreng kan overleve. I østen skeler de ikke til alder.
Forskellen er bare én blandt mange, som er kommet for dagens lys med en ny offentliggørelse af data fra Moral Machine.
Her har alle siden 2014 haft muligheden for at tage stilling til, hvad en selvkørende bil skal gøre i en række ubehagelige situationer, hvor en ulykke er uundgåelig. Og hvor brugeren derfor er blevet tvunget til at rangordne værdien af blandt andet direktører, hjemløse, gravide og overvægtige.
Læs også: Danskerne er utrygge ved selvkørende biler
Skal have diskussion
Spillet blev flittigt delt på sociale medier. Siden 2014 har deltagere fra det meste af verden forholdt sig til næsten 40 mio. dilemmaer. MIT, der står bag Moral Machine, har set nærmere på, hvor de enkelte besvarelser kommer fra. Det giver et hidtil uset overblik over et omtåleligt emne, som hidtil kun er blevet behandlet på statsligt niveau i Tyskland. Men som offentligheden ifølge MIT bliver nødt til at forholde sig til.
“Aldrig før i historien har vi tilladt en maskine at bestemme egenhændigt, hvem der skal leve, og hvem der skal dø,” skriver rapportens forfattere.
De tilføjer, at det kan komme til at ske når som helst nu. Og at det tilmed kommer til at ske i en situation, vi alle har tæt på livet: den daglige transport.
“Før vi lader biler træffe etiske beslutninger, er vi nødt til at have en global diskussion, så vi kan give udtryk for vores præferencer over for de selskaber, der laver de moralske algoritmer, og til politikerne, der regulerer dem,” skriver MIT.
Læs mere: Tyskland har regler for selvkørende biler på plads – Danmark venter
Regionale forskelle
Det bliver dog sin sag at lovgive efter de konklusioner, som MIT’s data peger på. For der er store forskelle i befolkningens præferencer, alt efter hvor i verden, man spørger.
For eksempel er tilbøjeligheden til at ofre hunde eller katte til fordel for mennesker ikke så entydig i vesten, som den er i sydlige eller østlige regioner.
I sydlige regioner, der fortrinsvist består af latinamerikanske lande, bliver social status vægtet højere end i vesten og i østen. Altså skal direktøren prioriteres over den hjemløse, hvis det er de to valgmuligheder.
En anden interessant observation er forskellen på, om fodgængere skal straffes for at gå over for rødt. Altså om den selvkørende bil skal skåne en fodgænger, hvis personen er på vej over for grønt. Men ofre fodgængeren, hvis personen går over for rødt.
Her har MIT fundet ud af, at desto højere velstand, der er i et land, desto mindre tolerante bliver folk over for fodgængere, der krydser vejen ulovligt. Omvendt skelner indbyggere i fattigere lande ikke i samme grad mellem, om der er rødt eller grønt lys, når det gælder spørgsmålet om fodgængerens liv.
Den økonomiske lighed i et land spiller også ind. Hvis der er relativt lille forskel mellem rig og fattig, er heller ikke de store præferencer mellem, om den hjemløse eller direktøren må lade livet.
Læs også: Ubers selvkørende bil opdagede fodgænger seks sekunder før dødsulykke
Hypotetisk diskussion?
MIT påpeger, at diskussionen om selvkørende bilers etiske beslutninger er vigtig. Forskerne bag artiklen med data, der er blevet publiceret i tidsskriftet Nature, påpeger da også, at undersøgelsen på trods af de usædvanligt mange respondenter er meget mere simpel, end virkeligheden er og bliver for selvkørende transportmidler.
I Moral Machine kan trafikanter og fodgængere enten dø eller overleve. Den selvkørende bil kan ikke bare kende forskel på ung og gammel, men også på rig og fattig, kriminel og lovlydig.
På trods af det – og på trods af de regionale og kulturelle forskelle på svarene – ser MIT håb for fremtiden.
“Det faktum, at store dele af verden udviser relativ enighed, viser, at vores rejse imod fælles etiske standarder for maskiner ikke er dødsdømt fra starten,” skriver MIT.
Læs også: Movia: Her er erfaringerne fra forsøget på Køge Sygehus
Over for Uden Hænder har Danmarks transportminister, Ole Birk Olesen (LA), tidligere afvist at tage initiativ til at følge Tysklands eksempel med at tage stilling til etiske dilemmaer ved selvkørende transport.
”Når vi har indhentet erfaringer fra de første faser af forsøgsordningen, og når teknologien er blevet mere avanceret, har vi et bedre grundlag for at diskutere mulige etiske dilemmaer, der følger med,” sagde han dengang i et skriftligt svar til Uden Hænder.
Den danske forsøgsordning med selvkørende transport udløber i 2022. Ordningen har kørt siden 2017, og der er endnu ikke givet tilladelse til forsøg.
Læs mere: Et år senere – stadig ingen selvkørende forsøg i Danmark
