keskiviikko 20. heinäkuuta 2016

Robottiautosi voi uhrata sinut

Yhdysvalloissa keskustellaan siitä, miten robottiautot tulisi ohjelmoida onnettomuustilanteiden varalta. Jos paha kolari on väistämätön, kumpi autoista uhraa itsensä ja matkustajansa?

Keskustelu on aika teoreettista. Todennäköisesti robottiautojenkin kolarit tulevat olemaan niin äkillisiä ja yllättäviä, ettei edes tietokone pysty laskemaan asiassa matemaattisia ratkaisuja. Ihmiskuljettajalta niitä ei odotetakaan: on vain luonnollista, että kumpikin kuljettaja yrittää pelastaa itsensä ja autonsa. Mutta robottiautojen pitäisi toimia järkevämmin näissäkin tilanteissa, muutoin vastuu siirtyy autojen ohjelmoijalle.

Voidaan kuvitella esimerkiksi tilanne, jossa auto joutuu luistoon ja ajautuu päin vastaantulijaa. Miten robottiauton pitäisi reagoida, mikäli tie on jyrkänteellä tai sitä reunustavat paksut puut? Väistäminen voi aiheuttaa suuremman riskin kuin kolarin vastaanottaminen, etenkin jos autoilla on tuntuva paino-ero.

Mahdollisia ratkaisuja on useita. Robottiauto voi pyrkiä suojelemaan sitä autoa, jossa on enemmän ihmisiä, tai joiden selviäminen on todennäköisintä. Toinen vaihtoehto on suojella syytöntä osapuolta (tosin kuka on syyllinen, jos robottiauto joutuu esim. vesiliirtoon -- ohjelmoijako?). Kolmas vaihtoehto on valita arvalla, kumpi väistää, ja tehdä päätöksestä täysin neutraali.

Robottiautot voivat neuvotella yhteisen toimintamallin tai arpoa ratkaisun sekunnin murto-osassa, mutta niidenkään on mahdotonta hahmottaa törmäyksen kaikkia jälkiseurauksia esimerkiksi takana tuleviin muihin autoihin ja kävelijöihin. Ja jos toinen osapuoli on tavallinen auto, tietoa matkustajien määristä, autojen massoista ja nopeuksista ym. laskelmien pohjaksi ei ole edes saatavissa.

Visainen juttu siis.

Kun aihetta on kysytty yleisöltä, kanta mahdollisimman monen ihmisen suojelusta voittaa, mikä onkin loogista. Mutta liikenne ei ole logiikkaa.

Haluaisitko itse astua robottiautoon, jonka tietäisit uhraavan sinut kylmästi, mikäli toisessa autossa on usempia (tai nuorempia) matkustajia? On ihan OK, että kolareissa pelastetaan mahdollisimman monta ihmistä -- kunhan minä en ole mukana. Jos olen, haluan että autoni pelastaa aina minut.

Tästä puolestaan seuraa, ettei kukaan suostu nousemaan autoon, jonka kolarikäyttäytyminen on puhdasta matematiikkaa. Jos siihen pakotetaan, tulemme näkemään mielenkiintoisia modauksia, joilla robottiauto saadaan aina luulemaan, että auto on täynnä ihmisiä. Tai sitten väistöalgoritmia peukaloidaan niin, että siitä tulee mahdollisimman edullinen itselle mutta haitallinen vastapuolelle.

Ainoa järkevä ratkaisu on tehdä robottiautoista alunperinkin niin itsekkäitä kuin mahdollista, jolloin ne suojelevat omaa kuljettajaansa loppuun asti. Tämä tietenkin mitätöi ne hyödyt, joita robottiautoilta kolaritilanteissa piti saada. Vaikutukset liikenteen kokonaisturvallisuuteen voivat olla jopa kielteisiä.

Ehkä koko kysymys on puhtaasti filosofinen ja siten tarpeeton. Emme tule hyväksymään autoja, jotka hätätilanteessa tekisivät päätöksiä ihmisen puolesta. Robotti tai ei, viime kädessä ihmisen täytyy vastata autostaan.

7 kommenttia:

Jari kirjoitti...

Modaamisesta voidaan rankaista jälkikäteen. Toki tuomiot kuolemantuottamuksesta ovat nykyäänkin lieviä... Kaikissa autoissa pitäisi ehdottomasti olla mustalaatikko, joka tallentaa auton koordinaatit esim. 3 kuukaudeksi. Miksi autoilua katsotaan läpi sormien?

Anonyymi kirjoitti...

Mielenkiintoista ja tärkeää. Ehkä näitä vielä tarvitaan: A robot may not injure a human being or, through inaction, allow a human being to come to harm. A robot must obey orders given it by human beings except where such orders would conflict with the First Law. A robot must protect its own existence as long as such protection does not conflict with the First or Second Law.

Nörtti kirjoitti...

Luulenpa, että jos robottiautoilta (tai ohjelmoijilta siis) aletaan vaatimaan kolaritilanteissa toimimiselta monitavoiteoptimointia ihmishenkien suhteen, niin homman vaikeusaste tosiaan karkaa käsistä.

On huomattava, että kukaan ei ole koskaan edellyttänyt, että robottiautot eivät ajaisi kolareita. Ja tuskinpa tällaista koskaan edellytetäänkään. Robottiautoille tässä suhteessa, minun tulkintani mukaan, tullaan sallimaan vähän samantyyppisiä "erehtymisen" mahdollisuuksia kuin ihmisellekin. Tätä voisin perustella esim. sillä, että Teslan mahdollisesti aiheuttama kuolonkolari ei hetkauttanut robottiautojen etenemistä sen kummemmin. Kaikkihan me sen hyväksymme, että liikenteessä kuollaan.

Oma veikkaukseni on, että robottiautoa tullaan lopulta käsittelemään itsellisenä toimijana liikenteessä. Tämä siis toimintalogiikan ja juridisten vastuiden osalta.
(autojen yhteistoimintaa tämä ei tokikaan sulkisi pois)
Veikkaan myös, että kun edellytyksiä robottiautoille aletaan määritellä, pohjaksi otetaan kuin otetaankin ihmisen toiminta liikenteessä. Näitä edellytyksiä ja sääntöjä sitten myöhemmin iteratiivisesti kehitetään käytäntö-lainsäädäntö-oikeusistuin -akselilla (kyllä, kyllä näen jo kuolaavan lakimieslauman mielessäni).

Se, mitä minä en sallisi (ja kenties eivät monet muutkaan) on liikenneturvallisuuden lasku robottiautojen käytön tähden. Mutta riittäkö meille, että liikenneturvallisuus pysyisi nykyisellä tasolla, jos robottiautoja aletaan käyttää laajasti?
Tällöinhän oikeastaan ainoa etu, mitä saavutettaisiin on ihmistyömäärän säästö kun auto ajaa itsestään.

Kannattaa myös huomata, että robottiautokonseptin idea on vapauttaa ihminen kokonaan ajamiseen liittyvästä työstä. Esim. tavarankuljetus tulisi toimimaan kokonaan ilman ajajaa. Ja jos aikomuksena on vaikkapa lomamatka, lomatunnelmaan varmaan heittäydyttäisiin jo heti autossa (pitäisiköhän robottiauton tässä tilanteessa osata ajaa suoraan lentokoneen viereen ja kipata kyytiläinen odottamaan koneeseen nostamista... ;) Tällöin ainoa kuljettaja, joka mistään mitään vastaa on juurikin robottiauto, ei ihminen.


Petteri Järvinen kirjoitti...

Tilastojen mukaan 95 % onnettomuuksista johtuu inhimillisistä syistä. Robottiautojen on luvattu poistavan nämä tapaukset. Tästä syystä muutamat uskovat jopa ihmisautoilun kieltämiseen.

Anonyymi kirjoitti...

Voihan olla, että algoritmeihin lisätään tiedot autossa olijoiden terveydentilasta, iästä ja mahdollisesta hyödyllisyydestä yhteiskunnalle. Varakkaammat voivat ostaa selviytymisbonuksia.

Anonyymi kirjoitti...

Järvinen: "-- Tästä syystä muutamat uskovat jopa ihmisautoilun kieltämiseen."

Kun robottiautot ovat kehittynyt niin pitkälle, että ne voivat korvata ihmisautoilijat, väistämättä eteen tulee kysymys, miksi ihmisautoilijoiden sallitaan aiheuttavan niin paljon hengenmenetyksiä ja loukkaantumisia liikenteen muille osapuolille (etenkin robottiautojen matkustajille!). Olen varma, että lopulta ihmisautoilu tullaan kieltämään julkisilla teillä.

Järvinen: "-- Robotti tai ei, viime kädessä ihmisen täytyy vastata autostaan."

Minua suuresti huvittaa tämä paljon puhuttu kuljettajan "vastuu" - miten se käytännössä ilmenee? Aiheutettuaan kuolonkolarin syyllinen osapuoli joutuu maksamaan liikennevakuutuksen omavastuun (yleensä 150 €), ja jonkinlaiset sakotkin tuomioistuin taitaa tempusta määrätä, mutta se siitä. Toki syyllisen löytäminen aina lämmittää, mutta menetettyjä ihmishenkiä ei vaan saa takaisin...

jaska kirjoitti...

Eiköhän parasa ole tehdä robottiautosta itsekäs, niin kuin ihmiskuljettajatkin ovat. Sellaisia autoja ihmiset mielummin ostaisivat, jolloin liikenneturvaliisuus paranee nopeimmin. Lisäksi robottiauton käytös on silloin paremmin ennakoitavaa ja esimerkiksi toisilleen tuntemattomat robottiautot (eivät juttele keskenään) voivat kolaritilanteessa ennakoida muiden käytöstä ja välttyä osallistumasta onnettomuuteen.

Website Security Test