Sisältöön
tampereen yliopisto: yhteiskuntatieteiden tiedekunta: tutkimus: rose – robotit ja hyvinvointipalvelujen tulevaisuus: blogit:
Yhteiskuntatieteiden tiedekuntaTampereen yliopistoYhteiskuntatieteiden tiedekunta
Blogit

Lokakuu 2016

Arto Laitinen

Pitäisikö robottiautojen antaa tappaa yksi vai viisi? Pitäisikö kysymys ottaa vakavasti?

South Park -TV-sarjassa hahmo ”Kenny” kuolee joka jaksossa. Kuolema on karnevalisoitu, ja sarjassa on jollain tapaa onnistuttu pitämään idea tuoreena - se jaksaa hymyilyttää kerta toisensa jälkeen, teho perustuu toistoon.

MIT:n ”Moral Machine” – nettisivun visualisoijat ovat South Parkinsa nähneet. Siinä on skenaarioita, joissa itsestään ohjautuva auto joko ajaa suoraan ja tappaa ihmisiä tai kurvaa ja tappaa toisia ihmisiä. Nettisivu on visuaalisesti karnevalisoiden toteutettu empiirinen versio moraalifilosofian nk. trolliongelmista (trolley problems). Niissä karannut raitiovaunu tai junanvaunu (trolley) on ajautumassa kuolettavasti kohti viittä ihmistä, ja sen voisi ohjata sivuraiteelle, jolloin tuolla raiteella oleva kuolee. Saako niin tehdä?

Monet pitävät trolliongelmia absurdeina, ja niitä onkin parodisoitu runsaasti. Oma suosikkiparodiani on yksinkertainen, eikä oikeastaan parodia vaan kotivideo – isä on leikin kesken asettanut kaksivuotiaan ”ratkaisemaan” trolliongelman ja kaksivuotiaan ratkaisu ei ole mikään moraalifilosofien yleensä kuvittelemista.

Miksi kysymys on ongelma moraalifilosofiassa? Pitäisikö se myös ottaa vakavasti robottiautoja ohjelmoitaessa?

Moraalifilosofiassa ongelma on aito. Kaksi parhaiten tunnettua moraalifilosofista kantaa, Kantin velvollisuusetiikka ja seurausetiikka ovat monista tapauksista samaa mieltä. Niiden erot tulevat parhaiten esiin tapauksissa, joissa kysytään voisiko yhdelle uhrille tuottaa vahinkoa, jotta estetään vahingon tuottaminen monille muille. Karkeistaen velvollisuusetiikka katsoo, että näin ei saa tehdä koska se rikkoisi uhrin moraalisia oikeuksia, ja seurausetiikka katsoo, että ainoa oikea ratkaisu on minimoida vahingot, jos niitä ei voi tyystin estää.

Kuvitellut tapaukset ovat monesti parhaita, koska niissä voidaan keskittyä vain niihin piirteisiin, jotka ovat relevantteja testattavien periaatteiden kannalta. Epärelevantit seikat voidaan laittaa syrjään, kuten se sattuuko olemaan tiistai vai keskiviikko, onko mahdollisilla uhreilla päällä siniset vai vihreät housut jne.

Onko uhrien määrällä väliä? Jos on, onko aina moraalisesti oikein minimoida uhrien määrä keinolla millä hyvänsä?

Kantilainen moraalifilosofia korostaa jokaisen moraalista statusta, jokaisella ihmiselämällä on ääretön arvo. Tämä teoria uhkaa joutua eräänlaiseen oikosulkuun, kun syntyy valintatilanne, jossa kahden ihmiselämän ääretön arvo asetetaan vastakkain; kun kysytään onko viattomien uhrien määrällä väliä: jos jokainen on jo äärettömän arvokas, niin määrällä ei voine enää olla väliä?

Vaunutapaukset havainnollistavat kuitenkin, että velvollisuuseettinen eli deontologinen moraalifilosofia ei joudu oikosulkuun, vaan kykenee erottelemaan eri tapauksia: joissain tapauksissa on moraalisesti sallittua ohjata juna raiteelle, jossa vain yksi viaton henki menetetään viiden sijaan, vaikka olisi esimerkiksi väärin tuupata sivullinen junan eteen pysäyttämään se, ennen kuin se osuu viiteen muuhun. Missä tapauksissa tarkalleen ottaen? Juuri tämän kysymyksen tarkasteluun karanneiden vaunujen skenaarioita on luotu. Keskeinen ero tuntuu olevan siinä, kohdellaanko jotakuta ”pelkkänä välineenä”.

Joidenkin kriitikoiden mukaan joko ajatuskokeet sinänsä ovat periaatteessakin huono menetelmä, tai juuri trollitapaukset ovat epäonnistuneita, koska jättävät syrjään monia relevantteja tekijöitä: miksi ihmiset ovat raiteilla? Onko heillä oikeus olla siellä? Onko joku minun läheiseni? Jne. Nämä vastaväitteet olisivat osuvia vain, jos vaunutapauksia käyttävät filosofit sanoisivat että vain lukumäärällä on väliä. Kukaan ei ajattele näin. Hyvin monella asialla on väliä, ja kaikki näistä tulee ajatella läpi. Mutta koska myös hengen pelastamisella on väliä, on motivoitu kysymys onko aina moraalisesti oikein minimoida uhrien määrä keinolla millä hyvänsä. Vakuuttavaa argumenttia, että kyse olisi moraalisesti epärelevantista ongelmasta ei ole esitetty, ja tuskin tullaan esittämäänkään.

Moraalifilosofiassa karanneiden trollien ongelmille on siis hyvä motivaatio. Ongelma on saanut laajempaa julkisuutta erityisesti itsestään ohjautuvien autojen tapauksessa. Toisaalta on ymmärrettävää, että juuri robottiautojen kohdalla ongelma herää, toisaalta ei. Monet teknologiat aiheuttavat ydinvoimasta tavallisiin autoihin ihmishenkien menetyksiä – miksi niiden kohdalla ei puhuta yhtä lailla etiikasta? Ovatko trollitapaukset paras tai osuvin moraalifilosofinen lähtökohta? Onko moraalifilosofia ylipäätään oikea lähtökohta robottiautojen vastuukysymyksiin, pitäisikö aloittaa lainsäädännön resursseista? Pitäisikö autojen aina olla mielekkäässä ihmisten kontrollissa?

On ymmärrettävää, että juuri itseään ohjaavuus ja sijoittuminen julkisiin tiloihin (joissa voi herkemmin olla sivullisia uhreja kuin vaikka teollisuushalleissa) pakottaa ohjelmoimaan autot toimimaan tavalla tai toisella mainitun kaltaisissa valintatilanteissa. Mikä tahansa menetelmä valitaan (esim. ajetaan aina suoraan, suojellaan aina sivullisia eikä kyydissä olijoita jne.), sillä on seurauksensa. Eräs kanta tosin mahdollistaisi valitsematta jättämisen laitteen valmistusvaiheessa: painotettu arvonta (weighted lottery), joka olisi satunnaislukugeneraattoreilla teknisesti mahdollista toteuttaa itseään ohjaavissa autoissa. Silloin kun yhden uhraaminen viiden hengen pelastamiseksi olisi sallittua (kyse ei ole pelkkänä välineenä kohtelusta) mutta ei velvoittavaa, kone voisi arpoa mitä tekee, painottaen jokaista henkeä saman verran.  Tätä, niin kuin muitakin ratkaisuvaihtoehtoja, on toki kritisoitu monin tavoin (ei tosin ehkä vielä robottiautoihin sovellettuna).

Lopuksi The Moral Machine –sivustosta kaksi huomiota: miksi ihmeessä uhreista mainitaan näennäisen epärelevantteja seikkoja kuten se, onko kyseessä ”large man” vai ”large woman”? Moraalifilosofisessa trollikeskustelussa on edes jokin motiivi puhua ”lihavasta miehestä”, joka on sen kokoinen, että raiteelle tuupattuna massallaan saa junan pysähtymään: se on osa tarinan kulkua, joskin moraalisesti muutoin epärelevantti seikka. Mutta miksi sillä olisi väliä minkä kokoinen jokin viiden uhrin joukossa oleva henkilö on? Ehkä Moral Machine – sivusto ei ole ajatellut asiaa loppuun asti.

Tai ehkä on: ehkä tarkoitus on juuri tuoda esiin, että minkä tahansa linjan valitsemme, hyvin perustein, niin saattaa satunnaisesti olla, että uhrien joukossa päätyy olemaan tilastollisesti joidenkin epärelevanteiksi katsomiemme ominaisuuksien edustajia. Ehkä kuolonuhreja tulee enemmän tiistaisin kuin keskiviikkoisin, vihreään pukeutuneista kuin siniseen pukeutuneista – vaikka näillä seikoilla ei ole ollut lainkaan painoarvoa päätöksenteossa. Mutta todellisessa maailmassa, jos valitut kategoriat ovat ”isokokoinen vs ei”, ”nainen vs mies”, ”rodullistettu vs valkoinen” ja kun tiedämme että vallalla on seksistisiä ja lihavuutta hysterisoivia asenteita, niin tilastollisesti varsin suuri osuus naisia ja isokokoisia ja rodullistettuja jonkin politiikan aktuaalisissa uhreissa saattaa olla merkki siitä että valitut periaatteet eivät olekaan näissä suhteissa neutraaleja, vaan kyse on esim. piilorasismista.

 

 
Ylläpito: soc.info@uta.fi
Muutettu: 13.10.2016 15.27 Muokkaa

Tampereen yliopisto

Tampereen yliopisto
03 355 111
kirjaamo@uta.fi


KARVI-auditoitu HR Excellence in Research

YLIOPISTO
Tutkimus
Opiskelijaksi
Ajankohtaista
Yhteistyö ja palvelut
Yliopisto

AJANKOHTAISTA
Aikalainen
Avoimet työpaikat
Rehtoriblogi
Tampere3

PALVELUT
Aktuaarinkanslia
Avoin yliopisto
Hallinto
Kansainvälisen koulutuksen keskus
Kielikeskus
Kielipalvelut
Kirjaamo
Kirjasto
Liikuntapalvelut
Viestintä
Tietohallinto
Tutkimuspalvelut
Täydennyskoulutus
Tietoarkisto
» lisää palveluita

OPISKELU
Opetusohjelma
Opinto-oppaat
Opiskelijan työpöytä

SÄHKÖISET PALVELUT
Andor-hakupalvelu
Uusi lainasi
Intra
Moodle (learning2)
NettiOpsu / NettiRekka
NettiKatti
Sähköinen tenttipalvelu
TamPub
Office 365 webmail
Utaposti webmail
Wentti