Píše sa rok 2027 a vy si sadáte do auta. Máte s ním jazdené už dosť veľa, prvýkrát sa však objaví správa, že na základe analýzy vašej jazdy a dát nahromadených o jazdách umelej inteligencie je odhad, že máte desaťkrát väčšie riziko spraviť smrteľnú či inú dopravnú nehodu, než má vaše auto s autopilotom.
Na displeji sa objaví ponuka: „Necháte ma šoférovať za vás?“ Pod možnosťou „začať jazdu“ sa nachádza oznam, že v prípade nehody však preberáte zodpovednosť vy.
Otázka: nechali by ste za seba šoférovať umelú inteligenciu, ak by na základe najkvalitnejších dát mala desaťkrát menšiu nehodovosť, no vina by v prípade nehody pripadla na vás?
Moja odpoveď je, že jasné. Keď som však začal pýtať ľudí vo svojom okolí, prekvapilo ma, že mnoho reagovalo záporne. Najprv sa mi to nepozdávalo, neskôr som však uznal, že síce racionálne hovorím áno, nie som s tým úplne vnútorne stotožnený.
Keď som rozšíril okruh dopytovaných – a začal sa pýtať cez sociálne siete – vyšlo to tak pol na pol, jemne naklonené na stranu „Áno“.
V niečom mi to pripomína eticko-psychologickú úlohu s výhybkou. Vlak ide po kolaji na ktorú je priviazaných päť ľudí. Máte možnosť preklopiť výhybku a pustiť ho na koľaj, kde je priviazaný len jeden. Väčšina ľudí by výhybku preklopila. Nie je to však výsledok jednoduchej matematickej úvahy „jeden je menej ako päť“. Ak by totiž jedného mali hodiť pod vlak aby tým vlak zastavili (má ťažké kosti a vlak vykoľají), väčšina ľudí by to nespravila.
Niektorí pri príklade s autom reagujú, že by autopilota nezapli, lebo veria len sebe. Čo by však povedali, ak by v časoch bezpečných autopilotov niekto, kto „verí len sebe“, zrazil ich blízku osobu? Nie je to iracionálne ohrozovanie ostatných?
Aký je záver? Zatiaľ žiaden. Možno len taký, že hypotetické eticko-filozoficko-psychologické príklady sa postupne stávajú reálnymi dilemami – o ktorých by sme sa mali rozprávať a ako spoločnosť si vyjasniť, čo áno a čo už nie.
Takže, nechali by ste ho za seba šoférovať?
[Samuel]
PS: Kým 90% ľudí by v klasickej verzii úlohy preklopilo výhybku, spomedzi profesionálnych filozofov by to spravilo len 68%. Zo zvyšku by 8% nespravilo nič a 24% si to ešte musí premyslieť. Zoberte si z toho, čo chcete.