Morálna diléma autonómnych áut

Autá, ktoré dokážu na ceste fungovať bez vodiča, sa stávajú realitou. Vozový park Google sa rozširuje. Na uliciach v Kalifornii už sú autonómne autá skoro bežné - a zatiaľ veľmi bezpečné. Ďalšie firmy (napr. Tesla, Volkswagen, Mercedes, Porsche...) sú tiež aktívne. Pravdepodobne sa revolúcia sa v tomto prípade odohrá oveľa rýchlejšie, než sme si pred piatimi rokmi mysleli.

Lenže auto plne ovládané umelou inteligenciou so sebou prináša aj rad ďalších otázok. Právnických, etických až filozofických, napríklad kto môže za to, keď auto nabúra? A čo je ešte zložitejšie, ak sa už nedá nehode zabrániť a v ohrození sú ľudské životy, ako sa má autonómne auto rozhodnúť? Koho životy uprednostniť?

Všeobecne sa ukazuje (a doterajšie testy to potvrdzujú) že robotická autá majú potenciál výrazne znížiť počet nehôd na cestách. Nie je ťažké pochopiť prečo - ľudia sú nedokonalí. Zle odhadujú vzdialenosť, sú roztržití, robia chyby, sú impulzívni, unavení, nedisciplinovaní, riadia opití... Počítače takéto nedostatky nemajú.

Počítač sa však takisto musí racionálne rozhodnúť aj v situácii, keď ľudský vodič reaguje úplne inštinktívne. V krízových situáciách. Keď ide o život. Človek si inštinktívne chráni prioritne najmä ten svoj. Počítač by však mal uvažovať úplne racionálne, najmä s ohľadom na čo najmenšie výsledné škody. Otázka znie, ako by takéto rozhodnutie malo vyzerať.

"Aj keby sa jednalo o úplne nezvyčajné situácie, programátor rovnako musí naprogramovať, ako sa v takejto situácii auto zachová," píše Jean-François Bonnefon a jeho kolegovia vo svojom výskume - publikovanom v prestížnom vedeckom časopise Science. Za úlohu mali zistiť, ako by sa autonómna autá mala rozhodovať v kritických situáciách (podľa ludí) keď je takmer isté, že niekto zomrie.

Existujú dva princípy, podľa ktorých sa dá v takomto prípade rozhodnúť:

"Utilitárney" princíp väčšieho dobra - podľa tohto mravného princípu by mala byť zvolená možnosť, ktorá vedie k menšiemu utrpeniu. Teda k ohrozeniu menšieho počtu ľudí. Týmto smerom uvažoval Asimov, keď navrhol slávne tri zákony robotiky.

"Sebecký" princíp ochrany seba samého - druhý princíp vychádza z ľudského pudu sebazáchovy. Hovorí, že každý sa snaží najprv zachrániť seba, a až potom sa môže obzerať po ostatných...

Výskumníci vypracovali šesť on-line štúdií a testovali ich na 1 928 respondentoch. Výsledky možno zhrnúť do jednoduchého, nie veľmi prekvapivého, ale problematického záveru: "Ľudia schvaľovali naprogramovanie autonómnych automobilov tak, aby automobil obetoval svojho pasažiera, pokiaľ tým môže zachrániť väčšie množstvo ľudí. Účastníci by tiež chceli, aby si takéto auto kupovali ostatní ľudia. Oni sami pre seba by ale preferovali, keby ich vlastné autonómne auto chránilo v kritickom okamihu ich život, nie životy ostatných".

Ako teda autá naprogramovať v praxi? Zo všeobecného pohľadu by bolo lepšie uplatniť prvý princíp väčšieho dobra. Avšak, kupovali by ľudia autá, ktoré uprednostňujú viac všeobecné blaho, ako ich vlastný život?

Výsledok výskumu ukázal, že auto ktoré by za každú cenu chránilo majiteľa, malo 50 bodov obľúbenosti (medián hodnotenie na škále 1 až 100), zatiaľ čo u auta, ktoré by bolo naprogramované "eticky", klesla jeho obľúbenosť na 19 bodov. Hoci teda účastníci súhlasili, že etické auto je pre spoločnosť lepšie, radšej by si kúpili auto, ktoré je bude prioritne chrániť posádku vovnútri auta bez ohľadu na okolie i na životy ostatných.

Vynútenie "etického algoritmu" by mohlo citeľne znížiť atraktivitu takýchto áut a tým aj spomaliť ich predaj. Ako teda ďalej? Na odpoveď si budeme musieť počkať. Pripájame ešte videá na túto tému: