Korábban levezettem, hogy milyen értékek mentén kellene a szoftvernek a kisebb kár mellett döntenie.
Azóta elgondolkodtam jobban: a gépnek egyáltalán nem szabadna ártatlanok életét feláldoznia! Ha egy hülye beszalad az úttestre, akkor miért kéne emiatt másnak meghalna! Csak azért, mert rosszkor volt rossz helyen? Ez pont olyan, hogy azért meghala kedvesem, mert egy pont akkor volt mondjuk egy buszmegállónál, amikor egy öngyiljos merénylő robbantott. Az öngyilkos merénylő ellen nehéz tenni, de a gépeket mi tanítjuk, mi programozzuk (mármint a tudósok és mérnökök).
Ha valaki szabályt sért, viselje a következményeit. Persze a gép tegyen meg mindent a baleset elkerülésére, de szándékosan (vagy programozottan) ne áldozzon be mást/másokat.
Egyetlen esetben tudom csak elfogadni azt, hogy a gép dönt afelett, hogy ki szenvedjen súlyos sérülést vagy haljon meg: ha műszaki hiba vagy sofőr hülyesége miatti katasztrófát tud vele enyhíteni, akkor nagyon szigorú szabályok között mérsékelhetné a kimenetel súlyisságát. Pl nem ránthatja félre az utolsó pillanatban úgy a kormányt, hogy elüti azt, aki épp félreugrik a kocsi elől. Tehát elemeznie kellene az emberek reaakcióját és figyelembe venni, hogy ők mit cselekszenek a baleset elkerülése érdekében. Enélkül kb egy gyilkológéppé válna.