Если что-то выглядит [почти] как вагонетка, едет как вагонетка и давит людей как вагонетка, то оно не обязательно имеет отношение к проблеме вагонетки. Задача выбора алгоритмов движения беспилотного автомобиля — не проблема вагонетки, а скорее уж дилемма заключенного.
Проблема вагонетки существует для стоящего у рычага человека, наделенного не только разумом, но и т.н. этикой, т.н. совестью, т.н. моралью, видовыми инстинктами, etc., и представляет собой, собственно, конфликт всего этого с арифметической логикой «несколько жизней ценнее одной». Пока в автопилоте не зародился полноценный ИИ-личность – проблема вагонетки может относиться максимум к разрабатывающему автопилот программисту. При этом, однако, действие вроде «определить значения весовых коэффициентов» является настолько более опосредованным, заочным и отсроченным «убийством во благо», чем «дернуть рычаг», что проблемы как таковой нет (она ведь и в исходной-то постановке становилась более-менее явной лишь тогда, когда «дернуть рычаг» заменяли на «столкнуть на рельсы толстяка»). ‎- як орбитального выпаса
А рассуждения вроде «какой алгоритм выберет пользователь беспилотного авто, если ему дать выбор?», «какой алгоритм будет иметь шансы на успех при выходе на рынок?» – относятся к дилемме заключенного. Которая иллюстрирует ситуацию «ведя себя по отдельности рационально, вместе участники приходят к нерациональному решению» – и является не нечеткой этической задачкой, а занимательным недопарадоксом сухой и строгой теории игр. Да, единогласный выбор алгоритма, разрешающего при нужде убить пассажира, снизит общее количество смертей на дорогах. Да, это понижает шансы смерти для каждого пассажира. Нет, ему объективно невыгодно выбирать этот алгоритм. ‎- як орбитального выпаса
Разумеется, люди (и некоторые другие животные, кстати, тоже) вполне умеют делать нечто объективно невыгодное для себя лично (от альтруизма до патриотизма). А потому эта задачка тоже не подходит. ‎- як орбитального выпаса
Критерий успеха конкретной марки беспилотного автомобиля, в общем, становится очевидным — в чью честь эту совершенно отдельную проблему в итоге назовут, тот и выиграл. ‎- як орбитального выпаса