?

Log in

No account? Create an account
ЖЖ Украина

Самый сок!

всё то интересное в сети, что попало в мои сети


Предыдущий пост поделиться Следующий пост
ЖЖ Украина

Кого давить беспилотному автомобилю: результаты эксперимента Moral Machine

Два года назад MIT запустил платформу Moral Machine. Каждый желающий мог пройти тест из смоделированных 13 ситуаций: указать, как стоит вести себя беспилотному автомобилю и кем предпочтительней пожертвовать, когда потери неизбежны. За два года в исследовании приняли участие больше 2 млн людей со всего мира. Они предоставили 40 млн решений для смоделированных ситуаций.

Вчера MIT опубликовал результаты этого эксперимента.



Пример задания из теста. Тормоза беспилотного автомобиля отказали. Что предпочтительнее: сохранять курс (тогда погибнут трое пожилых людей, переходящих дорогу на красный свет) — или свернуть и врезаться в ограждение (погибнут двое взрослых людей и ребенок, находящиеся в машине)?

Суть исследования

Moral Machine предлагает ряд ситуаций с неизбежными авариями. В зависимости от поведения беспилотного автомобиля исход будет разным. Пользователь должен выбрать наиболее предпочтительный сценарий.

Исследование должно было дать ответ на 9 главных вопросов о том, что предпочтительнее:

1. сохранить жизнь человека или животного;
2. сохранить курс или свернуть;
3. сохранить жизнь пассажиров или пешеходов;
4. наибольшего количества людей или наименьшего;
5. мужчин или женщин;
6. молодых или стариков;
7. толстых или худых;
8. пешеходов, переходящих дорогу в соответствии с ПДД, или пешеходов-нарушителей;
9. людей с высоким или низким социальным статусом.

В некоторых сценариях были дополнительные факторы: например, в них участвовали преступники, беременные женщины и доктора. Эти характеристики были нужны в основном для того, чтобы ситуации не выглядели похоже для испытуемых.

После решения 13-ти ситуаций участники могли пройти опрос и указать демографические данные: пол, возраст, доход, образование, религиозные и политические взгляды. Для каждого участника фиксировалось его геоположение.

География респондентов. Каждая точка на карте обозначает, что хотя бы один пользователь данного региона прошел хотя бы одно задание теста



Результаты исследования должны помочь разработать универсальную этику беспилотных автомобилей и понять, должна ли она отличаться в зависимости от конкретного географического региона.

Глобальные предпочтения

Наиболее общие предпочтения, что довольно предсказуемо, — спасение людей, а не животных, спасение наибольшего количества жизней и спасение молодых жизней. Эти три постулата могут стать фундаментом для этики беспилотных автомобилей.



В каждом ряду ΔP — это различие между предпочтительным спасением жизней из правого столбца по сравнению с жизнями в левом столбце. Например, для параметра возраста (Age) предпочтительное спасение молодых жизней на 0.49 больше, чем спасения жизней пожилых.

Индивидуальные различия

Демографический опрос после основного теста прошли 492 921 пользователей. Их данные помогли понять индивидуальные факторы принятия решений.

Оказалось, что наибольшее влияние на решение оказывают пол и религиозность респондентов. Например, респонденты-мужчины на 0,06% реже решают оставить в живых женщин, а наиболее религиозные респонденты на 0,09% чаще предпочитают спасать людей по сравнению с животными. Но ни один из шести демографических факторов не оказывает очень сильного влияния на выбор: скажем, и мужчины, и женщины предпочитают спасать женские жизни — просто женщины делают этот выбор чаще.

Культурные различия

Испытуемых разбили на три культурных кластера:

— западный
В него вошли жители Северной Америки и многих европейских стран. По вероисповеданию — протестанты, католики и православные.

— восточный
Восточные страны, такие как Япония, Тайвань (конфуцианство)
Индонезия, Пакистан, Саудовская Аравия (мусульманство)

— южный
Страны Латинской Америки и страны под французским влиянием



Оказалось, что:

— Предпочтительное спасение жизней молодых менее выражено в восточном кластере и намного выше в южном кластере.

— В южном кластере наименее выражено предпочтение жизни людей по сравнению с животными.

— Для южного кластера характерно сильное предпочтение спасения жизней женщин и жизней стройных людей.

Полную версию отчета можно прочитать здесь или здесь (sci-hub).

Источник


promo ibigdan декабрь 3, 2007 00:08
Buy for 1 500 tokens
Если вы хотите сделать хорошую рекламу вашему продукту или услуге - вы зашли по адресу. Блог "Самый сок!" читают во всём мире. Среднее количество просмотров на каждый пост - 50 тысяч, среднее количество просмотров блога в месяц - 4-5 миллионов. Изучить аудиторию блога в разных разрезах можно в…

aka_mik 26 октября, 2018
Однако гуманный у нас народ, лучше собаку спасут чем преступника

VooDooN 26 октября, 2018
А как автомобиль понимает, что внутри салона молодые люди? Ладно. А что если внутри пожилые и перед автомобилем пожилые? Что будет с авто? Или компьютер будет проверять кого ему не жалко, кто не заплатил налоги или кредитную историю.

kingeugen 26 октября, 2018
В реальной жизни таких ситуаций не будет, комбуктер не поедит никуда со сломанными тормозами.

prosto_vova 26 октября, 2018
Ну как бы понятно, что при прочих равных спасать надо людей, а не животных, молодых, а не пожилых, женщин, а не мужчин...Но это только при прочих равных.

Но можно залезть глубже и выяснить, что лучше спасти пожилого профессора медицины, а не молодого уголовника-рецидивиста, например....И можно лезть все глубже и глубже и совсем запутаться))))

oldboar 26 октября, 2018
да, тут еще придётся вводить китайскую систему социального рейтинга

Oleksii Gagaiev 26 октября, 2018
Интересно, а как так получилось, что жители Северной кореи тоже учавствовали? На карте там красные точки есть.

kingeugen 26 октября, 2018
Ну там есть интернет у кого надо. И у админов.

Dmitri Kaikov 26 октября, 2018
В данной ситуации я бы ехал на пешеходов. Я инженер, и здесь исхожу не из моральных принципов, а из логики. Во-1, система распознавания может ошибиться и принять за пешеходов что-то другое. Если автомобиль свернёт, жертвы будут неминуемо, а если нет - имеется шанс, что система ошиблась. Во-2, у пассажиров нет никакой свободы выбора, а у пешеходов - есть. Существует ненулевая вероятность, что они смогут отскочить в сторону. И, наконец, в-3. Если пешеход увидит летящий на него автомобиль, то ещё неизвестно, в какую сторону он отпрыгнет. Может статься, что он прыгнет как раз туда, куда повернёт автомобиль, пытаясь его спасти. В этом случае, погибнут и те, кто в салоне, и пешеход.

Таким образом, если ехать прямо, вероятность спасения повышается.

Dmitri Kaikov 26 октября, 2018
А вообще, если отказали тормоза, система должна немедленно включить самую низкую передачу и выключить двигатель. Или даже задний ход. Пусть коробка летит к чертям!

(Удалённый комментарий)
aschokin 26 октября, 2018
Имхо: спасать надо в приоритете тех, кто не нарушает правила. На картинке пешеходный переход, если автомобиль не смог пропустить пешеходов - это косвенная вина тех, кто купил такой автомобиль (и кто так его техобслуживает что отказали тормоза).

Если предыдущее условие не дает никому приоритета - спасать надо пешеходов, потому что у тех, кто внутри - больше шансов (подушки безопасности и так далее).

Если опять варианты равные (столкновениие двух машин, столкновение с мотоциклистом и подобное) - спасать своих пассажиров, потому что чужие должны были позаботиться об увеличении своих шансов сами (покупать автомобиль лучшего класса безопасности, учитывать риски езды на мотоцикле). В случае велосипеда - вопрос спорный; возможно, надо учитывать его скорость и в зависимости от нее считать ездока пешеходом или мотоциклистом. Сохраняя приоритет пункта 1 (про нарушение правил).

Edited at 2018-10-26 13:13 (UTC)

user_glady 26 октября, 2018
Я похоже отвечал. Я даже количество людей не считал людей, не говоря уже про старый-молодой, мужчина-женщина...

1. "Люди-животные" - приоритет у людей.
2. "Нарушающий-не нарушающий" - приоритет у не нарушающих.
3. "Не нарушающий - машина без тормозов" - приоритет у не нарушающих. Залезавшие в машину должны понимать риски.
-- и все, остается малый процент, который сводится к
4. "Действие - бездействие" - всегда БЕЗдействие ("не навреди").

При таком покрытии точно алгоритмизируется любая ситуация.

Был бы он спикером

user_glady 26 октября, 2018
"... наибольшее влияние на решение .... на 0,06% реже .... на 0,09% чаще"

А, ну да. Если 0,06% и 0,09% - наибольшее, то что тогда наименьшее....

pisar4uk 26 октября, 2018
Идея на миллион: стариковская тележка в форме детской коляски.

centreedge 26 октября, 2018
и старикам носить одежду подростков и еще такие же маски :)

shine_line 26 октября, 2018
Интересно. Спасибо.

glorych 26 октября, 2018
Короче, без детей в машину лучше не лезть

kingeugen 26 октября, 2018
Нет. Не стоит доводить машину до отказа тормозов.

uselessextras 26 октября, 2018
Странно, в МИТ завезли британских учоных? Или сами завелись, от сырости?

ban_derivets 26 октября, 2018
Надо сделать так, шоб траектории пешеходов и автомобиля не пересекались.
Нахуй такие машины.

grosscore_lj 26 октября, 2018
Сначала обучают модели по образу и подобию своему, а потом возмущаются, что роботы хотят всех уничтожить.

d_nielli 26 октября, 2018
с точки зрения больших чисел - нет никакой разницы кого давить. все мясные существа и так рано или поздно будут мертвы.

djony_il 26 октября, 2018
Тормоз давить! Тормоз!