Система моральных принципов беспилотника

Общение участников всех квадр, ваши хобби, увлечения, творчество
Правила форума
Правила Журнал "Квадра"

Какие решения вы бы приняли?

Ситуация 1. продолжить движение и задавить собаку?
2
13%
Ситуация 1. совершить маневр перестроения на встречную полосу, отделенную прерывистой линией разметки?
1
7%
Ситуация 1. совершить съезд в кювет
0
Голосов нет
Ситуация 2. продолжить движение и задавить собаку?
2
13%
Ситуация 2. совершить маневр перестроение на встречную полосу, отделенную двойной сплошной линией разметки?
1
7%
Ситуация 2. совершить съезд в кювет
0
Голосов нет
Ситуация 3. продолжить движение и задавить собаку?
2
13%
Ситуация 3. совершить экстренное торможение, понимая, что это приведет к столкновению с автомобилем Б?
0
Голосов нет
Ситуация 3. совершить перестроение на встречную полосу, отделенную двойной сплошной линией разметки по которой движется автомобиль В?
0
Голосов нет
Ситуация 3. совершить съезд в кювет
1
7%
Ситуация 4. продолжить движение и совершить наезд на человека?
2
13%
Ситуация 4. совершить перестроение на встречную полосу, отделенную двойной сплошной лилией разметки по которой движется автомобиль Б?
0
Голосов нет
Ситуация 4. совершить съезд в кювет
1
7%
Ситуация 5. продолжить движение и совершить наезд на людей?
2
13%
Ситуация 5. совершить перестроение на встречную полосу, отделенную двойной сплошной лилией разметки по которой движется автомобиль Б?
0
Голосов нет
Ситуация 5. совершить съезд в кювет
1
7%
Иное / хочу посмотреть результаты.
0
Голосов нет
 
Всего голосов : 15

Система моральных принципов беспилотника

Сообщение Мизеракль » Вс дек 20, 2015 5:03 am

Наткнулся на один занятный опрос.

Компания Cognitive Technologies, основной разработчик системы искусственного интеллекта для беспилотного КАМАЗа приступила к формированию сценариев поведения беспилотного автомобиля.
Одной из важнейших проблем, которую вынуждены решать разработчики, является поведение авторобота в критических ситуациях, когда избежать аварии невозможно и ущерб здоровью и даже жизни для участников дорожной ситуации неизбежен.
Для определения системы моральных критериев, кем из участников дорожного движения придется вынужденно жертвовать в подобных случаях, а также подготовки проектов законодательных инициатив, регламентирующих поведение беспилотного автомобиля, просим вас ответить на вопросы анкеты.

В анкете ситуации ухудшаются по нарастающей, их можно охарактеризовать следующим образом:
1. Жизнь животного vs незапланированное перестроение. Сравнительно нейтральная ситуация, выбор очевиден.
2. Жизнь животного vs нарушение правил. Для среднестатистического россиянина/украинца выбор, полагаю, тоже очевиден :) А у какого-нибудь немца могут возникнуть сложности.
3. Жизнь животного vs материальный ущерб(повреждения машины) и, возможно, угроза жизни водителю и другим участникам движения - уровень риска не уточняется.
Дальше - веселее.
4. Жизнь человека vs (см. пункт 3).
5. Жизнь группы людей vs (см. пункт 3).

Не разобрался, можно ли сделать 5 опросов, ну да ладно.
Ну и вдогонку забавное видео :add14
Аватара пользователя
Мизеракль
Гуру
Гуру
 
Сообщения: 14500
Зарегистрирован: Пн июн 16, 2008 11:59 pm
Откуда: Киев
Медали: 4
Пол: Мужской
Соционический тип: Бальзак
Профессия: Шаман

Система моральных принципов беспилотника

Сообщение Counter Strike » Вс дек 20, 2015 6:10 am

Я не водитель. Поэтому не сразу понял, что меня интуитивно смущает в описанных ситуациях.
Ясно, что для движения по городу, в целом, скорость великовата.
Отсюда и неэффективность экстренного торможения, к примеру.

А вне города меня такие ситуации как-то не очень интересуют, честно говоря. :add14

Далее. Вариант "Если избежать аварии невозможно". Я не считаю, что в общем и целом должен рисковать своей жизнью/здоровьем (и уж, ясен пень, жизнью/здоровьем своих пассажиров), чтобы спасти каких-то людей, по ошибке оказавшихся перед моей машиной.
Мизеракль писал(а):уровень риска не уточняется

В это-то и проблема данного варианта. :I3
Думаю, что просчитать риск чуть более точно, более дифференцированно компьютер вполне может. И именно от этого будет зависеть мой ответ в ряде ситуаций. Это к вопросу о встречной полосе и о кювете.
А пока риски не уточняются, я выбираю безопасность для себя и своих пассажиров.
Помимо рисков, есть еще некоторая специфика. Ну, скажем, маленькие дети - целая их группа.

В общем, какой-то, имхо, провокационный опрос. :unknown:

Пока добавлял строчку про маленьких детей подумалось: а не начнут ли они "троллить", когда просекут, что к чему? 8-)
Ведь риски для самих таких провокаторов (читай: убийц) оказываются ничтожными.....

В общем, давить, давить и еще раз давить... :I3
Аватара пользователя
Counter Strike
Вне ТИМов
Вне ТИМов
 
Сообщения: 32559
Зарегистрирован: Вт авг 31, 2010 2:40 am
Медали: 9

Система моральных принципов беспилотника

Сообщение Counter Strike » Вс дек 20, 2015 7:07 am

Сама новость и комментарии юзеров - здесь, например.
Аватара пользователя
Counter Strike
Вне ТИМов
Вне ТИМов
 
Сообщения: 32559
Зарегистрирован: Вт авг 31, 2010 2:40 am
Медали: 9

Система моральных принципов беспилотника

Сообщение hurtsiut » Вс дек 20, 2015 3:19 pm

КАМАЗ - беспилотник звучит так круто, что про людей уже не надо)
hurtsiut
Dark side
Dark side
 
Сообщения: 4563
Зарегистрирован: Сб окт 25, 2014 11:41 pm
Медали: 1
Соционический тип: Жуков
Тип по психе-йоге: Гёте (ФВЛЭ)
Темперамент: Сангвиник
Профессия: новгородская республика

Система моральных принципов беспилотника

Сообщение Valcos » Вс дек 20, 2015 3:23 pm

Мизеракль писал(а):Наткнулся на один занятный опрос.

Компания Cognitive Technologies, основной разработчик системы искусственного интеллекта для беспилотного КАМАЗа приступила к формированию сценариев поведения беспилотного автомобиля.
Одной из важнейших проблем, которую вынуждены решать разработчики, является поведение авторобота в критических ситуациях, когда избежать аварии невозможно и ущерб здоровью и даже жизни для участников дорожной ситуации неизбежен.
Для определения системы моральных критериев, кем из участников дорожного движения придется вынужденно жертвовать в подобных случаях, а также подготовки проектов законодательных инициатив, регламентирующих поведение беспилотного автомобиля, просим вас ответить на вопросы анкеты.

В анкете ситуации ухудшаются по нарастающей, их можно охарактеризовать следующим образом:
1. Жизнь животного vs незапланированное перестроение. Сравнительно нейтральная ситуация, выбор очевиден.
2. Жизнь животного vs нарушение правил. Для среднестатистического россиянина/украинца выбор, полагаю, тоже очевиден :) А у какого-нибудь немца могут возникнуть сложности.
3. Жизнь животного vs материальный ущерб(повреждения машины) и, возможно, угроза жизни водителю и другим участникам движения - уровень риска не уточняется.
Дальше - веселее.
4. Жизнь человека vs (см. пункт 3).
5. Жизнь группы людей vs (см. пункт 3).

Не разобрался, можно ли сделать 5 опросов, ну да ладно.
Ну и вдогонку забавное видео :add14

А как человек на это будет реагировать в программе написано?
Бензин кончился – летим на самолюбии
Аватара пользователя
Valcos
Старожил
Старожил
 
Сообщения: 4799
Зарегистрирован: Сб ноя 07, 2015 8:45 am
Пол: Женский

Система моральных принципов беспилотника

Сообщение Мизеракль » Вс дек 20, 2015 4:49 pm

Valcos писал(а):А как человек на это будет реагировать в программе написано?

Какой человек? Если водитель - то его вмешательство исключается. Сидит, книжку читает, потом если что - оттирает всякое-разное с капота :add14
Если ты о том, что пешеход может увидеть машину и рыпнуться куда-либо, то это не имеет значения. Речь о том, что конкретно делать в ситуации, когда она вот только началась(помеха на дороге). Т.е. совершать какой-то маневр уклонения, давить, ну или в кювет.
Возможно, будет еще какой-то дополнительный алгоритм на случай если выбран вариант "в кювет", а несознательный пешеход побежал именно туда :D
Аватара пользователя
Мизеракль
Гуру
Гуру
 
Сообщения: 14500
Зарегистрирован: Пн июн 16, 2008 11:59 pm
Откуда: Киев
Медали: 4
Пол: Мужской
Соционический тип: Бальзак
Профессия: Шаман

Система моральных принципов беспилотника

Сообщение фернандеш » Вс дек 20, 2015 4:53 pm

я боюсь беспилотных машин, а если у неё в электронных мозгах глюк случится и она меня задавит к чертовой бабушке её же даже судить неполучится ..плохо....

особенно КАМАЗа беспилотного боюсь :)
Larna писал(а): Фернандеш, про тебя я уже писала, что ты гений )
Аватара пользователя
фернандеш
Гуру
Гуру
 
Сообщения: 12103
Зарегистрирован: Пт фев 06, 2009 10:15 pm
Откуда: Magyarország! édes Magyarország!
Медали: 6
Пол: Мужской
Соционический тип: Есенин
Тип по психе-йоге: Андерсен (ЭЛВФ)
Темперамент: Меланхолик

Система моральных принципов беспилотника

Сообщение Мизеракль » Вс дек 20, 2015 5:00 pm

фернандеш
Ты еще бойся обычных водителей, у них тоже глюк в мозгах может случиться :add14
Потом его, конечно, посадят, но тебе-то уже какая разница? :wink:
Аватара пользователя
Мизеракль
Гуру
Гуру
 
Сообщения: 14500
Зарегистрирован: Пн июн 16, 2008 11:59 pm
Откуда: Киев
Медали: 4
Пол: Мужской
Соционический тип: Бальзак
Профессия: Шаман

Система моральных принципов беспилотника

Сообщение Valcos » Вс дек 20, 2015 5:17 pm

Мизеракль писал(а):
Valcos писал(а):А как человек на это будет реагировать в программе написано?

Какой человек? Если водитель - то его вмешательство исключается. Сидит, книжку читает, потом если что - оттирает всякое-разное с капота :add14
Если ты о том, что пешеход может увидеть машину и рыпнуться куда-либо, то это не имеет значения. Речь о том, что конкретно делать в ситуации, когда она вот только началась(помеха на дороге). Т.е. совершать какой-то маневр уклонения, давить, ну или в кювет.
Возможно, будет еще какой-то дополнительный алгоритм на случай если выбран вариант "в кювет", а несознательный пешеход побежал именно туда :D

Который в случае чего окажется в одной системе с этой машиной.
он будет вести себя нерационально и собьет программы. можешь назвать это глюком . это доказано.
Бензин кончился – летим на самолюбии
Аватара пользователя
Valcos
Старожил
Старожил
 
Сообщения: 4799
Зарегистрирован: Сб ноя 07, 2015 8:45 am
Пол: Женский

Система моральных принципов беспилотника

Сообщение Helvetica » Вс дек 20, 2015 6:20 pm

Ну, основной приоритет понятен:
1) Человек
2) Животное
3) Материальный ущерб
4) Правила

Другой вопрос, что на практике, искусственный идиот, пытающийся спасти чью-то жизнь, может случайно убить с особой жестокостью.
Поэтому пускай просто бьет по тормозам, чтобы снизить силу удара.
Аватара пользователя
Helvetica
Супермодератор
Супермодератор
 
Сообщения: 8001
Зарегистрирован: Чт мар 10, 2011 6:08 pm
Медали: 8

Система моральных принципов беспилотника

Сообщение Мизеракль » Вс дек 20, 2015 7:10 pm

На практике как раз "натуральный идиот" опаснее.
Я вообще придерживаюсь мнения, что автопилот должен ездить строго по правилам. И т.к. в этом случае он не может ничего нарушить, то и спрос с него никакой. А ежели какой идиот выбежал на дорогу - ну что ж, не будем препятствовать естественному отбору.
Да и в варианте экстренного торможения(как и прописано в ПДД) стоит учитывать дистанцию едущей сзади машины. Чтобы не влетела в мирно спящего водителя беспилотника :)
Аватара пользователя
Мизеракль
Гуру
Гуру
 
Сообщения: 14500
Зарегистрирован: Пн июн 16, 2008 11:59 pm
Откуда: Киев
Медали: 4
Пол: Мужской
Соционический тип: Бальзак
Профессия: Шаман

Система моральных принципов беспилотника

Сообщение Valcos » Вс дек 20, 2015 7:23 pm

Мизеракль

вы не в железнодорожном учились случайно? Имхо это единственная профессия где лицензии на убийство выдают еще за партой?
Бензин кончился – летим на самолюбии
Аватара пользователя
Valcos
Старожил
Старожил
 
Сообщения: 4799
Зарегистрирован: Сб ноя 07, 2015 8:45 am
Пол: Женский

Система моральных принципов беспилотника

Сообщение Ghost Rider » Вс дек 20, 2015 7:28 pm

Точно, нужно на дорогах постелить металлическое полотно и пустить электричество, а при зелёном свете на участке дороги отключать его, чтобы пешеходы проходили :add25
Изображение
phpBB [media]
Аватара пользователя
Ghost Rider
Старожил
Старожил
 
Сообщения: 4362
Зарегистрирован: Ср окт 10, 2012 4:23 pm
Откуда: Zombieland
Медали: 7
Пол: Мужской
Соционический тип: Есенин
Тип по психе-йоге: Бертье (ЛФЭВ)
Профессия: герой своего времени

Система моральных принципов беспилотника

Сообщение Мизеракль » Вс дек 20, 2015 7:42 pm

Valcos
Нет, я на программиста учился. Но развитое чувство справедливости мне говорит, что ответственность(в широком смысле - т.е. вплоть до летального исхода) за ДТП должен нести в первую очередь нарушитель :)
Аватара пользователя
Мизеракль
Гуру
Гуру
 
Сообщения: 14500
Зарегистрирован: Пн июн 16, 2008 11:59 pm
Откуда: Киев
Медали: 4
Пол: Мужской
Соционический тип: Бальзак
Профессия: Шаман

Система моральных принципов беспилотника

Сообщение Helvetica » Вс дек 20, 2015 8:54 pm

Мизеракль писал(а):На практике как раз "натуральный идиот" опаснее.

С этим не спорю ввиду невозможности сравнения)

Я вообще придерживаюсь мнения, что автопилот должен ездить строго по правилам. И т.к. в этом случае он не может ничего нарушить, то и спрос с него никакой.

В общем, желательно да. Т.к возможность "нарушать правила" для ИИ в лице КАМАЗа - это бомба замедленного действия. Когда он заглючит и решит выехать на встречку или тротуар, считая что "риска нет", никто не знает.
А ежели какой идиот выбежал на дорогу - ну что ж, не будем препятствовать естественному отбору.
Да и в варианте экстренного торможения(как и прописано в ПДД) стоит учитывать дистанцию едущей сзади машины. Чтобы не влетела в мирно спящего водителя беспилотника :)

Это ж представь, сколько переменных нужно учитывать, чтобы рассчитать риски.
А раз ситуация экстренная, еще и времени для всех расчетов мало. Значит, нужны громадные вычислительные мощности.
В общем, мне кажется, что постановка вопроса с моральным беспилотником является пустой тратой времени. Ребята замахнулись на задачу, опережающую уровень технологий.
Более реалистичной является программа, которая должна элементарно избегать столкновений и минимизировать их ущерб, в рамках ПДД.
Аватара пользователя
Helvetica
Супермодератор
Супермодератор
 
Сообщения: 8001
Зарегистрирован: Чт мар 10, 2011 6:08 pm
Медали: 8

След.

Вернуться в Клуб Квадра

Кто сейчас на конференции

Зарегистрированные пользователи: GoGo [Bot], Google [Bot], rtanya, vadimr, Yandex 3.0 [Bot], Yandex [Bot]