В начале июля интернет облетела новость о том, что на заводе Volkswagen в Германии робот убил человека. На Западе у этой информации даже появилось "второе измерение" — новость сообщила журналистка Financial Times по имени Sarah O'Connor, что сразу же породило массу отсылок на "Терминатор" и шуток на тему "Скайнет разбушевался". Однако на самом деле и в этом случае, и в десятках других инцидентов, случившихся раньше, робот человека не убивал.
Стоит обратить внимание на то, что они находятся за решеткой, снабженной массой предупреждающих значков. Это потому, что эти машины напрочь лишены хоть какого-нибудь разума. Они запрограммированы совершать рутинные операции с высокой точностью, как любые автоматические штуки. Вперед, назад, повернуть, подержать, закрутить, вперед, назад, повернуть, подержать…
Может ли убить станок? А робот-автомобиль?
В-третьих, промышленным роботам, в массе своей, просто нечем "почувствовать" человека — они не могут его увидеть, услышать или уловить его запах. А ведь, чтобы убить "добычу", надо ее сначала распознать. В-четвертых, современные промышленные роботы вообще не понимают, что такое человек, не говоря уже о том, что они понятия не имеют, зачем его надо убивать.
Поэтому робот убил бедолагу-рабочего в Германии ровно так же, как доменные печи на лиейпайском "Металурге" в свое время убивали и калечили местных рабочих. Он убил рабочего на заводе Volkswagen ровно также, как бензопилы калечат в лесу или на лесопилках. Предварительное следствие утверждает, что в Германии имел место пресловутый "человеческий фактор". Скорее всего, финальный официальный вывод будет таким же. А разница будет лишь в деталях — то ли коллеги рабочего включили робота не в тот момент, то ли он сам ошибся при отладке и оказался рядом с включенной машиной.
Ага, скажут скептики, но ведь роботы уже есть не только в цехах. Вон, Google тестирует машины-роботы. Как быть с ними? Их за решетку не поставишь, они уже ездят по нашим дорогам! И машины убивают людей, это знают (должны, по крайней мере) даже дети!
Если мы выйдем из цеха Volkswagen и перенесемся в солнечную Калифорнию, где Google вот уже шесть лет испытывает автономные машины, то окажется, что за это время 48 машин-роботов Google проехали почти 3 млн. километров и побывали в 11 авариях, последствия каждой из которых ограничивались вмятиной или разбитой фарой. И, что еще важнее, все аварии произошли или по вине водителей других автомобилей, или по вине машин Google, но в момент, когда за рулем сидел человек и управлял "самоходной повозкой".
Иными словами, это не роботы нападают на людей. Это люди нападают на роботов.
Почему мы должны перестать демонизировать роботов
По мысли автора, даже если инцидент, в котором страдает человек, происходит по вине робота, ответственность должен нести не робот — ее должен нести человек. Не пострадавший, разумеется, а тот, кто ответственен за создание робота. Тот, кто написал недостаточно безопасную управляющую программу. Или не предусмотрел все возможные сценарии развития ситуации, в которой человек работает рядом с роботом.
Иными словами, ученый совершенно справедливо предлагает не демонизировать роботов и не наделять их человеческими возможностями или желаниями совершить сознательное убийство человека. Роботы — это безмозглые железяки, и даже самые умные из них в обозримом будущем все равно останутся безмозглыми железяками.
Поэтому ответственность за действия этих железяк должны нести их создатели. Это, помимо всего прочего, отобьет у них охоту делать роботов "опасно продвинутыми" — настолько умными, что они будут уметь и делать так много, что это может потенциально оказаться опасным для окружающих людей. Не уверен в своем роботе? Ограничь его возможности!
Нам надо бояться роботов, но совсем по другой причине
Любой современный завод немыслим без роботов, которые заменяют тысячи рабочих. Роботы помогают проводить операции, роботы могут убирать улицы, возить грузы на складах. Роботы убирают наши дома. Роботы могут помогать спасателям разбирать завалы, разминировать опасные объекты. Роботы не болеют, не устают, не прогуливают, не требуют повышения зарплаты и не бастуют. Роботы не объединяются в профсоюзы. Если робот погибает или становится жертвой несчастного случая — его не жалко, его не надо долго лечить, ему не надо выплачивать компенсацию и отвечать перед государством. Роботы не выходят на пенсию и не обременяют бюджет.
Роботы покушаются и на искусство. Например, научились владеть мечом лучше, чем человек-сенсей:
Так что бояться надо не "роботов-убийц", а вот этой "ползучей революции" роботов, в ходе которой они уверенно вытесняют людей из многих сфер жизни. Впрочем, мы опять их демонизируем и совершаем ту же ошибку, подавая проблему как нечто фатальное, что вне нашей власти и что мы не контролируем.
Ведь, разумеется, лишают людей рабочих мест не роботы, а другие люди. Поэтому не надо ошибочно думать, что "мы ничего не можем делать" и что бизнес "сам разберется" — бизнес всегда выберет роботов, потому что они намного выгоднее людей. Еще не поздно его ограничить и начать законодательно обязывать сохранять рабочие места для людей. Точно так же, как сегодня бизнес несет социальную ответственность за работников и учитывает их права. Через 10 лет? Как бы к тому моменту не исчезли уже целые профессии…
Но беда в том, что эту проблему не продашь под "вкусным" заголовком и она практически не привлекает внимание общественности. Ибо то, что на автомобильных заводах уже долгие годы трудятся, в массе своей, роботы, волнует нас гораздо меньше, чем тот факт, что на одном из этих заводов в результате несчастного случая со СТАНКОМ погиб рабочий.
P.S. Статья написана не роботом. Хотя новости роботы писать уже научились.
