Оригинал материала находится по адресу www.computerra.ru/86327/roboethics/
25.10.2013
Если птице отрезать крылья… или О человеческом отношении к роботам
Я не смогу дать точный ответ на вопрос о своём самом любимом фильме, зато кино, которое смотрел чаще всего, назову сразу же. Это легко, потому что случилось это до интернета, DVD и даже до видеокассет — во второй половине 80-х, когда один или с друзьями я посетил совершенно неприличное количество сеансов «Короткого замыкания». Если каким-то чудом вы его не смотрели, отправляйтесь немедленно на ближайший трекер и качайте это достояние мирового кинематографа, а заодно и его вторую часть: они запросто сделают ваше воскресное настроение. А если смотрели, то поверите, что и по сей день, случайно наткнувшись на эту мордашку (фото ниже), я переживаю бурю эмоций, словно пятнадцатилетняя девчонка.
И мне, взрослому мужику, не стыдно за такую реакцию! Потому что фильм этот подарил не только понятное эстетическое удовольствие, но и в самом раннем детстве познакомил с проблемой, которая только в последнее время начала оформляться в массовом сознании. Это проблема человеческого отношения к роботам, долго считавшаяся надуманной, киношной, но вдруг оказавшаяся самой что ни на есть всамделишной, психологической проблемой, не роботов — человека!
Что такое робот? Электромеханическое устройство, управляемое компьютерной программой или электронными схемами: такое определение даёт Википедия. Отсекая лишнее в контексте нашего разговора, можно сказать так: робот — набор деталей. Всё равно что утюг или телевизор. Конечно, можно сделать его похожим на человека или другое живое существо, но… Поменяйте облик, добавьте транзисторов, измените программу — железка останется железкой. Неживой. Мы и относимся к ним как к железкам: два из трёх законов робототехники постулируют «должен», и ни один не говорит «имеет право»! Да и не глупо ли относиться к устройству как к живому существу?
Но скажите это людям, самая жизнь которых зависела от роботов! Они стали первыми, кто проверил на себе фундаментальные положения робоэтики — странной науки, зародившейся ещё в середине XX века и до последнего времени рассматривавшей только обязательства робота перед человеком, но не наоборот.
Представьте, что сапёр, эксплуатирующий, скажем, симпатяжку TALON — серийного трудягу, помогшего обезвредить уже десятки тысяч взрывных устройств, — вдруг решает отправиться на очередную операцию сам, лично, чтобы не подвергать риску «электронного товарища». Нелогично? А это как посмотреть! Теоретически человек может привязаться к роботу, который много раз выручал его, — а значит, и совершить однажды такой вот нелогичный поступок. По-научному это называется эмоциональной привязанностью. И заслуживает внимания уже потому, что способно повлиять на течение и исход опасной для человеческой жизни операции.
А практически эти умозаключения проверили на себе американские военнослужащие. Кажется, у каждого президента США за последнюю четверть века была своя война, а потому опыт накоплен богатейший. И вот с месяц назад психолог Джули Карпентер из Вашингтонского университета опросила несколько десятков сапёров, регулярно пользующихся роботами в своей практике, и выяснила, что при тесном постоянном контакте люди таки да — привязываются к своим электронным подопечным и начинают демонстрировать обширную гамму переживаний. От расстройства, злобы, огорчения и ощущения потери при выходе робота из строя до такой тонкой штуки, как сочувствие от осознания, что робот — сравнительно с нами — ограничен в подвижности и интеллекте (в мирной жизни мы, наверное, испытываем нечто похожее, когда видим прикованного к инвалидной коляске нестарого ещё человека). Так что солдаты уподобляют роботов домашним животным, дают им имена, наделяют воображаемыми свойствами вроде пола, интуиции, везучести. Устраивают похороны. Короче говоря, привязываются к ним, словно речь идёт не о бездушной электронной машине, а о живом существе!
Историям, накопившимся за это время у вояк, право, стоит посвятить отдельную книгу. Вот сапёр, потерявший в бою рободруга, приносит техникам россыпь шестерёнок и требует от них не «другого такого же», а именно этого! Вот наблюдатель прекращает испытания робота-многоножки — которому оторвало минами все конечности, кроме одной, и он, обгоревший, корчащийся, пытается продолжить выполнение задачи, цепляясь уцелевшей лапой за землю: и человек не выдерживает, командует «стоп», сочтя продолжение (!) бесчеловечным. А робоиндустрия не знает дороги назад и, бесстыдно копируя отточенные эволюцией формы, всё больше уподобляет машины живым существам, выдавая конструкции, по облику и поведению повторяющие их почти идеально. (Вспомните продукты Boston Dynamics. А вы видели их чудесного замарашку RHex? Безумно хочется погладить, приласкать!) А значит, стимул для человека пожалеть робота будет только сильней.
Нам свойственно наделять неодушевлённые предметы воображаемой живой силой, все мы язычники по натуре. Но в быту это безвредно, а вот что написать семье погибшего сапёра, пошедшего на обезвреживание фугаса вместо своего «раненого» электромеханического «товарища»? Карпентер видит здесь инженерную задачу: придумать как помешать формированию эмоциональной привязанности к машине у человека. Пока этого не только никто не знает, но никто и не задумывался! Как? Сделав машину «злой»? Заставив её показать, что ей не «больно»? Сохраняя состояние электронного мозга на флешку для старта «с того же места» после холодного ребута?
А мы, не разобравшись с роботами, пытаемся взобраться уже на следующую ступеньку, к киборгам. В ноябре начинаются продажи забавного нейроэлектронного конструктора (хорошее название, правда?) RoboRoach. Это дешёвая (всего-то сто баксов) система дистанционного управления мелкими насекомыми, «установив» которую (в данном случае на… простите, в таракана) можно управлять живым существом со смартфона на расстоянии нескольких метров: жамкаете кнопку на экране, сигнал отправляется по Bluetooth в чип на спинке таракана, а там уже формируется лёгкий электрический разряд, передаваемый прямиком в нервную систему через взрезанные усики. В работе штука выглядит устрашающе (вот ролик). Ещё страшнее инструкция, по сути представляющая собой мануал для проведения простейшей нейрохирургической операции. О возрасте потенциальных покупателей, на которых ориентируются авторы, и говорить не хочется: дети от 10 лет…
Вы не подумайте, я не против популяризации науки, даже таким вот методом, кажущимся многим изуверским. Меня волнует другое. Смесь живой плоти и электроники убийственна для этики. Если робота мы ещё можем назвать машиной и относиться к нему соответственно (ну, оторвало робосапёру колёса, так это всё равно что сломался телевизор!), то как быть с киборгами? Как предлагаете квалифицировать их?
По процентному содержанию электронных компонентов от общего веса тела? Пожалуй, для RoboRoach такой метод сгодится. Но ведь завтра те же ребята выпустят конструктор, где мозгом станет уже настоящая, выращиваемая в чашке Петри нейросеть, — и что тогда? Живое или нет? Что считать эксплуатацией машины, а что — издевательством над живым существом? Где, как провести границу между жизнью и ошибкой (привет, Номер Пятый!)? Как, наконец, разделить аварийный останов и останов биологический, то есть смерть? Не слишком ли мы широко замахнулись?
Boston_Dynamics,RHex,BigDog,RoboRoach,Talon,киборг,Короткое_замыкание,Пятый,робот,робоэтика,этика