Оригинал материала находится по адресу www.computerra.ru/163904/feedback/
7.03.2017

Роботы формируют человека: обратная связь со знаком вопроса

Роботы — тема захватанная, почти бытовая, но по-прежнему неисчерпаемая. Чем глубже они проникают в повседневную жизнь, тем больше обнаруживается у них неизвестных ранее особенностей. Об одной из последних таких находок сегодня и пойдёт речь: о неожиданной обратной связи, которую электронный или электромеханический помощник образует с человеком.

И я не про интерактивность, которая естественно входит в базовый функционал любого устройства, претендующего на гордое звание «робот». Я про необъявленное недокументированное воздействие, которое машина, как выясняется, оказывает на пользующегося ею человека. Если коротко: мы, конечно, строим роботов, но и они теперь «строят» нас в ответ.

Вопросу этому в последние месяцы зимы так или иначе была посвящена целая серия публикаций англоязычной прессы. Чтобы быстрее донести основную мысль, позвольте сразу сосредоточиться на одном из описанных там экспериментов. Эксперименте простом, но тем более удивительном! Суть: были набраны две группы детей младшего школьного возраста и усажены с глазу на глаз с роботами Tega — играть!

Тега — это такой пушистый уродец-телепузик, умеющий поддержать беседу. С каждым ребёнком он играл в головоломку на двоих с соревновательным элементом: кто решит быстрее. Но если с участниками первой группы робот общался весьма сдержанно (выиграв: «Я решил!», проиграв: «Это было трудно!»), то со второй демонстрировал, скажем так, выраженную тягу к победе и силу воли: побеждая, говорил что-нибудь в духе «Это было непросто, но я старался и победил!», проиграв, высоко оценивал достоинства оппонента, «Ты потрудился и вот результат!».

Ерундовая разница, верно? Однако сила её воздействия на детей оказывалась поразительной. К концу эксперимента вторая группа демонстрировала заметно большее стремление победить и не ленилась ради победы стараться: дети, в частности, делали больше попыток решить головоломку, поражения расстраивали их не так сильно и не убивали желания попытаться снова и снова. И это заставляет задуматься, что здесь происходит.

Не секрет, что машины — любые машины, механизмы вообще — формируют наши привычки, нашу манеру обращаться с ними. Садясь за руль любимого автомобиля, вы действуете особенным, неповторимым образом: как вам удобней и как эффективней конкретно с этим авто. Однако в данном случае, с роботами, влияние сильней и распространяется дальше. Здесь человек начинает проявлять новые черты характера — и тем более ценно, что в обществе они считаются положительными. Робот оказывает на человека выраженное благотворное влияние!

Да, многое пока неясно. Например, как долго сохранится положительный эффект? И не обязан ли он в основном новизне ощущений: ведь в данном случае дети видели Tega впервые в жизни, а что будет, если они к нему привыкнут, продолжат ли реагировать на него так же? С другой стороны, тот факт, что аналогичное воздействие обнаружено и в других опытах, даёт надежду, что это, так сказать, системный эффект, долгосрочный, который можно и нужно эксплуатировать!

Взять, например, такой опыт. Тот же Тега, снова две группы детей — но на сей раз дети рассказывают истории, а робот играет роль слушателя. И если с рассказчиками из первой группы он «безэмоционален», сдержан, с другой — ведёт себя так, как обычно делают это малыши, заинтересованные рассказом: наклоняется к рассказчику, кивает, улыбается и вообще проявляет себя тем активней, чем энергичней ведётся рассказ.

Так вот детям не просто больше понравился второй вариант — оказалось, что с «заинтересованным» роботом они склонны рассказывать более длинные и сложные истории. И даже если у ребёнка со временем сформируется привычка к роботу, накопленные за время таких бесед результаты уже не исчезнут! Потому что, рассказывая более сложные истории, дети быстрее формируют свой словарный запас и развиваются интеллектуально.

Пытаются использовать обратную связь и для воздействия на людей взрослых. Вот, в похожем эксперименте, робота Nao (того самого, из опыта с попами) сажают напротив человека, страдающего избыточным весом, чтобы он (человек) обсудил с электронным собеседником своё меню. Расчёт здесь на то, что быть откровенным с машиной по некоторым вопросам легче, чем с людьми, а завязавшийся диалог окажется более эффективным, чем простой подсчёт калорий в мобильном приложении. В конце концов это поможет исправить вредные привычки: сократить количество сладкого и мучного, например.

Проблема же, которая уже просматривается, в том, что с тем же успехом, с каким обратная связь бывает положительной, она может оказаться и негативной — особенно, если конструкторы о такой связи не задумывались (а кто о таком сейчас задумывается?). Для иллюстрации этого чаще всего вспоминают неожиданный эффект, проявившийся у детей, растущих в домах с «умным» голосовым помощником, а-ля Amazon Echo: электроника не требует от них быть вежливым, а в результате вырастают маленькие грубияны, предположительно, легко переносящие новую манеру общения на людей (подробней см. прошлогоднюю «Попалась, глупая железка!»).

Всё это заставляет по-новому взглянуть на задачу проектирования роботов. Вот, например, Mattel, готовящая к запуску нынче летом продукт под названием Aristotle: формально, ещё одного голосового помощника, только в этот раз рассчитанного на детей и способного сопровождать их от возраста нескольких месяцев до школы. За игрушкой спрятан искусственный интеллект в облаке Microsoft: самых маленьких он развлекает забавными звуками и сменой цвета, детям постарше рассказывает сказки и пытается завязать диалог, а школьникам способен помочь быстро извлекать факты из Сети. Отличная задумка, верно?

Однако посмотрите на неё сквозь призму того, что вы только что узнали об обратной связи. Во-первых, влияние на ребёнка должно быть положительным — а продумали ли этот аспект разработчики «Аристотеля»? Во-вторых, влияние может оказаться негативным — и тем более, задумывались ли они об этом, просчитывали ли варианты, ставили ли какие-то ограничения? Вряд ли. Скорее всего ограничились прямолинейной реализацией базовых функций.

А ведь другого решения нет: каждый робот, каждый «умный» помощник теперь должен проектироваться с учётом этого нового знания. Иначе спустя уже семь-десять лет мы рискуем получить поколение искалеченных электроникой детей! Да, это напоминает страхи, высказывавшиеся родителями лет двадцать назад: помните, как боялись они персональных компьютеров, за которыми дети вдруг стали проводить сутки напролёт? Но сегодня ситуация и вправду иная: влияние электроники на детей будет тяжелей, глубже, потому что впервые машина ассоциируется в их сознании с живым существом — которому хочется подражать, которому хочется угодить, «интерес» со стороны которого ребёнком ценится так же высоко, как интерес человека.

P.S. Использованы графические работы Группы персональной робототехники MIT Media Lab.


Amazon_Echo,Nao,Tega,дети,образование,психология,робот