homuncul

Побочный эффект

В качестве одной из неприятных сторон будущего я бы назвал издевательство людей над роботами. Чем более антропоморфными будут становиться роботы, тем более явным и распространенным может оказаться данное явление.

Разнообразные футуристические сценарии нередко культивируют страх перед умными машинами, берущими под контроль человечество. Полагаю, реальность будет обратной, и умным машинам достанется от людей, как только первые начнут выполнять работу в качестве домашней прислуги. В этот момент произойдет новый социокультурный перелом: сейчас на Земле живут последние поколения, не знающие вкуса рабовладения. Мне, конечно, очевидна неполноценность такой аналогии, человек не тождественен роботу. Однако в данном случае важна не формальная сторона вопроса, а то, как робот-слуга будет восприниматься его хозяином.

Очень легко не испытывать как положительных, так и отрицательных чувств в отношении пылесоса. Если же в доме живёт субъект с внешностью человека, способный разговаривать, демонстрировать человеческие эмоции и язык тела, психика будет его до определенной степени гуманизировать, вне зависимости от желания владельца (я намеренно употребил слово «живёт»). В то же время известно, что это всего лишь робот, а потому на него не распространяются моральные запреты. Что дает такое сочетание? Свободную реализацию любых наклонностей, от сравнительно безобидных капризов и прихотей до поведения, которое применительно к человеку мы бы назвали унижением. Здесь очень важен факт интеллектуального развития робота, ибо оно делает такой тип поведения особенно притягательным. Животному можно причинить боль, но даже собаку довольно сложно унизить.

Исторические хроники, специальные исследования и даже литература, отражающая быт конкретной эпохи, дают богатый материал на тему жестокости людей по отношению друг к другу. Удивляет, насколько массовым и будничным может быть это явление, насколько легко на него настраивается психика.

Нужно ли беспокоиться по этому поводу? Ответ зависит от того, как оценивать последствия. Кто-то, наверное, будет приветствовать такое средство «выпустить пар», позволяющее лучше справляться со стрессами современной цивилизации. Подобно тому, как сейчас эту роль приписывают компьютерным играм, где за час можно перестрелять тысячу плохих парней и залить кровью целый [виртуальный] город. Другие, вероятно, скажут, что даром такие вещи не проходят, и если постоянно подпитывать в себе агрессию, можно выработать определенную привычку и однажды упустить границу между роботом и людьми. Тем более что речь идет не о нарисованных персонажах по ту сторону экрана, а об объектах, существующих в реальности. Правильный ответ мне не известен. В заключение, вне прямой связи со сказанным, два жизнеутверждающих ролика: раз и два.

См. также "Less Than Human: Why We Demean, Enslave, and Exterminate Others" by David Livingstone Smith [2011] - Скачать.
Tags:
А не остановит такое поведение высокая, очевидно, цена такого робота?
Остановит конечно. Да и не обязательно высокая - я тоже могу какую-нибудь тарелку разбить и даже хочу иногда, но сдерживаюсь. Не обязательно исходя из стоимости - хотя бы потому что осколки кому-то убирать надо (а если вместо тарелки робота-слугу раздолбаешь - то точно тебе!)

А хоть бы и не сдерживался - кому какое дело? Ой уж прямо на мою психику это разрушительно подействует!
Проблема мне представляется надуманной. Возьмем к примеру личный автомобиль. Как правило, люди над ним не издеваются, а наоборот, эксплуатируют осторожно, заботятся, чистят и ремонтируют. К антропоморфными роботам подобное отношение будет проявляться еще в большей степени. Еще не известно кто окажется чьим "рабом".
Жена при разводе может битой, например, раздолбать.

Я так и представляю судебный процесс: супруга при разводе, раздолбила водопроводным ключом робата-кухарку.
Сексуальное рабство человекоподобных робатов, например.
Тема благодатная более чем.
Предоставление оплачиваемоего отпуска, возможность регистрировать браки.
так вроде уже обсосали в литературе лет 30 назад
И Бачигалупи со своей "Заводной" вроде бы выиграл последнюю Небьюлу.
Если что-то приносит вред самому человеку (меняет его психику), то это отследяте ученые, проанализируют психологи, будут предотвращать педагоги - в развитых обществах такие институты в обществе есть. Ответственные родители, например, учат детей, что нельзя отрывать голову и конечности кукле.
Роботам тоже нужна психотерапия, возможно. Кто это будет оплачивать?
Я думаю, что антропоморфность роботов (за исключением специально созданных для реализации потребности в сексе и насилии) вряд ли будет реализована.

Еще менее вероятно, что у роботов будет мышление, аналогичное человеческому, это огромный расход ресурсов впустую. Робот должен выполнять определенные задачи. У домашнего робота может быть очень сложная логика чтобы отличать мусор от нужных вещей, включая вопросы людям в спорных случаях и т.д. У домашнего робота может быть система распознавания человеческих эмоций, чтобы ограничить действия по приказам, отданым в состоянии аффекта. Разумеется, у него должна быть система распознавания речи. Но собственные эмоции будут ему только мешать.
вслед за массовым выпуском роботов неизбежно пойдут и борьба за их права, сми для роботов, робосоциализм и прочая, прочая
Люди давно имеют отношения с домашними животными. Например, с собаками.
Кто-то к ним относится совсем как к членам семьи, кто-то унижает, как рабов, и требует беспрекословного подчинения, кто-то относится как к оружию, которое нужно поддерживать в порядке, или как к охранной сигнализации, или как к игрушке-томагочи...
"издевательство людей над роботами"

Много лет как во многих сферах человеческой деятельности стало обязательным "знание компьютера". Объективно, это обоснованно. Отдача от таких знаний высокая. Но. Практика показывает, что подавляющем большинстве случаев декларируемые знания в разы уступают знаниям реальным. Тружусь айти-специалистом - каждый день вижу. К чему это приводит. Во-первых, к тому компьютеры, а с некоторых пор и телевизоры, и телефоны, и чем дальше, тем более малозначительные устройства становятся "умнее" их обладателей. Во-вторых, касаясь конкретно исторической родины - они еще и дорожают, и сильно. Т.е. выполняя те же фунции, что и раньше, плюс чуть-чуть полезного, плюс масса непонятного, но за которое тоже надо платить, они становятся относительно все более дорогими. По отношению к выполняемым функциям. Пример. Несколько лет назад я купил очень хороший телефон за триста баксов. Срок его жизни вышел. Я опять хочу купить очень хороший телефон за триста баксов, но не смогу. Потому что теперь очень хороший телефон, правда, обвешанный, как елка игрушками, всевозможными категорически не нужными мне функциями, стоит раза в три дороже. И так везде. Что это значит. Это значит, что чем далее, тем дороже обходится человеку автоматизация простейших функций. И он вынужден их теперь ценить. Потому что это "вдруг" стало дорого. И это мы не касались хорошо известных моментов, когда тот же телефон круглосуточно следит за владельцем и докладываем о его действиях некоему серверу. Такой же машине. Многие ли из нас отключили эту функцию после того, как о ней стало известно? Из моих знакомых это сделали единицы процентов.

Большой вопрос, кто над кем издевается. Они давно "уменее" нас, точно так же, как и ценны.
Про подорожание пример странный. Совсем недавно телефоны стоили далеко не 300 баксов, притом что функционала в современном смысле у них не было вообще. Далее, я совершенно не понимаю, почему вы не можете сейчас за 10000 рублей купить хороший телефон.
То же с компьютерами - когда-то они стоили несколько тысяч, потом целью стал "домашний компьютер за $1000", сейчас домашняя печатная машинка-просмотрщик интернетов-видеоплеер может стоить пожалуй что $500.
В Японии задействована такая система "выпуска пара": в подвале фирмы есть помещение, где в ряд стоят манекены боссов и к ним набор дубинок. Всяк недовольный приходит и дубасит обидевшего от души. И волки сыты и овцы целы.
Так что надо ожидать естественного хода событий: если будут прецеденты издевательства над дорогими роботами - на рынке появятся дешевые копии для битья. Можно заказать резиновую тещу и отвести душу. Сообразить на троих с взятыми на прокат робоприятелями значит остаться с небитой мордой. Или как закажешь. :-)
Видимо, можно сказать: красивая машина представляет собой ценность. Не внешне - и не только внешне, а функционально сделанная и правильно используемая. у которой не нагружено лишнего, стройный замысел, воплощенный в механизме. Как всякой ценностью, можно восхищаться, можно унижать и отвергать. И - как со всякой ценностью - не без последствий для себя. Если без дальних последствий, то что-то такое - вроде сильно искажения отношения к другим объектам. Как, скажем, если человек ненавидит красивые цветы и обожает плесень, вряд ли у него будет нормальный художественный вкус. Так и тут - как ни крути, скажется. Не следует только ждать простых зависимостей. Фабр стрелял из ружья в певчих птиц, чтоб не гомонили, и был великим натуралистом. Однако - в определенном стиле, именно что бездна упорства, старания и наблюдательности, скрупулезности описания, ни в каком другом.
ИМХО, регулярные издевательства над рабами осуществлялись не с целью удовлетворения садистских наклонностей (хотя и такое, конечно, бывало... но пусть лучше садист, раз он все равно садист, тиранит робота, чем животное или человека), а с целью наказания, подавления и устрашения - чтобы не ленились и не бунтовали. А робот от побоев покорнее не станет и лучше работать не будет.

Edited at 2013-02-11 07:48 am (UTC)
Моя мысль в том, что наклонности в нас так или иначе сидят (ср. популярность компьютерных игр, где нужно убивать или разрушать). Насколько они будут воплощаться в новой ситуации, вопрос для меня не простой.
Уже много лет люди борются с роботами и за их права.
И за все эти годы предпосылок для появления таких роботов все нет.
А захотят ли люди иметь дома
А захотят ли люди иметь дома нечто человекоподобное типа C-3PO? Вот лично я в качестве робота-кухарки предпочёл бы R2-D2. Потому что человекоподобная "живая" вещь в моём доме лично меня будет напрягать.
Но вандализм в отношении роботов будет, я в этом уверен. И антивандальный дизайн роботов будет просто необходим.
"на тему жестокости людей по отношению друг к другу. Удивляет, насколько массовым и будничным может быть это явление, насколько легко на него настраивается психика."

Дык. Потому что это правильно.
Животное поведение и инстинкты - убить соперника, замучить соперника, устрашая остальных.