Мы уже час катаемся на катамаране по побережью На’Пали на острове Кауаи, и тут капитан глушит двигатель. Течение и ветер противоречат друг другу, и с тех пор, как мы покинули Порт-Аллен, мы бьем волны крест-накрест, но дельфины-спиннеры, которые появились рядом с корпусом, счастливы, ныряя и кувыркаясь в том, что осталось от нашего следа. Капитан, который пальцами ног рулил через прерывистое движение воды, объявляет через потрескивающую систему громкой связи: «Ребята, они так же любопытны к нам, как и мы к ним».
Документальные фильмы о природе, смотрители парка и гиды предлагали мне различные варианты того, что пчелы, пляжные крабы, лоси — боятся меня так же, как и я их, и что они — белки, дельфины и дикие птицы — такие же любопытные. Это всегда казалось мне немного корыстным. Почему мы должны формулировать деятельность нечеловеческих существ в таких терминах? Только ли благодаря тому, что они такие же, как мы, животных можно видеть, уважать или оставлять в покое?
Глядя, как дельфины-прядильщики совершают аккуратные бочки на горизонте, я подозреваю, что природа нашей встречи гораздо сложнее. Это происходит, по крайней мере, тремя путями: я переживаю их, они переживают меня. Мы переживаем друг друга, переживающих друг друга. Это достаточно правдиво для моих встреч с большинством людей. Когда-нибудь это может описать и мои встречи с машинами.
Не так давно во время репортажной поездки я познакомился с коммерческим роботом-программистом по имени NAO. Оно откликалось на мои словесные команды и даже немного танцевало на столе. Процедура доставляла мне удовольствие, но в то же время она казалась вынужденной, как будто дрессированный дельфин прыгает через обручи. В прошлом году базирующаяся в Сан-Франциско аниматронная компания Edge Innovations анонсировала робота-афалину, достаточно реалистичного, чтобы заменить дельфинов, содержащихся в неволе, в океанских тематических парках. Наблюдая, как спиннеры танцуют на волнах Тихого океана, я задаюсь вопросом: что такое неволя для существа с мозгом ИИ и силиконовой кожей? Могут ли когда-нибудь и роботы заслужить свободу?
Рассуждая о культуре дельфинов, историк СМИ Джон Дарем Питерс исследует противоречие между их высоким интеллектом и их безудержным существованием под водой в мире, где материальные артефакты невозможны. У дельфинов, пишет он, есть «парламенты, но нет пирамид; память, но не история; поэзия, но не литература; религия, но не писание; образование, но нет учебников; закон, но не конституция; счет, но нет мела, бумаг, музыка, но без партитуры; сводки погоды, но не альманахи; навигация, но без эфемерид; культура, но не цивилизация». В этом смысле они представляют собой обратную сторону зарождающегося машинного интеллекта нашего мира, который, обученный на массивах человеческих данных, имеет учебники без образования, литературу без поэзии. Пока, во всяком случае.
Роботы не люди. Если что, они животные.
Моя ответственность перед машиной не такая, как моя ответственность перед дельфином. Один разумен и непознаваем; другой не является разумным, а является продуктом знания. Тем не менее, мы говорим об «этике ИИ», которая вращается вокруг двух важных вопросов. Наиболее актуальным является риск, который представляет для нас искусственный интеллект. Бездумное развитие ИИ влияет на уязвимые сообщества людей, разрушая частную жизнь, стимулируя трудовую эксплуатацию и навязывая структуры наблюдения. Это может усилить исторические предубеждения всевозможными злонамеренными и неожиданными способами. Специалисты по этике, указывающие на это, создают проблемы для крупных технологических корпораций; их продолжают увольнять.
Другой риск, который мы представляем для них. Это что-то из научной фантастики: порабощенные роботы и угнетенные репликанты под прицелом бегущего по лезвию. Конечно, в реальном мире не существует такой вещи, как разумная машина. ИИ не может чувствовать; ИИ — это просто чрезвычайно сложная математика. Роботы едва могут открутить банку майонеза. Беспокойство о том, как мы относимся к системам искусственного интеллекта и роботам, кажется совершенно неуместным в свете нынешних человеческих страданий. Ударь собаку-робота Boston Dynamics: есть люди, у которых до сих пор нет прав человека! Искусственных людей не существует! Настоящие люди существуют!
Конечно, эти риски не обязательно должны быть взаимоисключающими (хотя вам, вероятно, все же следует дать пинка роботу-собаке Boston Dynamics, это полицейский). В своей недавней книге «Новая порода» специалист по этике роботов Кейт Дарлинг утверждает, что нам нужно перестать думать о роботах и агентах ИИ как об искусственных людях. Это ставит нас в тупик, создает путаницу в отношении того, чем на самом деле являются роботы, и скрывает от нас вред, который они могут причинить. Распространенный рефрен «роботы приходят на нашу работу» порождает ненужную моральную панику по поводу личности. Нам срочно нужна новая метафора. «Роботы — не люди», — говорит она. Если что, они животные.
«Подобно тому, как разнообразие интеллекта животных в нашем мире сильно отличается от нашего, искусственный интеллект будет отличаться от интеллекта человека», — пишет Дарлинг. Машины, как и животные, воспринимают мир иначе, чем мы; исследовательские лаборатории часто заимствуют из мира природы для создания роботов, которые скользят, ползают и роятся. Вместо того, чтобы конкурировать с нами за мантию человечества, агенты ИИ и роботы могут быть нашими сотрудниками — точно так же, как почтовые голуби, свиньи-охотники за трюфелями и собаки-поводыри помогают нам сегодня выполнять различные задачи. И роботы, и животные могут служить посредниками, облегчая взаимодействие между людьми. Наша склонность приписывать действие чему-либо живому кажется жестко запрограммированной; мы не можем не проецировать жизнь на машины, но эта жизнь не обязательно должна быть человеческой.
Bêtes-Machine.
Тогда думайте о машинах как о зверях. Это не новое сравнение, а просто инверсия старого. Рене Декарт сравнивал крики раненой собаки со звуком неисправной машины; он называл животных bêtes-machine. Он полностью и влиятельно обходился без внутренней жизни нечеловеческих существ. «Они едят без удовольствия, плачут без боли, растут, не зная», — писал французский естествоиспытатель Николя Мальбранш, один из наследников Декарта. В конце девятнадцатого века бихевиористы еще больше свели поведение животных к стимулу и реакции, ярким примером чего являются эксперименты Ивана Павлова со слюнотечением собак. Этолог животных Франс де Ваал пишет, что на протяжении большей части двадцатого века ученые в основном разделяли этот механистический взгляд на животных, рассматривая их либо как «машины, работающие на основе стимула и реакции, чтобы получить вознаграждение и избежать наказания, либо как робота, генетически наделенного полезными инстинктами».
Однако сегодня ученые в основном пришли к выводу, что животные чувствуют то же, что и мы. Животные учатся, страдают, испытывают радость и скорбят по умершим; дельфины называют друг друга по имени, узнают себя в зеркале и проявляют альтруизм. И все же, как указывает Дарлинг, мы по-прежнему обращаемся со многими животными как с машинами, извлекая из них все, что можем, для собственной выгоды. Практика фабричного земледелия обрекает разумные существа на укороченную, кошмарную жизнь; коровы, куры и свиньи рождаются в темных, тесных условиях, отрываются от матерей и зверски убиваются.
Фермы и скотобойни также травмируют своих сотрудников, которые часто принадлежат к очень уязвимым сообществам. Продолжим ли мы эти циклы эксплуатации в эпоху роботов?
«Права роботов» переживают момент. Недавний литературный обзор публикаций, посвященных моральному рассмотрению искусственных сущностей в академических журналах, показывает, что интерес к этому вопросу растет экспоненциально. В опубликованных статьях и на симпозиумах ученые обсуждают «страдающие подпрограммы» и этическое отношение к алгоритмам обучения с подкреплением. Но эти мысленные эксперименты, хотя и увлекательные в абстрактном плане, не очень полезны, когда дело доходит до представления того, как права разумных машин будут действовать на практике. История защиты прав животных более поучительна. Как отмечает Дарлинг, наше отношение к нечеловеческим существам никогда не соответствовало философским рамкам. Кролики и хомяки защищены от использования в лабораторных экспериментах, а мыши — нет; «Киты-убийцы» не стали культурными символами, достойными защиты, пока их не переименовали в «косаток». Человеческая эмпатия эмоциональна и нелогично избирательна. К счастью, она также податлива.
Расширение морального круга.
Нам еще далеко до искусственного общего интеллекта, изображенного в научно-фантастических фильмах, таких как «Она», «Из машины» или «2001: Космическая одиссея», но процесс разработки такого ИИ является итеративным. Писатель-фантаст Тед Чан недавно заметил в интервью Эзре Кляйну, что «задолго до того, как мы дойдем до того момента, когда машина станет моральным агентом, у нас появятся машины, способные страдать… в процессе разработки машин, обладающих сознанием». и моральных агентов, мы неизбежно создадим миллиарды существ, способных страдать». Искусственный разум, если он появится, не включится, как выключатель. Скорее разум будет развиваться, как это произошло с жизнью на Земле. Вдоль этого континуума будет трудно провести четкие линии.
Даже сейчас определить, где начинается и заканчивается разум, сложно. Является ли устрица, у которой нет центральной нервной системы, более или менее разумной, чем капуста? Является ли взрослая собака более разумной, чем человеческий плод? Осьминог более разумен, чем ворона? Философ-утилитарист XIX века Джереми Бентам, которого часто цитируют в кругах по защите прав животных, предположил, что оленя останавливает боль. Он писал: «Вопрос не в том, могут ли они рассуждать? И могут ли они говорить? Но могут ли они страдать?» Однако современное философское и этическое движение сентиентизма связывает чувствительность со способностью испытывать вещи. По этой рубрике разумны люди и нечеловеческие животные; растения, губки и морские огурцы — нет. Примечательно, что сентиентисты оставляют место для возможности того, что искусственный и даже инопланетный интеллект может быть — или стать — разумным.
Защита роботов защищает нас от самих себя.
Джейми Вудхаус, самый активный защитник сентиментизма, — консультант с мягкими манерами, живущий в Северном Лондоне; он ведет веб-сайт sentientism.info, несколько групп в Facebook и регулярную серию подкастов, исследующих нюансы этого мировоззрения. Сентиентистское мировоззрение, объясняет он мне, можно резюмировать как доказательство, разум и сострадание ко всем разумным существам. Некоторые видят в нем альтернативу светскому гуманизму, который разделяет его натурализм, но выталкивает моральный круг наружу. Он спрашивает: «Если мораль заключается в заботе о других — а под другими мы подразумеваем любое другое существо, которое имеет перспективу, может страдать, может процветать, может испытывать вещи, — тогда почему бы нам не иметь сострадания или морального уважения ко всем этим разумным существам?» Он вполне доволен логотипом, который разработал для своего веб-сайта: круг, содержащий изображения человека, свиньи, робота и инопланетянина.
Это может показаться странным совпадением моральной философии, веганства и далеких спекуляций, но Вудхаус стремится следовать науке. В своем подкасте он регулярно беседует с защитниками прав животных и учеными-компьютерщиками, инвестирующими в безопасность ИИ. Последние, по его словам, работают над тем, чтобы привести искусственный интеллект в соответствие с человеческими ценностями. Но какие именно ценности? «Если бы мы попытались привести искусственный интеллект в соответствие с современной человеческой этикой, это потребовало бы объяснения им, что с этической точки зрения вполне приемлемо выращивать и убивать менее могущественных разумных существ для своих собственных потребностей в ресурсах», — размышляет он.
Вудхауз быстро замечает, что искусственное разумение не отменяет никаких наших обязательств перед живым миром или людьми в нем. В своем понимании, которое он разделяет с философом Питером Сингером, основоположником современных прав животных, «исключение любых групп разумных существ, основанных на видах, столь же произвольно, как и исключение других групп людей». «Специализм», дающий людям право причинять страдания животным, неразрывно связан с сексизмом, расизмом и классизмом, которые люди использовали в качестве оправдания для угнетения других людей на протяжении веков — другими словами, для обращения с ними как с животными. Действительно, режимы геноцида часто используют сравнения с «недочеловеческими» существами, такими как обезьяны, свиньи или тараканы, чтобы дегуманизировать маргинализированные группы. Если фашисты относятся к людям как к животным, то не должны ли мы поступать наоборот — относиться к животным как к людям?
Реляционный подход.
Недавно Вудхаус начал использовать новое слово. Это слово «субстрат». Например, он рассматривает, какие разумы могут существовать в разных субстратах, например, в кремнии. «Я не думаю, что вся обработка информации разумна, — говорит он, — но я думаю, что вся разумность — это просто обработка информации». В конечном счете, важен шаблон, а не аппаратное обеспечение, на котором он работает. Разговаривая с Вудхаусом, я очень быстро вхожу в режим комнаты в общежитии. Я рассказываю ему о своей любимой теории: тест Тьюринга проверяет не сознание искусственного интеллекта, а скорее готовность человека-собеседника расширить личность до ИИ. Это скорее испытание для нас.
«О, реляционный подход, — говорит он.
Аргумент звучит так: независимо от того, разумна машина или нет, мы должны относиться к ней так, как если бы она была разумной. Наш инстинкт антропоморфизации хорошо задокументирован; многочисленные исследования показали, что люди эмоционально реагируют на роботов и относятся к компьютерам как к социальным акторам. Как следствие, вполне вероятно, что между людьми и роботами сформируются «настоящие связи». Когда мы нарушаем настоящую связь, мы снижаем собственные моральные стандарты. В этом смысле защита роботов защищает нас от самих себя. Далее, мы существуем в социотехнологической экосистеме — наши отношения с роботами и другими людьми образуют взаимозависимую, безвозвратно запутанную паутину. Мы не можем приписывать моральный статус изолированно, потому что общества тоже создают людей. Моральное соображение трудно выпутать из этой паутины социальных отношений. Так же трудно, кажется, как и представить себя вне природы.
Возможно, моральный статус не должен зависеть от таких свойств, как сознание, способность рассуждать или способность страдать, поскольку разумные машины, такие как животные, вероятно, воспринимают мир иначе, чем мы, возможно, способами, которые мы не понимаем. В то время как традиционная моральная философия, как правило, пишется с точки зрения привилегированных инсайдеров, которые добровольно выбирают распространение прав на других, в этом социально-реляционном подходе, как пишет ученый Дэвид Дж. Ганкель, «то, чем является сущность, не определяет степень моральной ценности, которой он обладает». Вместо этого само существование другого — будь то мясо или машина — прерывает наше собственное чувство морального превосходства. То, как мы ведем себя по отношению к этому другому, является испытанием для нас, а не для них. Вопрос не только в том, могут ли они страдать? А также: хотим ли мы причинять страдания?
Джудит Донат, основатель группы Sociable Media в MIT Media Lab, приводит пример скромного тамагочи. Представьте себе ребенка, который тратит слишком много времени на заботу о виртуальном питомце. Лучше ли поощрять ребенка убить тамагочи и двигаться дальше, или сохранение жизни тамагочи учит его заботе и ответственности? Тамагочи не является живым ни в каком биологическом смысле, но он моделирует жизнь, вызывает антропоморфную привязанность и тем самым вызывает сочувствие у своего молодого владельца. «Сострадание — это не конечное благо, которое вы расходуете, когда о чем-то заботитесь», — пишет Донат. «Наоборот, это практика, которая становится сильнее с использованием».
Развитие практики заботы о машинах может принести пользу только другим попутчикам, находящимся на краю морального круга. Уход за тамагочи может стать ступенькой к уходу за хомяком, собакой или даже другим человеком; перенос раненой птицы в безопасное место может быть жестом, по духу не отличающимся от ремонта сломанной машины, вместо отправки ее на свалку. Достойное отношение к вещам, даже если они не живые, наполняет смыслом наши собственные действия и подчеркивает влияние нашего выбора на других. Забота – это то, что мы несем с собой. Те, кто защищает права разумных машин, часто считают свои рассуждения формой «защиты от будущего» человеческой этики, но акт их воображения также является рефлексивным. «По мере того, как мы разрабатываем искусственный интеллект, мы вынуждены кристаллизоваться, систематизировать и совершенствовать нашу собственную этику», — говорит мне Джейми Вудхаус. «Что, как вы надеетесь, мы в любом случае будем делать».
