- Автор: Russell Blackford
- Оригинал публикации: Transhumanism still at the crossroads
- Перевод: Артём Тютюнников
В 2004‑м я написал статью под названием «Трансгуманизм на перепутье», которая оказалась в числе самых популярных моих эссе. Впервые она была опубликована в «Оке бури» (Eye of the Storm), моей нерегулярной колонке на сайте Betterhumans. (И послушайте, я всегда готов возродить «Око бури», если кто-то заплатит мне хотя бы символическую сумму, дабы покрыть часть моих временных затрат на то, чтобы взяться за дело как следует; но не похоже, что это когда-нибудь произойдёт.)
Почти четыре года спустя я вижу это эссе с достаточно отдалённой перспективы, и оно читается почти как если бы его написал кто-то другой, хотя, полагаю, я до сих пор согласен с большинством высказанных там пунктов: я готов считаться членом трансгуманистического движения, если речь пойдёт об инклюзивном общественном движении, но не в том случае, если оно станет чем-то узким, культистским или (не хотелось бы заострять на этом внимание) подходящим только для нердов-технолибертарианцев. В каком направлении станет развиваться трансгуманизм, всё ещё вопрос времени, но в обозримом будущем я бы предпочёл оставаться под его общей крышей, чтобы оказывать некоторое влияние на происходящее изнутри, нежели отбросить, отвергнуть и отмежеваться от него, как поступили некоторые из былых союзников.
Сильное трансгуманистическое движение по-прежнему остаётся уместным, если речь идёт о движении, которое настроено по отношению к технологиям рационально, которое благоволит технологиям, покуда те применяются благоприятным образом (или, по крайней мере, не вредят). Большая часть заявлений луддитских противников клонирования (не говоря уж о настолько очевидных вещах, как исследования стволовых клеток) не имеет ничего общего с общественным вредом, который оно якобы может принести, и я приветствую появление сильного движения, которое выскажет это громко и ясно. Если таким движением станет трансгуманизм, тогда рассчитывайте и на меня. Но в то же время, я зачастую обозначал себя термином «анти-антитрансгуманист», чтобы противопоставить себя иррациональным противникам трансгуманизма, но не рациональной и информированной критике этого движения, а также чтобы просигнализировать о том, что я не зашорен какими бы то ни было амбициями превосходства, которые, возможно, ассоциируются у многих с трансгуманизмом.
Многие самопровозглашённые трансгуманисты заходят в своих пожеланиях намного дальше меня. Я не обязательно согласен с ними по какой-либо конкретной проблеме, но я выступаю в защиту их права отстаивать свои идеи – и более того, я считаю, что абсолютно здраво выдвигать такие идеи и обсуждать их без иррациональных страхов или чувства отвращения, которые исказят коммуникацию. Некоторые трансгуманистические идеи я поддерживаю, а некоторые — нет… но прежде всего я бы хотел посодействовать рациональным, строгим и оживлённым дебатам вокруг них. В этом и состояла цель «Ока бури»; это место должно было стать приютом спокойной философской рефлексии посреди всех бушующих биоэтических (и сходных с ними) баталий. И именно так я вижу свою роль, говоря о трансгуманистических идеях в более общем контексте; я предпочту пролить свет, а не добавить жару, хотя временами я и сам способен на эмоциональные выступления, когда сталкиваюсь с некоторыми поразительно (для меня) нелиберальными или иррациональными взглядами.
В частности, я убеждён, что очень важно обсудить такие идеи, как загрузка личности, продвинутый ИИ, технологическая Сингулярность, и так далее, и я готов рассмотреть их с определённой долей симпатии. Более того, мне доводилось оборонять защитников этих вещей от того, что я счёл недобросовестно информированными нападками. Я даже исследовал некоторые из этих идей в благожелательном ключе, пусть и несколько двусмысленно, в своих литературных работах.
Но в то же время эти идеи не входят в число тех, которые я активно отстаивал, и на это есть свои причины.
Итак, вот что я высказал в 2004‑м, остаётся ли ещё в этих словах какой-то смысл, или уже нет. Не стесняйтесь в обсуждениях.

ТРАНСГУМАНИЗМ НА ПЕРЕПУТЬЕ
Сколько себя помню, меня восхищали перспективы будущего нашего общества и нашего вида. Благодаря этому я продолжал активно трудиться на ниве научной фантастики, что, вероятно, и заставляло вздыхать и удивлённо поднимать брови моих более благоразумных коллег в академической среде и юридической практике.
Однако же это сущие пустяки по сравнению с социальной стигмой сторонника трансгуманистического движения. Примерно с 1997 года большая часть моих художественных и публицистических работ фокусировалась на проблематике, которая волнует трансгуманистов: перспективы искусственного интеллекта и загрузки; плюсы и минусы репродуктивного клонирования, генной инженерии и радикального продления жизни; а также общее рассмотрение технологий усовершенствования человека. В целом, моя точка зрения была весьма сочувствующей трансгуманистическим подходам, и по крайней мере один комментатор обозначил меня как «трансгуманистического технофила», что вполне справедливо.
Несмотря на это, я никогда не идентифицировал себя с трансгуманистическим движением в строгом смысле. После краткого периода энтузиазма я перестал обозначать себя как «трансгуманиста», и до сих пор ощущаю в связи с этим ярлыком некую остаточную неловкость. Но теперь я куда более активно взаимодействую с трансгуманизмом посредством этого сайта [т. е. Betterhumans], и мой основной проект на данный момент включает в себя исследования социального подтекста технологий усовершенствования {человека}. Учитывая, что вокруг трансгуманизма сконцентрирована вся моя трудовая жизнь, пришло время подвергнуть критическому рассмотрению моё положение и взгляды на трансгуманизм. Единственная вещь, в которой я абсолютно уверен, состоит в том, что если трансгуманизм желает преуспеть, то он должен заметно расширить свою базу, стать куда более инклюзивным и мэйнстримным общественным движением.
Трансгуманизм и его трудности
Одно из веских оснований ощущать лёгкий дискомфорт от трансгуманизма — это его несомненный нердовский ореол, ощущение, что тот апеллирует к узкой демографической группе, а именно к молодым белым мужчинам с компьютерами. И его ограниченная демографическая привязка действительно является частью проблемы.
Но этот дискомфорт заходит много дальше нердовости или ограниченной привязки. В моём понимании, одно дело использовать научную фантастику для исследования возможных изменений человеческой природы и перспектив расширения человеческих возможностей. (В любом случае, научная фантастика зачастую подходит к этим возможностям и перспективам враждебно.) Совсем другая вещь — использовать образы такого усовершенствования или киборгизации в качестве метафор для {отображения} современной социальной реальности, или же повестки политических перемен. И, опять же, совсем другое — и намного более радикальное — выдвигать в самом буквальном смысле предложение об улучшении нашей человеческой биологии. Для многих мыслящих, интеллектуальных профессионалов и людей из академической среды это пугающая идея. Так что вовсе не удивительно, что теперь, когда трансгуманизму уделяется медиавнимание, некоторые консервативные комментаторы (такие, как Фрэнсис Фукуяма) начинают характеризовать его как нечто опасное.
Чтобы понять такой отклик, нам следует помнить, что широкая интеллектуальная культура всё ещё сфокусирована на кошмарах, воплощённых в первой половине 20-го века теми, кто осуществлял программы расистской евгеники. Я не мог бы сформулировать эту точку зрения лучше, чем с помощью развёрнутой цитаты из книги Уолтера Глэннона1 “Гены и человек будущего: философская проблематика генетики человека» (Genes and Future People: Philosophical Issues in Human Genetics):
««Евгеника» почти повсеместно воспринимается как бранное слово, во многом из-за своей ассоциации со злыми деяниями в области экспериментов над людьми в нацистской Германии или широко распространённой стерилизации определённых групп людей в Соединённых Штатах или Канаде, совершёнными ранее в двадцатом столетии. Трудно не применять (attribute) некоторые аспекты евгеники к генетическим вопросам о том, какими по численности и виду должны быть люди. Но существует и более широкое понимание евгеники («хорошее творение» в буквальном переводе с греческого), которое вовсе не обязано нести эту отвратительную коннотацию с улучшением человеческого вида».
После этого Глэннон переходит к обсуждению генетической терапии, которую он рассматривает как принципиально приемлемую, поскольку её цель состоит в предотвращении или излечении болезней конкретного человека. Однако он остаётся непримиримым противником генетической инженерии в целях усовершенствования.
Что бросается мне в глаза как наиболее примечательное — это его необоснованное предположение, что улучшение человеческого вида несёт «отвратительную коннотацию». Это симптом важной черты нашей интеллектуальной культуры — то, что почтенный академический философ не в состоянии выдвинуть хоть какой-то аргумент в пользу предполагаемой отвратительности усовершенствования вида, вполне довольствуясь одной лишь ссылкой на злобные деяния нацистов и принудительные стерилизации в Северной Америке. После этого утверждения в книге Глэннона просто предполагается, по-прежнему без малейших попыток аргументации, что любые планы улучшения человеческих возможностей на «перфекционистских» основаниях лежат за гранью уважительного рассмотрения.
Конечно же, необходимо напоминать самим себе об опасности (не говоря уж об иррациональности) осуждения по ассоциации. Приводя пример из деяний нацистов, — столь злыми их сделали именно крайняя степень предрассудков, жестокости и насилия. Как выразился Филип Китчер2: “Беспрестанно повторявшиеся сравнения евреев с вредителями и абсурдные — но чудовищные — предостережения об угрозах «расовому здоровью» демонстрируют степень, в которой предрассудки проникли в их классификацию человеческих характеристик. По сравнению с этим, тот факт, что большая часть их представлений о генетике была ошибочной, представляется незначительным». Ничто из этого ни в малейшей степени не напоминает то, что имеют в виду современные защитники генетического усовершенствования.
Но суть не в том, что Глэннона можно опровергнуть. Конечно, можно. Но куда важнее отметить, что он может себе позволить писать в подобной небрежной манере, поскольку может принять как нечто само собой разумеющееся, что его аудитория исходит из тех же самых предположений. Возможно, ситуация меняется, поскольку всё больше книг и статей содержит призыв рассмотреть усовершенствование человека более благосклонно. Первая ласточка — новая [в 2004 году] книга Николаса Эгара3 «Либеральная евгеника: в защиту усовершенствования человека» (Liberal Eugenics: In Defence of Human Enhancement). И всё же, до недавнего времени даже относительно скромная идея генетической терапии провоцировала выражения озабоченности. В этой интеллектуальной среде цели трансгуманизма исключены из дискуссий с самого начала, если только не используются как мишень для нападок. Если ты разделяешь эти идеи, в лучшем случае тебя воспримут как раздражающего простака, в худшем — как субъекта, который охотно вступил бы в союз с врачами-нацистами и безумными учёными. Намного проще соотносить себя с движениями, создающими образ ответственного человека, приверженного благожелательности и справедливости.
Встаньте и рассчитайтесь4
Было бы просто прекрасно, если бы оппоненты трансгуманизма оказались открыты для рациональных обсуждений. Однако постепенно я выучил несколько важных, и не слишком приятных, уроков. И один из них: мы уже зашли слишком далеко, чтобы либеральные аргументы об индивидуальной свободе и личном выборе сохраняли большое значение. На многих форумах я доказывал, что интеллектуальные основания для законов против инноваций, таких, как клонирование человека, крайне скудны, что либералам стоит признать {эти инновации} легитимной возможностью для тех, кто предпочитает или чувствует потребность в них. Уже слишком поздно, чтобы рассчитывать на такой стиль аргументации, во всяком случае, исключительно на него, поскольку дебаты о клонировании многократно продемонстрировали: главные оппоненты трансгуманизма уже отбросили традиционные либеральные идеалы. Максима Джона Стюарта Милля о том, что следует приветствовать жизненные эксперименты, теперь не получает должного внимания в государственной политике. Тональность и содержание дискуссий показывают, что мы имеем дело с едва замаскированным желанием навязать определённые моральные идеалы в качестве правовых норм, а также страхом перед чуждыми направлениями, которые может принять развитие общества в будущем. [Моя точка зрения несколько изменилась по сравнению с 2004‑м, теперь я считаю, что защита наших свобод неизбежно включает элемент лобовой конфронтации с религией. Я пришёл к этой мысли очень постепенно.]
Хотя в разных обществах итоги будут различны, законы против клонирования создали прецедент для отказа от либерализма в законодательном регулировании областей, связанных с биоэтикой. Мы можем продолжать сетовать на это — и убеждён, что должны продолжать [как до сих пор продолжаю я сам] – но наши сетования навряд ли приведут к успеху.
Что мы можем поделать сверх того? Самое главное — это просто встать и рассчитаться. Трансгуманистические идеи не могут замалчиваться вечно, поскольку они обращаются к глубоко укоренённым побуждениям совершенствования возможностей — как наших собственных, так и возможностей людей, которых мы любим или с которыми мы себя идентифицируем. Но движение не может пребывать в расстройстве десятилетиями. Единственный ответ, который я вижу, состоит в том, чтобы трансгуманизм быстро развился в многочисленное движение идейных сторонников, включающее многих ясно формулирующих {свою позицию}, значительных представителей, которые готовы публично самоидентифицироваться с трансгуманизмом. Мы должны перерасти ту точку, где для государства станет не просто нелиберальным, но попросту иррациональным пытаться подавлять деятельность, которую мы одобряем или в которой желаем попробовать свои силы — идёт ли речь об исследованиях продления жизни, технологических способах усиления интеллекта, или же о чём-то ещё из области определённо трансгуманистических действий.
Как указывал Джон Локк в своём призыве к религиозной терпимости более 300 лет назад, государство не может контролировать убеждения людей, в отличие от их внешнего поведения. Несомненно, цензурой и пропагандой можно добиться многого, возможно, намного большего, чем предполагал Локк. Но, слегка перефразируя написанное Сьюзан Мендус5, для государства было бы иррационально вкладываться в это, потому что распространённые убеждения слишком крепко засели в слишком большом числе умов. Как только государство начинает попытки подавить системы убеждений со слишком широкой базой, ему приходится браться за задачи, слишком серьёзные даже для доступных ему богатейших ресурсов. Для подавления убеждений потребуются ничем не ограниченные вложения, так что такие попытки попросту нерациональны.
Сама Мендус, быть может, и применяла своё утверждение исключительно к религиозным верованиям, которые подпитываются могучими иррациональными силами. Но тот же самый аргумент работает и за пределами области религиозной свободы. Трудно поверить, что государство в принципе смогло бы подавить современную науку во всей полноте, или, к примеру, философию, да и глупостью было бы пытаться {сделать это}. Что касается общественных движений, то хорошим примером является движение за права геев — оно настолько мобилизовалось за последние десятилетия и стало настолько сильным, зримым и мэйнстримным, что для любого Западного государства было бы попросту нерационально пытаться стигматизировать и уничтожить его. Хотя некоторые консервативные правительства продолжают сопротивляться идее однополых браков, реальное преследование людей за гомосексуальные практики стало практически немыслимым в Западных социумах. Время от времени правительства Запада всё ещё берутся за миссии абсолютно нерациональные по причине своей деструктивности, нескончаемости и тщетности (война с наркотиками6 в Соединённых Штатах — прискорбный пример такого рода), но обычно они всё же знают, что делают.
Трансгуманистическое движение сейчас обладает компетентной формальной организацией, которая всё более активно доносит свою точку зрения. Его начинают освещать в СМИ, и таким образом открывается возможность получить всё возрастающее общественное признание. Вот этим нам и следует заняться. Мы должны попасть в мэйнстрим. Мы должны создать культуру — зримую, гордую и энергичную. В этом состоит первый урок.
В защиту равенства
Но это не единственный урок. Не оказываемся ли мы временами худшими врагами для самих себя? Это всё очень хорошо — желание постоять за трансгуманистическое движение, но чем будет это движение через 10 лет, или 20, или 50? Как мне удостовериться, что оно будет развиваться таким образом, чтобы мне по-прежнему хотелось поддерживать свою связь с ним?
Если трансгуманизм заслуживает нашей поддержки, он должен раскрыться как нечто гуманное и разумное с философской точки зрения. Это вовсе не означает, что нам следует отбросить некоторые из ключевых идей — по крайней мере, не сейчас же — но отсюда следует, что нам придётся всерьёз считаться с возможностью, что у трансгуманистических технологий может быть оборотная сторона.
Я верю, что общее влияние будет положительным. Рассмотрим, к примеру, первую большую трансгуманистическую технологию, воспринятую нашим обществом: контрацептивные таблетки, биомедицинская инновация, которая изменяет работу наших тел так, что речь, со всей очевидностью, об эффекте усовершенствующем, а не просто терапевтическом. Влияние этих средств было очень далеко идущим, и в основном оно оказалось к лучшему. Немногие из нас мечтают о возвращении во времена, когда не существовало этой могучей технологии, при помощи которой женщины способны контролировать фертильность собственных тел.
Я ожидаю, что схожим образом мы станем воспринимать и технологии, которые увеличивают продолжительность нашей жизни или наши когнитивные способности. Но проблема социальной справедливости встаёт здесь гораздо насущнее, чем в случае с таблетками, поскольку речь о более очевидных конкурентных преимуществах. Если мы не принимаем бескомпромиссно эгалитарный подход в вопросах справедливого распределения — а я его не принимаю, — нам следует избегать обострений существующих социальных противоречий, которые могут произойти, если доступность усовершенствующих технологий для богачей и бедняков будет различаться. Точно так же следует избегать и альтернативного сценария, при котором сформируется развращённый, поверхностно «счастливый» генетический низший класс, чьи амбиции и социальный вклад будут снижены.
Согласно аргументации Джорджа Дворски7, блага, вероятнее всего, просочатся вниз, даже если изначально усовершенствующие технологии будут доступны только для состоятельных. Однако нам следует удостовериться, что всё так и обернётся. Я пришёл к выводу, что трансгуманисты должны пойти дальше, нежели просто отстаивать широкую доступность усовершенствующих технологий. Сейчас я считаю, что нам следует поддержать такие политические реформы в самом обществе, чтобы оно в большей степени стало ассоциацией равных. Я вовсе не собираюсь раздать собственный скромный достаток, но всего лишь намереваюсь обеими руками проголосовать за эгалитарную политическую теорию, однако нам следует поискать способы сузить разрыв между имущими и неимущими.
В последнее время мне всё чаще попадаются признания, что трансгуманизм должен быть инклюзивным, как для нашего собственного блага, так и ради блага общественного. Ник Бостром недавно подчеркнул, что трансгуманизм должен «гарантировать, что возможности улучшения будут настолько широко и легко доступны, насколько возможно». Я бы пошёл ещё дальше. Нам следует активно выступать за более эгалитарное общество, и более равный мировой порядок.
Такая точка зрения может оказаться непопулярной среди многих, кто идентифицирует себя с трансгуманизмом. К настоящему моменту часть его аудитории составляют технолибертарианцы, которые выступают против регулирования рынка. Если трансгуманизм станет более инклюзивным движением, это может отвратить часть его современной базы поддержки: людей, чьи идеи во многих отношениях очень ценны. Надеюсь, этого можно избежать, но нам необходимо превратиться в инклюзивное, мэйнстримное движение, даже если это приведёт к большему размежеванию между «левыми» и «правыми» трансгуманистами. Построение гуманного и социально ответственного трансгуманизма не только интеллектуально оправдано, оно необходимо, чтобы трансгуманизм смог выжить и преуспеть.
Рассчитывайте и на меня.

Комментарии:
Грег Иган написал:
Пусть горсточка среди называющих себя трансгуманистами и мыслит рационально о реальных перспективах будущего, подавляющему их большинству ничто не мешает оставаться приверженцами религиозного карго-культа, основанного на представлениях, будто самомодифицирующийся ИИ будет обладать магическими возможностями.
Что ещё хуже, это слово само по себе подразумевает замену или преодоление человечности, а это уже катастрофа с точки зрения пиара. Хотя настаивать на непредвзятой ревизии всех черт человеческого фенотипа – это, на некотором уровне, хорошо, однако слово «трансгуманист», похоже, подразумевает заранее предрешённый вывод, будто всем существующим видовым особенностям суждено оказаться в мусорной корзине – а такой подход ни с пожеланиями большинства людей, кто удосужился рассмотреть вопрос по существу, вовсе не согласуется, ни способностью вдохновить на серьёзное отношение к данному движению не обладает.
Рассел, разделяю твою озабоченность антиэгалитаризмом столь многих видных трансгуманистов, однако на данном этапе, откровенно говоря, я рассматриваю «трансгуманистическую» самоидентификацию в первую очередь как весьма полезный фильтр для распознавания полоумных. Пусть в отношении некоторой небольшой фракции людей это и несправедливо, но, боюсь, тому, кто не хочет пойти на дно вместе со всей остальной бредящей толпой околоницщеанцев, следует придумать для своей философии имечко получше – или же, быть может, и вовсе отбросить любые ярлыки.
Рассел Блэкфорд написал:
Грег, то, о чём ты говоришь – это именно тот риск, о котором (в числе прочего) и было моё эссе 2004 года. Ты предполагаешь, что трансгуманистическое движение вовсе не находится на перепутье, но уже непоправимо отклонилось на ошибочную траекторию, даже с самим своим названием. Я такой вывод сделать пока не готов, но и спорить с тобой не стану, поскольку ты запросто можешь оказаться прав. Со стратегической точки зрения, использование этого ярлыка вызывает мои сомнения ровно по тем же причинам, однако есть и доводы в пользу проявления солидарности с людьми, которые, по твоему выражению, готовы подвергнуть нынешний человеческий фенотип непредвзятой ревизии.
Вопрос, что же такое трансгуманизм – и является ли он чем-то единым – остаётся для меня спорным и открытым. В рамках моего широкого взгляда на то, чем он мог бы быть, я бы охарактеризовал твои взгляды (насколько я их понимаю) как трансгуманистические… по крайней мере, настолько же, насколько и мои. Но очевидно, что мы оба не считаем друг друга приверженцами описанного тобой карго-культа. Действительно, я оспариваю сингуляртарианскую позицию, на которую ты ссылаешься, однако мне это представляется расхождением между людьми, которые, по крайней мере, в принципе принадлежат к общему широкому движению.
Давай пригласим дать свои комментарии кого-то из тех, кто недвусмысленно причисляет себя к трансгуманистам. Среди моих читателей таковых в избытке. Грег сформулировал проблему решительно, и намного пессимистичнее, чем я. Что скажете вы?
Грег Иган написал:
Цитата Рассела Блэкфорда:
«Со стратегической точки зрения, использование этого ярлыка вызывает мои сомнения ровно по тем же причинам, однако есть и доводы в пользу проявления солидарности с людьми, которые, по твоему выражению, готовы подвергнуть нынешний человеческий фенотип непредвзятой ревизии.»
Слово «трансгуманизм» (или того хуже, «постгуманизм») звучит как предсмертная записка для целого вида, за которой в сущности следует политическое самоубийство любого движения, пожелавшего назваться так. Несомненно, найдутся люди, готовые потратить 90% времени на объяснения, что они вовсе не намеревались вкладывать сюда негативные коннотации, но это вовсе не тот случай, когда придётся винить кого-то другого, если «трансгуманистов» определят во враги рода человеческого на почве чистой лингвистики. «Пожалуйста, прочтите мой 1000-страничный манифест, не судите по единственному слову!» Название идиотское, и каждый, кто не отбросит его, заслуживает иметь дело с последствиями.
И я не так уж уверен, сколько солидарности должен пробудить во мне некто, просто потому, что тоже подметил: мы вовсе не собираемся встречать следующее тысячелетие на том же физическом субстрате, которым обладали предыдущие 200 000 лет. Люди, которые видят своё предназначение в том, чтобы переработать Юпитер в компьютрониум, чтобы можно было играть в любимой РПГ за 10^20 персонажей одновременно, бесконечно одиознее и опаснее, нежели средний индивид, для которого всё это попросту научно-фантастическая белиберда, и который предпочёл бы просто обзавестись 2,3 детьми, принадлежащими к тому же биологическому виду, что и он, лишь бы те не страдали муковисцидозом и жили хотя бы чуток получше своих родителей.
Не сомневаюсь, что существуют также и опасно нетерпимые сторонники того, чтобы человечество навечно унаследовало черты своих предков… особенно если добавить к ним тех, кто и минуты не уделил, чтобы осмыслить саму идею, но выступит против неё, если та когда-либо попадётся ему на глаза (согласно аргументу «купите Джереми Рифкина8, и получите Усаму бен Ладена в подарок»). Но если уж говорить о реальных маньяках, помешанных на данном конкретном вопросе, то у другой стороны обнаружится куда большая доля чокнутых.
Расселл Блэкфорд написал:
Цитата Грега Игана:
«И я не так уж уверен, сколько солидарности должен пробудить во мне некто, просто потому, что тоже подметил: мы вовсе не собираемся встречать следующее тысячелетие на том же физическом субстрате, которым обладали предыдущие 200 000 лет.»
Ну хорошо, вот на этом я хотел бы остановиться поподробнее.
Во-первых, многие сочли бы то, что я только что процитировал, чрезвычайно претенциозным и радикальным заявлением, и спорили бы с ним ожесточённо — и, вполне возможно, сочли бы тебя чокнутым научным фантастом, или кем-то в таком духе, просто потому, что предлагаешь подобное.
Многие из этих людей обладают куда большим политическим влиянием, чем кто бы то ни было среди тех, с кем ты настолько опасаешься оказаться в одних рядах. Я даже не вполне уверен, кого конкретно ты имеешь в виду, говоря об этих полоумных маньяках — не отрицаю, что они существуют (мне попадались люди с подобными взглядами), просто отмечаю, что их влияние столь ничтожно, что имена даже не задерживаются в моей памяти, в то время, как Джереми Рифкин, Леон Касс9, Майкл Сэндел10, Фрэнсис Фукуяма, Маргарет Соммервиль11 и т. д. — это имена на слуху. Вот кто пользуется общественными симпатиями и обладает политическим весом. Меня гораздо больше волнует, насколько успешно я смогу оппонировать их взглядам, нежели опасения, что меня перепутают с кем-то, собирающимся переработать Юпитер в компьютроний — хотя, возможно, стратегически и было бы наилучшим решением дистанцироваться от последних, чтобы [лучше] оппонировать первым.
На самом деле, я бы перефразировал слова Сэма Харриса12, над которыми я уже некоторое время размышляю применительно к атеизму:
«Позвольте мне откровенно высказать своего рода крамольное предложение: нам не стоит называть себя «атеистами». Нам не нужно зваться «секуляристами». Не надо называть себя «гуманистами», или «светскими гуманистами», или «натуралистами», или «скептиками», или «анти-теистами», или «рационалистами», или «свободомыслящими», или «просвещёнными»13. Нам никак не нужно себя называть. Мы должны пропасть с экрана радаров – до конца нашей жизни. И всё это время мы должны оставаться достойными, ответственными людьми, которые уничтожают вредные идеи, где бы те ни обнаружились».
Не считаю, что Харрис прав в контексте исходного заявления. Но, думаю, подобное утверждение можно сформулировать в ещё более сильной форме в нашем случае, в контексте технологических изменений человеческого тела и человеческих возможностей, нежели в том контексте, о котором говорил он. Вполне можно отстаивать следующее:
«Нам не стоит называть себя «трансгуманистами». Нам не нужно зваться «технопрогрессивистами». Не надо называть себя «сингуляртарианцами», или «экстропианцами», или «X‑истами», или «Y‑истами», или «Z‑истами», или «XX-истами», или «YY-истами», или «кембытонибылистами». Нам никак не нужно себя называть. Мы должны пропасть с экрана радаров – до конца нашей жизни. И всё это время мы должны оставаться достойными, ответственными людьми, которые уничтожают вредные идеи, где бы те ни обнаружились».
Думаю, в данном случае следует либо вообще отказаться от ярлыков, либо воспользоваться термином «трансгуманист», поскольку все прочие ярлыки звучат ещё более культистски, или, по крайней мере, чудаковато, а вот идею изыскивать очередной ярлык [взамен] я бы не поддержал. (Следует добавить, что некоторые из этих прочих терминов также обозначают некоторые более частные позиции, которые лично я не разделяю.)
Что касается меня, то вовсе не возражаю против ярлыка «трансгуманист» самого по себе. По мне, это просто обозначение предпочтения технологий в целях преодоления человеческих ограничений (и признание того, что однажды наши тела могут измениться, — вместо того, чтобы ужасаться самой мысли об этом). Кроме того… чем большее наблюдается дробление терминологии, тем глупее и более культистски выглядит всё движение.
Так что, совершенно верно, я абсолютно искренне признаю перед всеми читателями, что, с учётом крайне небольших оговорок, согласен с точкой зрения Грега. Но в то же время необходимо искать способы вести обсуждение подобной проблематики с такого рода точки зрения, которая принимает, что человеческий субстрат изменится в том или ином виде, и что это [изменение] не является нежелательным. Кроме того, нам необходимо искать способы оказывать политическое влияние, а это обычно подразумевает создание организаций, ярлыков и т.д.
К счастью, у нас есть IEET14, который отказался от требования к своим участникам идентифицировать себя как трансгуманистов (или в качестве кого бы то ни было ещё). Также мы располагаем JET15, который предполагает некую форму технологической эволюции человеческого субстрата, но не требует, чтобы публикующиеся там авторы обозначали себя как трансгуманистов – когда-то по ходу дела кто-то принял глубоко продуманное решение, чтобы JET перестал носить название «Журнала по трансгуманизму» («The Journal of Transhumanism»), и, вероятно, на то были веские причины.
Так что, Грег, ты вносишь свой вклад писательским трудом, выражающим твоё мировоззрение. Но делу очень помогает, если приверженцы мировоззрения способны организовываться, чтобы их голоса не оставались одиноки. Если мыслить стратегически, как бы ты поступил оказавшись на месте, к примеру, Джеймса Хьюза16?
И мне интересно, что может сказать сам Джеймс по этому вопросу, если он пожелает оставить коммент… или если решит высказаться кто-то ещё из недвусмысленно называющих себя трансгуманистами.
Грег Иган написал:
Рассел, возможно, причина того, что мы смотрим на вопрос с несколько разных перспектив, заключается в том (и поправь меня, если я ошибаюсь), что ты принимаешь в расчёт прежде всего дебаты, разворачивающиеся на страницах философской литературы, где большинство авторов, вероятно, согласны, что значение термина «трансгуманизм» должно определяться посредством чтения определённого числа академических статей, где вопрос рассмотрен вдоль и поперёк, и никак иначе.
Но что имею в виду я, так это реакцию на само слово журналистов, законодателей и рядовых граждан. Тот факт, что некоторые вполне разумные люди с относительно умеренными, или, по крайней мере, обоснованными целями могли избрать это слово для обозначения своей программы, значит не так уж много, если популярное среди самозваных «трансгуманистов» значение [термина] вращается вокруг фантазий о восторгах от ИИ. В лучшем случае, можно ожидать, что рядовой обыватель подумает о ком-то вроде Курцвейла, который определённо очень сфокусирован именно на ИИ.
Если ты на самом деле и абсолютно искренне считаешь, что это слово не несёт никакой негативной нагрузки, будь то по причине наводящей на определённые мысли этимологии, или же того, как оно используется в популярной культуре, что ж… кто знает? Вдруг это я понятия не имею, о чём рассуждаю. Но я крайне удивлён, что человек, вроде тебя, настолько вовлечённый в политическую проблематику правдоподобных биотехнологий близкого будущего, не желает признать за космическими кадетами несколько более высокую представленность. Как ты думаешь, кого следующий премьер-министр охотнее пригласит на его/её саммит больших идей: а) Рассела Блэкфорда, широко известного комментатора по проблемам биоэтики, или б) Рассела Блэкфорда, широко известного комментатора по проблемам трансгуманизма? Когда сир Хамфри17 будет объяснять пример-министру значение этого слова, то позаимствует его не из чтения опубликованных тобой работ; он загуглит его и вычеркнет тебя из списка как полоумного.

Рассел Блэкфорд написал:
На самом деле, Грег, я склонен согласиться с твоим последним абзацем. Действительно, я не называю себя трансгуманистом, когда подаю статьи в журналы или посылаю книги издателю, — ладно, не то, чтобы я занимался этим в последнее время, но можешь быть уверен, когда «Голоса недоверия» («Voices of Disbelief»18) попадут в Blackwell19 ближе к концу года, там не будет никаких ссылок на трансгуманизм (по крайней мере, с моей стороны).
Более того, вышесказанное справедливо и относительно моей диссертации, рукопись которой передам издателю позже в этом году. Гораздо вероятнее, что я подчеркну её преемственность работам таких людей, как Джон Харрис20 (в отличие от Сэма Харриса) и Ник Эгар, нежели какие-либо взаимосвязи с трансгуманизмом. Так что я уже во многом следую твоему совету. (Если её [эту диссертацию] опубликуют, кое-кто из моих друзей-трансгуманистов вполне может ужаснуться, насколько консервативны по их меркам некоторые мои взгляды.)
Я пока не заманил Джеймса сюда, но заметил, что и в «Гражданине Киборге» не так уж много говорится о трансгуманизме, как некоторые могли бы предположить, хотя там он определённо присутствует. Дэмиен [Бродерик]21 никогда не называет себя трансгуманистом, хотя он запросто мог повредить своей репутации и другими способами, о чём он и сам прекрасно знает. Практически единственный, кто действительно пожелал написать книгу, выдвигающую трансгуманизм на первый план – это Саймон Янг22, который находится в числе тех людей, от кого большинство из нас предпочло бы поскорее дистанцироваться. (Лично мне кажется, Prometheus Books23 ошиблись, опубликовав «Манифест трансгуманиста».)
Я буду докладывать о трансгуманизме на конференции AAP24 в июле (мои тезисы приняли), однако и здесь я, вероятно, буду сохранять некоторую дистанцию от него, концентрируясь скорее на проблемах, которые он поднимает. Хотя, полагаю, это считается за «комментаторство по проблемам трансгуманизма».
В общем, я не спорю с тобой по этому моменту, а скорее обсуждаю его, как видишь, поскольку, на мой взгляд, ты занимаешь довольно сильную позицию, и отчасти я попросту согласен с ней. Возможно, люди, вроде меня, просто должны организоваться вокруг IEET вместе с группой интересных коллег, одни из которых рассматривают себя в качестве трансгуманистов, другие же – нет. И возможно, у некоторых из нас существуют веские основания «уйти с экрана радаров», как говорит Сэм Харрис, т.е. избегать ярлыков и движений и попросту работать над проблемами с рациональной точки зрения. С другой стороны, я не считаю людей, вроде Джеймса [Хьюза] или Джулио Приско25, космическими кадетами. Даже о Максе Море или Наташе Вита-Мор (которые мне весьма симпатичны) я не думаю в подобных выражениях.
Возможно, настало время для ребят из IEET разобраться в себе насчёт всего этого – по крайней мере, между собой – коль скоро это с такой очевидностью приходит на ум мне, и коль скоро ты предоставляешь столь вдумчивую критику, а также, думаю, потому что речь об извечном источнике озабоченности для некоторых людей из IEET, которых называть прямо я не стану. С другой стороны26, вряд ли я решу отстраниться и стану подвергать нападкам людей, которых ценю, и убеждения, которым симпатизирую, как, похоже, поступают некоторые (см. мой исходный пост).
Твоё мнение и твоё мнение о чужих (вероятных) мнениях – это весомый вклад. Настолько [весомый], что, возможно, тебе стоит опубликовать его в каком-то более значимом месте, а не просто серией комментов в чьём-то блоге. В силу грехов твоих тяжких… эм, трудов твоих праведных… в качестве автора научной фантастики, многие трансгуманисты наверняка питают к тебе громадное уважение. Твои замечания (мягко выражаясь) насчёт этого термина и идей, ассоциирующихся с ним в широком смысле, заставят людей сесть и крепко подумать.

citizencyborg27 написал:
Привет, Грег и Рассел
Во-первых, Грег, прости мне лёгкий подхалимаж. Я большой поклонник твоих работ.
Что касается спора о термине «трансгуманизм» и его уместности, мы обсуждали эту проблему в течение всех шести лет, когда я публично выступал как трансгуманист и лидер Всемирной трансгуманистической ассоциации28, и я частенько отмечал сходство этих дебатов с тем, как левые спорят об уместности термина «социализм». Как я и мои товарищи поступали в случае с левым активизмом, я склонен поддерживать стратегическую терпимость и выстраивание коалиций вокруг важнейших идей и целей, признавая, что некоторые люди в определённых ситуациях могут испытывать дискомфорт от идеологических ярлыков или организаций, в то время, как другие охотно примут идеологические термины для обозначения идентичности и в целях партийного строительства (movement-building). Здравое движение за благоприятное для усовершенствования человека будущее нуждается в защитниках, открыто признающих себя “H+” и созидающих недвусмысленно “H+”-движение, но не менее того ему требуются люди, также выступающие за усовершенствование, но не являющиеся непреклонными H+. Нерешительные интеллектуалы, политики, художники и писатели зачастую оказываются именно в последней категории «попутчиков», и это нормально. Вся штука в том, чтобы не позволить нам встать в кружок и начать палить друг в друга. В этом и состоит одна из целей IEET, выстраивающего эту размытую коалицию.
Что касается мысли, будто термин «трансгуманизм» имеет у людей широкие коннотации с «анти-человеческим», то мне это правдой не показалось. За последние пять лет мне доводилось выступать на тему трансгуманизма перед аудиториями в десятки тысяч человек, и мне попросту не встречалась подобная реакция. Гораздо чаще люди отмечают (абсолютно уместно и, ИМХО, это можно приветствовать) связь с «транссексуальностью» или «трансгендеризмом». Однако стоит заметить, что большинство из нас вполне сознательно избегали «постгуманизма», и именно по той причине, что это подразумевает, будто мы хотим положить конец «человечности», а вовсе не создать инклюзивное и разнообразное «трансчеловеческое государственное устройство».
Слова не означают что-либо сами по себе (Витгенштейн), но только вместе со своими ассоциациями. В UK следуют ассоциации с рассудительным д‑ром Бостромом, и [движение] имеет надёжный тыл в британских медиа, в Италии трансгуманизм демонизировали как левацкий заговор против Церкви, в области Залива29 его рассматривают (как сторонники, так и критики) как либертопию Кремниевой Долины, в Квебеке как гиперамериканизм, а в Нигерии и Кении – как Просвещение на стероидах. Но для 99,9% жителей планеты это [слово] всё ещё абсолютно ничего не значит.
Так что стратегически значимые вопросы таковы: (1) нужен ли нам какой-либо термин и (2) есть ли термин получше. Я считаю, что термин нам нужен, поскольку идеологическая ТЗ30 и [соответствующая] субкультура существуют, и как-то же их надо называть, так что же с того? Было предложено множество альтернатив, и одна из тех, к которым тяготел IEET, — это «технопрогрессивизм», не в качестве замены для трансгуманизма, хотя зачастую людям проще называть себя технопрогрессивистами, нежели H+. Однако как технопрогрессивизм определяют ряд левоцентристских с политической точки зрения технопозитивистских взглядов, включая левое крыло трансгуманизма, а трансгуманизм шире, это менее специфичный набор идей. По-видимому, подобные термины из диаграммы Венна31 будут множиться.
Как бы там ни было, Грег, думаю, тебе не удастся отвертеться от статуса святого покровителя трансгуманистов, чокнутые они или нет. Постараемся, чтобы за нас не пришлось краснеть.
Дж. Хьюз
http://ieet.org
Грег Иган написал:
Спасибо за комментарии, Джеймс. Я крайне удивлён, но если ты говоришь, что не обнаружил негатива к использованию этого слова перед широкой аудиторией, мне остаётся только принять твой опыт. Я по-прежнему убеждён, что придурков, пожелавших воспользоваться тем же ярлыком, что и вы, намного больше, но, возможно, в итоге, в долгой перспективе, термин приобретёт более респектабельные коннотации, если и когда он укоренится в повседневном языке.

Грег Иган написал:
Цитата Анонима:
Я могу целую страницу исписать такого рода вопросами32, и если вы ответили утвердительно хотя бы на единственный из них, то, на мой взгляд, к вам с полным основанием можно приклеить ярлычок «трансгуманист».
Так мило, когда кто-то, даже подписаться отказывающийся под собственным мнением, говорит, что если я верю в сколько-то благотворную роль технологий, то автоматически становлюсь заложником убеждений и поведения десятков тысяч других людей, с которыми общего у меня это, и только это [убеждение].
Ваше сравнение с областью физики попросту предполагает ровно то, что вы пытаетесь доказать: что слово «трансгуманизм» уже существует в качестве интеллектуально респектабельного ярлыка для любой формы положительного отношения к этому большому собранию идей. Именно это утверждение и является предметом спора, и вы не предоставляете никаких доказательств в его поддержку.
Цитата Анонима:
Можете ли вы сказать что-либо конструктивное, вместо предложения всему движению убиться ещё до того, как у него появится возможность как-то себя проявить?
Меня вовсе не интересует «убивание» чего бы то ни было. Технологии, которые мы тут обсуждаем, продолжат оставаться предметом дискуссий, и те из них, которые можно реализовать, будут реализованы, вне зависимости от того, продолжает ли кто-то называть себя «трансгуманистом». Что я оспариваю, так это разумность самого слова, учитывая внутренне ему присущие качества, а также большое количество принявших его людей, которые привносят намного больший багаж [коннотаций], нежели положительное отношение к исходным утверждениям относительно продления жизни из контрольного списка.
Когда я вижу слово «трансгуманист» вне контекста, его этимология предполагает «выход по ту сторону» того, что является человеком. Ну, а слово «человек» столетиями подвергалось надругательству со стороны людей, которые хотели бы заузить его определение, чтобы исключить из него собственных врагов, однако мне (не говоря уж о широкой публике) оно не кажется униженным до той степени, чтобы описывать состояние, от которого каждый бы хотел запросто отмахнуться. Вопреки этому, Джеймс Хьюз и некоторые другие предположили, что для большинства людей это слово по-прежнему ничего не значит, и потому ему можно дать определение в доброжелательном ключе. Я не притворяюсь, будто у меня есть однозначный ответ, просто делюсь собственными впечатлениями, не больше, не меньше.
Не думаю, что кто-то может оспорить существование полоумных, называющих себя трансгуманистами… но ведь существуют также полоумные, которые называют себя любым другим термином, который мы, возможно, хотели бы сохранить для людей здравомыслящих. Так что вопрос для меня заключается в том, есть ли тут что-либо, с рациональной точки зрения, что требует отдельного обозначения.
Чтобы внести ясность, я только за то, чтобы люди обсуждали преимущества, этические моменты и опасности всех, даже самых диких сценариев, и, в некотором смысле, это просто замечательно, что ведутся дискуссии, где к идеям даже из самых спекулятивных областей НФ относятся всерьёз. Однако, не потеряв пока ещё связи с реальностью, в плане отличия НФ-идей от неизбежного развития технологий, я вовсе не горю желанием применять к себе обозначение, благодаря которому стану ассоциироваться с тысячами людей, которые явно уже потеряли способность провести такое различие.
Хотя лично я в любом случае практически ничего не теряю; оказаться огульно зачисленным в компанию полоумных – мой профессиональный риск. Действительно важная ставка на кону, — это не окажутся ли, вследствие попадания под общий зонтик с «трансгуманистами», реалистичные предположения относительно благотворных технологий запятнаны ассоциациями с пустопорожними идеями и вредоносными повестками, которые в настоящий момент делят друг с другом этот зонтичный термин.
Robin написала:
Я рассматриваю любого, кто верит в возможность загрузки как полоумного, или, по самой меньшей мере, трагически дезинформированного относительно устройства мира. «Полоумный» звучит слишком уж злобно, я искренне предпочитаю считать, что люди не демонстрируют преднамеренное невежество на эту тему, но заблуждения, способствующие распространению этой идеи, поистине трагичны. (Я притормаживаю недоверие, когда читаю научную фантастику, или некоторые из лучших книг и рассказов, где фигурирует это допущение, но хорошими эти истории являются потому, что побуждают нас задаваться вопросами относительно метафизики тела и разума, и бросают вызов и пробуждают философское воображение, а не потому что намечают дорожную карту нашего будущего.)
Цитата Robin:
Я рассматриваю любого, кто верит в возможность загрузки как полоумного, или, по самой меньшей мере, трагически дезинформированного относительно устройства мира.
Было бы любопытно узнать, почему вы в этом настолько уверены. Я определённо не воображаю, будто какая бы то ни было действенная форма загрузки неизбежна [к реализации], но что она невозможна в принципе – это намного более сильное утверждение.
Робин написала:
Я осознаю, что это очень сильное заявление, но я думаю, что сама концепция несостоятельна и демонстрирует скрытое убеждение в дуализме тела и разума, а ошибочность этого фундаментальна и очень важна. Очень понемногу, но учёные-когнитивисты наконец-то начинают признавать, что тело – это не просто «железо», на котором исполняется «софт» разума. Вместо этого оно создаёт само основание и возможность разума вообще. (Я бы сказала, Лакофф33 и Джонсон34, а также работы Антонио Дамасио35 больше всего повлияли на меня в этом плане.) Идея загрузки разума только подкрепляет убеждение, будто разумы и тела – это фундаментально различные типы вещей, а этот взгляд, к сожалению, глубоко укоренён в английском языке и западных культурах со времён Декарта, и в то же время попросту неправилен.
Надеюсь, не назвала вас случайно полоумным, потому что «Город перестановок» был первой вашей работой, которую я прочитала (во время изучения философии научной фантастики где-то в 1995 году), и настолько влюбилась в эту книгу, что, помнится, послала вам электронное письмо, чтобы выразить своё восхищение (что я делала только в ваш адрес и в адрес Марвина Минского 36!) Как уже сказала, сама идея изумительна, по той причине, что заставляет нас обсуждать, каково бы это было, если бы подобные сценарии стали правдой. (Осенью я читаю курс, который называется «Искусственный интеллект: факт и вымысел» (Artificial Intelligence in Fact and Fiction), и надеюсь включить туда несколько ваших работ, таких, как «Учись быть мною» (Learning to Be Me), о котором я рассказывала на своих семинарах введения в философию все эти 8 лет.)
Я знаю, моё утверждение весьма спорное, и ни в коем случае не является очевидным или взглядом, принимаемым по умолчанию, но после стольких лет работы в когнитивной науке загрузка мне кажется попросту не более состоятельной, нежели концепции зомби или Рая.
Грег Иган написал:
Цитата Робин:
учёные-когнитивисты наконец-то начинают признавать, что тело – это не просто «железо», на котором исполняется «софт» разума. Вместо этого оно создаёт само основание и возможность разума вообще
Честно говоря, понятия не имею, что это означает. Если вы просто подчёркиваете тот момент, что человеческий разум (mind) является продуктом широкого биологического, эволюционного и социального контекста, и его невозможно понять вне этого контекста, я согласен с вами на 100%. Но все представления о загрузке, кроме самых наивных, включают приложение определённых усилий для воспроизведения этого контекста, и в предельном случае технологий достаточно далёкого будущего не существует какого бы то ни было физического принципа, не позволяющего загрузить также всё, способное оказывать каузальное влияние на мозг, тело и поведение данной личности. В таком пределе мы могли бы даже пойти навстречу Роджеру Пенроузу и создать симуляцию всего (тела индивида и его непосредственного окружения вплоть до атомного уровня) на квантовом компьютере.
Чтобы сделать наиболее изощрённые формы загрузки невозможными на веки вечные, вам, на самом деле, придётся настаивать, что лишь биохимия человеческого мозга, и только она одна, способна порождать человеческий субъективный опыт – или же, если вы допускаете определённый уровень замещений, то вам придётся предложить некие основания, по которым одни модификации оставляют наш опыт нетронутым, тогда как другие – нет.
Так что, полагаю, я и правда полоумный, согласно вашему определению, но не беспокойтесь, абсолютно без обид. Некоторые люди не доверяют гипотезе сильного ИИ, и если они уже обдумали [возникающие] трудности, как это, очевидно, сделали вы, я мало что могу им сказать. Хотя существуют мысленные эксперименты в её пользу, которые я нахожу убедительными, фактических доказательств ни за, ни против неё нет – и я даже не уверен, что именно могло бы послужить доказательством – так что тут мало что можно поделать, только согласиться или не согласиться.
Робин написала:
На самом деле, я не считаю, что мы расходимся настолько сильно, как вы могли подумать. Я вовсе не списывала со счетов гипотезу сильного ИИ, но искренне убеждена, что практически никто не применяет к проблеме подход, способный привести к успеху. Когда я говорю о важности телесности, я имею в виду, что наши абстрактные понятия и сама рациональность возможны только лишь потому, что мы обладаем именно таким типом тел, каким обладаем (не химически, но структурно). Абстрактное мышление нашло применение уже существовавшим нейральным структурам, и таким образом мы концептуализируем абстрактные понятия при помощи сенсорно-моторных путей. В нейронаучной литературе проделана большая работа по этой теме, а саму идею некоторые философы высказывали по меньшей мере ещё 25 лет назад.
Итак, я полагаю, что главное различие в наших мнениях относительно загрузки состоит в том, что, я бы сказала, она отличается от сильного ИИ — сильный ИИ это идея, согласно которой возможно создать новый разум на другом типе системы. До тех пор, пока мы начинаем с реального физического тела в реальном мире, я полагаю, что это возможно. (В противном случае я бы оказалась сторонницей чего-то в духе волшебного углерода, что наверняка превращало бы меня в полоумную.) Но загрузка — это нечто иное, она подразумевает не только [возможность] порвать с телесностью вообще, но ещё и ту идею, что речь не просто о КАКОМ-ТО сознании внутри машины, но неким образом о ВАШЕМ сознании внутри машины. Ваше сознание — это на самом деле часть вашего тела, а не просто катается в нём, как дух в машине.
Не мне судить, имеет ли вышесказанное смысл, поскольку сейчас почти 5 часов утра, а я не спала несколько дней, потому что писала главы для диссертации, но надеюсь, что изложила свою (определённо нестандартную, но, на мой взгляд, вполне сносную) точку зрения внятно. ИИ — определённо да; загрузка — безоговорочно нет.
Грег Иган написал:
Робин, пожалуйста, не отвечайте на этот пост, пока страдаете от недосыпа и занятости, но (умоляя нашего хозяина о снисхождении) мне было бы интересно со временем услышать ваши впечатления о разного рода «аргументах замещения»37. К примеру, Ханс Моравек38 предлагает подумать, что, по нашему мнению, могло бы произойти, замени мы различные части нашей центральной нервной системы протезирующими подсистемами, способными выдавать те же биохимические выходные сигналы в ответ на те же самые входные сигналы. Перестаю ли я быть собой от протезирования одного-единственного нейрона? Перестаю ли быть человеком? Перестаю ли быть сознательным? А что насчёт 10, 100 и т.д.?
Цитата Робин:
Абстрактное мышление нашло применение уже существовавшим нейральным структурам, и таким образом мы концептуализируем абстрактные понятия при помощи сенсорно-моторных путей.
Уверен, так и есть, но что убеждает вас в том, что загрузка не могла бы сохранить сенсорно-моторные пути? Если дело не в волшебном углероде, а в структуре, которая делает сенсорно-моторные пути тем, чем они являются, тогда почему загрузка не способна содержать нечто, обладающее теми же каузальными свойствами, что и эти пути, и теми же взаимоотношениями с телесностью (или [её] неотличимым заменителем) и миром (или [его] неотличимым заменителем).
Энни Корвин39 написала:
Цитата Грега Игана:
К примеру, Ханс Моравек предлагает подумать, что, по нашему мнению, могло бы произойти, замени мы различные части нашей центральной нервной системы протезирующими подсистемами, способными выдавать те же биохимические выходные сигналы в ответ на те же самые входные сигналы. Перестаю ли я быть собой от протезирования одного-единственного нейрона? Перестаю ли быть человеком? Перестаю ли быть сознательным? А что насчёт 10, 100 и т.д.?
Понимаю, что вы обращаетесь к Робин, так что надеюсь, моё вмешательство не покажется грубым/бесцеремонным, но мой взгляд на представленные выше вопросы таков: Мы не знаем, что случится в результате замены различных частей нашего мозга протезирующими фрагментами. И не думаю, что узнаем, пока это не станет более достижимым по мере разрешения трудностей, вроде инфекций, отторжения инородных материалов, проблем с интерфейсом и т. д.
Я инженер-электрик, а не когнитивист или нейроучёный, так что моё мнение не стоит переоценивать, но вопросы, которые всегда выступают для меня [на первый план] при рассуждениях о возможности «нейронного протезирования» — это практические вопросы.
То есть, думаю, мы упёрлись в своего рода стену в плане того, что мы можем экстраполировать из экспериментов с крысиными нейронами, подсоединёнными к электронике, кохлеарными имплантами и т.д. Мне кажется, есть большой зазор между известными нам возможностями и всеми этими теоретическими/воображаемыми сценариями, возникающими в научной фантастике или интернет-дискуссиях о «загрузке сознания» и т.д.
Что касается меня, то, для начала, сам вопрос о возможности «загрузки» даже не является научным (подозреваю, Робин охотно бы с этим согласилась, учитывая её академический бэкграунд). Чтобы проблема была научно разрешимой, должны существовать какие-то способы набора [экспериментальных] данных, а когда данные уже собраны, необходима возможность последовательно внести их в модель, которая эффективно предсказывает или объясняет события в реальном мире. А прямо сейчас у нас даже нет способа собрать данные о воздействиях продвинутых нейральных протезов на человеческое субъективное самосознание.
Итак, на данный момент возникает вопрос: в рамках какой деятельности сбор таких данных будет наиболее осмысленным?
Я полностью за исследования, и считаю исследования мозга одной из самых интересных сфер, которые развиваются прямо сейчас. Не вижу никаких признаков, что мы, люди, в сколько-то близком времени перестанем возиться с нашими сенсорными интерфейсами или изучать мышление. Кроме того, мне видится громадный потенциал этих исследований в плане помощи людям, страдающим от мозговых травм или других проблем, и я знаю, что далеко не только я вижу этот потенциал.
Я имею в виду, настоящие учёные уже работают над этим прямо сейчас! Не похоже, что существует громадная нужда убеждать людей начать исследовать мозг, или присоединять чипы к мозгам, или делать ещё что-то способствующее сбору научной информации о том, как работают мозги (и о том, что происходит, когда мы изменяем то, как они работают).
Всё это уже происходит.
И, откровенно говоря, я попросту не вижу, как вопросы о «тотальной загрузке сознания» или «цифровом бессмертии» добавляют что-либо к настоящему научному поиску данных о мозге или его пластичности и потенциале. Эти вопросы определённо имеют значение, когда становятся на службу философии или творческой литературы, но мне не кажется, что литературное/эстетическое/философское значение подразумевает важность (тем более «чрезвычайную» важность) для реальной политики или вопросов финансирования.
Так что, думаю, предаваться творческим спекуляциям относительно загрузки или интерфейсов мозг-машина — это всё очень хорошо. И также, само собой, я полагаю, что просто замечательно реально работать в таких областях, как когнитивная нейронаука. Но полагать, будто «загрузка» обладает какой-то непосредственной актуальностью (политической, экономической или какой бы то ни было ещё)?
Зовите это «недостатком воображения», если хотите, но мне трудно разглядеть, на что ещё это может пригодиться, кроме как для философской беседы на дружеских посиделках.
Изначально я так себе и представляла суть трансгуманизма — нечто вроде форума для людей, которым нравится ставить забавные мысленные эксперименты. Но теперь я даже и не знаю, что это такое, или чем он хочет быть, и изнутри меня просто всю передёргивает, когда вижу людей, столь пламенно пытающихся отстоять его в качестве идеологии. В смысле, да, я и сама могу временами принимать оборонительную стойку (в частности, когда дело касается проблем, связанных с аутизмом), но, насколько мне известно, никто не собирает голоса в общегосударственной кампании за то, чтобы «лечить» трансгуманистов, даже если они сами не считают себя «больными».
Отчасти я начинаю задумываться, а не могут ли недавние и наиболее противоречивые «трансгуманистические инициативы» быть результатом попыток некоторых людей найти своё место в мире, причём те осознают, что лучшее, что они умеют, — это разглядывать клёвые блестящие штуковины и писать о них (или философствовать о продвинутых роботах и их возможном поведении), — и используют имеющиеся в их распоряжении социоэкономические средства, чтобы совместить свои увлечения со средствами достижения благосостояния.
На самом деле, я в некотором роде им даже сочувствую, но в то же время мне это видится чем-то потенциально контрпродуктивным, поскольку, хоть эти люди и испытывают очевидное отвращение к корпоративным «крысиным бегам», они всё же могут непреднамеренно поспособствовать укреплению культуры этих «крысиных бегов».

Грег Иган написал:
Цитата Майкла Аниссимова:
Грег и другие, загуглите «seed AI LOGI», прочитайте параграф и скажите, кажется ли вам это произведением полоумного.
Этот раздел черновика статьи40 Элиезера Юдковского41 определённо не «произведение полоумного». Он написан преимущественно взвешенным языком, и я бы даже рискнул утверждать, что около 80% текста абсолютно бесспорны — особенно когда различные утверждения формулируются с должным вниманием к необходимым предпосылкам. Это не великий оглушительный каталог пророчеств, поданных как факты, не терпящие сомнений; это «если я прав относительно X, и если произойдёт Y, то весьма вероятно, что со временем это приведёт к Z». Я определённо разделяю не все догадки и предположения, которые делает здесь Юдковский, но по большей части это абсолютно логично, связно и достаточно сдержанно в формулировках, учитывая степень отдалённости и неопределённости предмета рассуждений.
Что мне действительно кажется полоумием, так это когда люди берут благоразумно осторожные спекулятивные отрывки, вроде этого, и раздувают их до набора неколебимых убеждений о будущем (а то и о будущем неизбежном). Отрывок Юдковского находится очень близко к пределам того, что вообще можно осмысленно сказать на эту тему в настоящее время; любой, кто принимает и провозглашает упомянутые здесь возможности так, будто они являются доказанными фактами, уже потерял связь с реальностью.
Громадное количество отличной НФ (и, честно говоря, некоторое количество дерьмовой и откровенно вторичной НФ) написано [именно] о самосовершенствующихся ИИ, становящихся богами или порабощающих человечество. Лично мне видится гораздо более вероятным, что мы породим тупых, но весьма досаждающих пакостников, но это не значит, что я не могу восхищаться «Пламенем над бездной» как истинным шедевром воображения. И если люди хотят обсудить вполне реальные риски и достоинства даже самых крайних возможностей из тех, которые упоминает Юдковский, вне зависимости от того, кажутся ли они лично мне правдоподобными, это абсолютно нормально, как по мне. Никогда не рано приступить к серьёзному обсуждению этических или практических аспектов различных сценариев, и если ни один из них не воплотится в реальность, участники обсуждения всё же получат удовольствие [от самого процесса] и, можно надеяться, отточат свои моральные навыки.
Но когда люди принимаются изрекать пророчества в духе: «Сначала произойдёт X, затем Y, а потом Z, и вы, безбожники, ничего с этим не сможете поделать, потому что мой большой брат — гиперразумный ИИ — надерёт ваши тощие задницы, если вы посмеете спорить со мной», — это не просто невменяемые фантазии о природе ИИ, основанные на нулевых доказательствах, это ещё и тоталитарная политическая программа, маскирующаяся под своего рода неизбежное следствие воображаемых «законов» истории, эволюции, теории игр, или же (до сих пор не существующей) теории сознания. Это настолько же инфантильно, как детерминистические предсказания марксистов, или библейские пророчества. То, что во всём этом есть спутанный клубок реальных логических нитей, на которых подвешена крохотная часть [конструкции], делает [ситуацию] ещё более неловкой.
Дэмиен Салливан указывает на некоторые политические и организационные затруднения вашего плана; я мог бы добавить, со своей стороны, ещё несколько, но пока что это кажется излишним.
Грег Иган написал:
Цитата Натана Крэйвенса:
Этот веровательный бизнес42 создавал [различные] системы и вне зависимости от научного понимания, и, подозреваю, будет продолжать это делать, пока вообще всё, или [по крайней мере] всё, что нам важно понимать, не будет охвачено с научной или аналитической точки зрения.
Хоть я и разделяю убеждение, что научное познание продолжит всё глубже схватывать суть вещей, но что превращает столь многих трансгуманистов в комическую пародию на научных рационалистов – это их неспособность провести различие между собственными догадками и интуициями, мнениями и предпочтениями, политическими программами (и всеми прочими вещами, на которые они имеют полное право) [с одной стороны], и реальными дедуктивными умозаключениями [с другой]. Также они весьма склонны раздувать важность отдельных, тщательно отобранных, но не слишком-то релевантных примеров и аналогий.
Цитата Натана Крэйвенса:
В качестве примера в поддержку [сказанного], историк технологий Джордж Базалла43писал в книге «Эволюция технологии» (Evolution of Technology):
«К середине 1980‑х компьютерный бум казался не более, чем недолговечной и, для некоторых производителей компьютеров, весьма дорогостоящей причудой. Потребители, от которых ожидали, что при помощи этих машин они будут вести финансовую отчётность, заниматься образованием детей, планировать семейное будущее, в итоге попросту играли на них в электронные игры, а это занятие вскоре потеряло в новизне, удовольствии и азарте. В результате устройство, которое прочили в предвестники новой технологической эры, потерпело сокрушительный крах, приведший к банкротству множество фирм, вложившихся в его разработку».
Но теперь-то нам виднее.
Кто-то когда-то сделал консервативный прогноз насчёт использования домашних компьютеров и ошибся. Какой силой, по вашим представлениям, это наделяет ваши аргументы? Кроме того,

Цитата Xuenay:
Или, приводя более близкий порядок величин, точно так же, как собака не способна была бы понять, чем является компьютер.44
Из того, что существуют собаки и существуют люди, никоим образом не следует существование некой сущности, которая, в сколько-то релевантном соответствии, соотносится с человеком так же, как человек соотносится с собакой.
Быстрые процессы быстрее медленных процессов. Всё прочее относительно точной природы и возможностей различных форм интеллекта только лишь предположения.
Люди имеют право выдвигать предположения, а другие люди имеют право считать эти предположения неубедительными. Я возражаю, только если в спекулятивных дискуссиях перестают отдавать отчёт, насколько много предположений и мнений было выдвинуто, и пытаются выдать [эти дискуссии] за железно логичные умозаключения. Я не рассматриваю в качестве полоумного любого участника обсуждений сверхразумного ИИ, который источает богоподобную мудрость и приведёт нас, свою паству, в божественную утопию. Полоумным человека делает попытка утверждать или притворяться, будто за утверждениями о возможности, неизбежности или желательности такого исхода не стоит никаких непроверенных предположений.
Грег Иган написал:
Цитата Xuenay:
Кажется разумным предположение, что эволюция ухватила только лишь низко висящий плод, когда создавала человечество, и что цифровое программное обеспечение, способное с нуля переписывать части своего кода, может забраться куда выше.
Скорость и память измерить просто, но вот все остальные представления об этом «выше» намного более спекулятивны.
При всех наших изъянах и причудливо специфичных когнитивных приспособительных механизмах, мы всё же способны оперировать широким набором абстрактных идей (т.е. современной математикой), и не существует строгих аргументов в пользу существования какого-либо класса проблем, которые разрешимы для машин Тьюринга в общем случае, но не для (достаточно долгоживущих и хорошо мотивированных) людей, обладающих доступом к достаточно большим компьютерам, содержащим только неразумное программное обеспечение. Некоторое количество не слишком значительных нейральных протезов и/или биоинженерных вмешательств способы вычистить множество хитросплетений и исправить некоторые интерфейсные «бутылочные горлышки» (и, само собой, загрузка ещё больше выровняла бы игровое поле).
Моя собственная догадка (которая, конечно же, не является несомненным фактом, но которую я рассматриваю в качестве не менее вероятной, чем прочие альтернативы) состоит в том, что не существует иерархии когнитивных универсалов, точно так же, как нет никакой иерархии универсальных машин Тьюринга. Либо система является вычислительно универсальной, либо нет; все возможные реализации машин Тьюринга отличаются только скоростью и объёмом памяти. Мы можем быть вполне уверены, что некоторым вещам никогда не смогли бы научить бессмертную собаку; они попросту слишком специализированы. Но люди преодолели барьер, разделяющий специалистов и универсалов, и никто до сих пор не продемонстрировал существование какого-либо более широкого класса.
Юдковский (очевидно, вдохновляясь Винджем) спекулирует относительно некой иерархии, но мне не кажется, что он предлагает неоспоримый пример ИИ, способного разрешить абсолютно иной класс проблем, нежели люди, вооружённые компьютерами с сопоставимой с этим ИИ аппаратной мощью. Различие в тактовой частоте само по себе может иметь очень большое практическое значение при определённых сценариях, и, конечно же, для программного обеспечения намного проще модифицировать само себя, чем для организма, однако же, насколько бы фраза «рекурсивное самоулучшение» ни соблазняла читателя представлять экспоненциальные преимущества, возносящиеся в стратосферу, нет никаких доказательств, что в целом эквивалентный человеку ИИ, оптимизировавший собственный код, не пройдёт всего лишь несколько циклов улучшения со всё убывающей отдачей, и лишь едва изменится в итоге. (Если бы он переделывал собственное аппаратное обеспечение, его успехи могли бы оказаться намного лучше, но мы уже занимаемся «рекурсивным улучшением» компьютерного аппаратного обеспечения при помощи специализированного неразумного ПО).
Как бы то ни было, ваш подход отличается, и, как уже сказал, у меня нет принципиальных возражений, когда люди приходят к другим выводам по этой проблематике, покуда они честно отдают отчёт, насколько неопределёнными являются эти выводы.
Грег Иган написал:
Цитата Xuenay:
Я вовсе не удивлюсь, если человеческий мозг окажется настолько чертовски сложным и запутанным, что для того, чтобы по-настоящему грокнуть45, как он функционирует, потребуется больше памяти, чем есть в распоряжении любого отдельно взятого человека.
Глаголом «понять» обозначают множество разных вещей, но одно из самых полезных [определений] это «иметь упрощающее представление о чём-либо». Мы можем предсказать множество полезных вещей о поведении газов, не моделируя их индивидуальные степени свободы, потому что в нашем распоряжении имеется упрощающее представление о них в виде термодинамической науки.
Но для очень сложных систем нет никаких гарантий, насколько их можно будет упростить. Запросто может и вовсе не оказаться такой вещи, как «по-настоящему грокнуть» функционирование мозга, ни в каком смысле сверх тех упрощающих представлений, которыми мы уже обладаем, и тех, которые появятся у нас в будущем. Располагая достаточно большим компьютером, мы могли бы промоделировать мозг, вплоть до уровня отдельных нейронов. При меньших ресурсах, но более разумном подходе, несомненно, найдётся несколько более крупнозернистых моделей, которые окажутся полезными, и которые будут одновременно вытекать из наших упрощающих представлений и улучшать их.
Но что же должно стать известно этому сверхразумному ИИ, или на что он должен стать способным, когда он «сверхпоймёт» человеческий мозг? Ему придётся иметь дело ровно с той же фундаментальной сложностью; нет оснований предполагать, будто существует какой-то трюк, который позволит произвести радикальную редукцию проблемы в том же духе, как термодинамика позволяет нам решить проблему газов. При условии, что он может запустить модель мозга на уровне нейронов, и мы тоже можем запустить модель на уровне нейронов, единственное преимущество, доступное для ИИ, заключается в том, что он мог бы выдвинуть некое упрощающее представление, на основе которого можно конструировать полезные крупнозернистые модели, которые мы [выдвинуть] не способны. Но даже если он выиграет эту гонку и обнаружит полезные крупнозернистые модели, что же за колдовской барьер запретит нам тоже обнаружить их?
Если у тебя есть гигантская загруженная память, которая позволяет сохранять информацию о множестве деталей сложной системы одновременно, в принципе, без разницы, что ты можешь с этими деталями делать. Способность разума синтезировать или упростить множество деталей в нечто более плотно упакованное, на самом деле, не зависит от какой-либо формы одновременного доступа к данным в чём-то вроде человеческой рабочей памяти. Практически каждую сложную математическую идею, которую я понимаю, я по-настоящему понимаю только в том смысле, что способен накарябать определённые вещи на листе бумаги, пока читаю учебник. Вне всяких сомнений, некоторые счастливцы обладают куда большей рабочей памятью, чем я, но суть в том, что современные люди всё время синтезируют понятия, слишком сложные, чтобы полностью поместиться в их собственных биологических разумах. И наоборот, ИИ с большой рабочей памятью обладает… большой рабочей памятью, и ему не требуется тянуться за листком бумаги. А вот чем он не располагает, так это волшебной способностью синтезировать в этой рабочей памяти из чего угодно всякие качественно отличные штуки.

Грег Иган написал:
Цитата Peco:
Чрезвычайно продвинутый ИИ мог бы (теоретически) предсказывать поведение большинства людей, даже не делая ничего такого, чего не могут делать и сами люди.
Но к чему тут ИИ? Либо вы располагаете начальными данными, алгоритмами и вычислительными ресурсами для полезной предсказательной симуляции [впишите любой предмет, который вам хотелось бы просимулировать], либо нет. A priori нет никаких причин, почему человек с доступом к необходимым (не обладающим разумом) вычислительным ресурсам оказался бы ограничен сравнительно более узким классом систем в реальном времени, чем гипотетический ИИ, располагающий теми же ресурсами.
И на случай, если вы пропустили, я многократно признавал тот очевидный момент, что быстрые процессы быстрее, чем медленные процессы. Позиция, которую я оспариваю, состоит в том, будто существуют качественные отличия в том, что способен понять ИИ, которые не зависят от скорости и объёма хранилища, так что такой ИИ обладал бы преимуществом перед загруженным человеческим сознанием на достаточно быстром аппаратном обеспечении.
Цитата Peco:
Также вам стоит поразмыслить над некоторыми вещами, которые [придётся] полностью умещать в голове, или использовать очень ограниченную память (вроде задачи понять запутанный и чрезвычайно сложный спагетти-код46, который нельзя разобрать по частям).
Понимание – это не мистический неделимый процесс, который происходит посредством сверхъестественных гештальтов, различных по размеру для разных типов разумов – и менее всего такое можно сказать о понимании кода. Либо алгоритм можно факторизировать, сжать, или же аппроксимировать различными способами, либо нет. Если большой кусок кода невозможно полезным образом переписать каким-то из этих способов (будь то в результате только лишь человеческой проверки, либо же с использованием различных неразумных программных средств), то всё, что тут можно поделать (что для людей, что для ИИ), чтобы «понять», что же он делает, — это запустить его, пусть и в сопровождении средств и ограничений, которые помогут выудить некоторую полезную информацию эмпирически, по ходу процесса.
Грег Иган написал:
Цитата Peco:
Только некто с намного большей памятью/интеллектом, чем у людей, способен создать чрезвычайно сложный и эффективный (если не было способа упростить его), который никто не может запомнить и который не может дать сбой.
Что заставляет вас воображать, будто для создания эффективных несжимаемых алгоритмов существуют некие техники, доступные для ИИ, но не доступные для людей, располагающих не обладающими разумом программными средствами? (На самом деле, я нахожу маловероятным, что абсолютно несжимаемые куски кода способны на что-то более полезное, чем генерация случайных чисел, но с этой проблемой нам возиться ни к чему, если спор идёт о главном пункте [исходного высказывания].)
Это какой-то странный предрассудок касательно предполагаемого значения именно «рабочей памяти», в противоположность всем остальным видам хранения информации. Одно лишь психологическое различие, которые мы проводим между тем, что мы можем удержать в собственном уме без применения специальных средств, и тем, что удержать не можем, вовсе не означает, что увеличение ресурсов рабочей памяти создаёт некое радикальное качественное отличие (в противоположность очевидным преимуществам, которые даёт скорость [обработки]).
Если задачу нельзя разложить на известные более элементарные операции, то каким же колдунством должен овладеть ИИ, чтобы решать такие задачи? У него может быть доступ к библиотеке известных подзадач – и такой же доступ может быть у человека с его программными средствами – но если все меньшие задачи нерелевантны, согласно исходному предположению, что же в точности вы ждёте от ИИ? Предполагать, будто просто по причине наличия большей рабочей памяти ИИ способен каким-то образом заглотить проблему одним куском и «просто решить её» это чистый мистицизм (который не так уж далеко ушёл от того рода недопонимания человеческой интуиции, согласно которому некоторые люди утверждают, будто машины никогда не будут способны мыслить). Какой бы подход, позволяющий ИИ решать неразложимые задачи, вы ни постулировали, бремя доказательства, что то же нельзя проделать при помощи неразумных орудий в человеческих руках, лежит на вас.
Peco написал:
Грег, вероятно, вы победили, но;
А если просто симулировать то, как мыслят люди, только лучше, быстрее и с большей рабочей памятью.
Peco написал:
У меня не было времени написать [достаточно] длинный коммент, так что добавлю ещё.
Даже если люди теоретически способны решить всё, что способна решить и универсальная машина Тьюринга, это не означает, что они это решат. (Это может быть неэкономично.) Иметь доступ к сохранённой информации не то же самое, что понимать её – не думаю, что вы бы смогли объяснить произвольному числу вечно 3‑хлетних детей (обладающих общим интеллектом и возможностью сохранять информацию на компьютерах) что-нибудь очень сложное, вроде квантовой механики, сколько бы времени вы ни потратили.
Грег Иган написал:
Peco: «вечно 3‑хлетнему» понадобилось бы ежедневно стирать память, чтобы он не превратился в 4‑хлетнего. Существуют люди, достигшие зрелости, которых нестрого можно описать как имеющих «постоянный ментальный возраст 3 [года]», но частью обычного человеческого интеллекта является принципиальная способность продолжать образование неограниченно долго.
Цитата Peco:
Иметь доступ к сохранённой информации не то же самое, что понимать её
Без шуток. Но до сих пор вы не предложили никакого встречного разумного определения, что же такое понимание, или же почему ИИ может понимать что-либо, что человек (с хорошим набором инструментов в распоряжении) не способен. Вы продолжаете повторять, как заклинание, фразу «рабочая память», будто вы убедили самого себя, что это ключ ко всему, но всё ещё не предложили ничего в поддержку этого.
«Понимание» нестрогий термин, не имеющий точного технического значения, но в числе некоторых полезных определений «понимания X» следующие: обладание упрощающими представлениями об X; способность видеть связи между X и другими системами; умение подмечать обобщения; некоторая возможность формулировать приблизительные предсказания.
Согласно этим определениям, существуют тысячи понятий и систем, которые я понимаю, но не могу при этом полностью удержать в собственной рабочей памяти: математические теоремы, большие фрагменты программ, которые я написал и т.д. Я определённо не способен удерживать в рабочей памяти все важные факты из квантовой механики; возможно, у меня получилось бы уместить там набор аксиом, но в любом случае такой факт не имеет ничего общего со способностью вычислить поведение квантовых систем или развить опыт или интуиции относительно них. Всё это находится в моей долговременной памяти, а также в заметках, которые я делал, книгах, которые у меня есть, компьютерных программах, которые я написал.
Обладание большей рабочей памятью может быть весьма полезным. Я определённо не пытаюсь доказать, что при условии равного аппаратного обеспечения не существует когнитивных стратегий, отличных от человеческой, которые несли бы определённые преимущества; уверен, таких [вариантов] много.
Но вы до сих пор не указали ни одной специфической системы, не объяснили, что имеете в виду под «пониманием», и не пояснили, почему ИИ может сделать что-либо, а загруженный человек с доступом к некоторым дополнительным вычислительным мощностям – нет.
Peco написал:
Цитата Грега Игана:
Но вы до сих пор не указали ни одной специфической системы, не объяснили, что имеете в виду под «пониманием», и не пояснили, почему ИИ может сделать что-либо, а загруженный человек с доступом к некоторым дополнительным вычислительным мощностям – нет.
Могу я использовать [пример] очень тупого человека (который всё же обладает общим интеллектом)?
Если бы вы загрузили взрослого с постоянным ментальным возрастом 3, который знает только те вещи, которые известны большинству 3‑хлетних, он умеет читать, пользоваться Гуглом, сохранять данные на компьютер, а также знает синтаксис и стандартные библиотеки языка программирования, то не думаю, что он оказался бы способен запрограммировать компьютер для решения простейшей математической задачи (вроде квадратного уравнения). Вам же даже ИИ не нужен, чтобы сделать это быстро.
Грег Иган написал:
Peco, если вы хотите заготовить конечный список вещей, которые кому-то известны, и объявить, что он слишком туп, чтобы научиться чему-то новому… тогда, согласно гипотезе, тот ничему новому и не научится. Не знаю, что, на ваш взгляд, должно из этого следовать, но это не имеет ни малейшего отношения к моим утверждениям.
Pecoнаписал:
Цитата Грега Игана:
Peco, если вы хотите заготовить конечный список вещей, которые кому-то известны, и объявить, что он слишком туп, чтобы научиться чему-то новому… тогда, согласно гипотезе, тот ничему новому и не научится.
Они могут учиться новым вещам (вроде расширения словаря, сложению и много чему ещё). Думаю, они не были бы способны учиться чему-то очень сложному, но в принципе могли бы.
Дэмиен Салливан47написал:
Что ж, аргумент базируется на том, что люди являются Тьюринг-полными, или LBA-подобными48, или чем-то в этом духе. Кто-то вроде «вечно 3‑хлетних», или даже нормальных людей, которые просто не осилили логику, программирование или уроки алгебры, могут аргумент обрушить. Или просто продемонстрировать, что способность освоить язык ещё не делает тебя таким уж универсалом, а человеческая популяция рассечена разрывом Тьюринга.
Другой вызов, о котором мне подумалось, и который, судя по некоторым вашим рассказам, вы, Грег, возможно, захотите прокомментировать, это аутизм. Или цветовая слепота. Аутисты никогда не научаются социальному взаимодействию, как нормальные люди. OTOH49, [при этом] те из них, кто наиболее высокофункционален, учатся имитировать его тем или иным образом – изучая выражения лиц и социализируясь более сложным путём. И можно себе представить сопроцессоры (импланты или носимые устройства), которые прикрывают это слабое место, снабжают выражения лиц аннотациями, раскрывающими их содержание и дополняющие подходящим откликом, или же вещи – их общепринятым цветом, чтобы скомпенсировать дефекты в естественных сопроцессорах человека (или его чувствах, думаю, при цветовой слепоте дело в недостатке колбочек, хотя кортекс, возможно, адаптировался бы к омолаживающим вмешательствам).
Не уверен, что именно это доказывает, и доказывает ли что-либо вообще. У нас довольно много вещей, вроде обработки [выражений] лиц, отсутствие которых трудно или вовсе невозможно компенсировать сейчас, но которые ортогональны «общему интеллекту». OTOH, вариант «расширенные люди могли бы конкурировать с ИИ» не опирается на то, что люди ограничены взаимодействием с листочками бумаги; если разумный ИИ способен научиться обрабатывать лица, то сопроц – или, в худшем случае, укрощённый ИИ – может помочь в этом человеку.
Грег Иган написал:
Цитата Peco:
Думаю, они не были бы способны учиться чему-то очень сложному, но в принципе могли бы.
Спектр разумов, которые заслуживают называться человеческими, определённо включает и людей, которые способны научиться некоторому количеству вещей и затем только лишь асимптотически приближаться к некому плато. Если рассматривать список возможных нарушений, то не приходится удивляться, что будут и крайние случаи, находящиеся на границе когнитивного универсализма.
Но каким образом это помогает нам продвинуться дальше всех этих неубедительных аргументов относительно (собаки:люди) :: (люди:ИИ)?
Многие здоровые люди (возможно, большинство из них) также выходят на плато, но причины этого обычно в мотивационных или социоэкономических обстоятельствах, нежели в чём-то внутренне присущем их когнитивной структуре.
Я определённо не претендую на неопровержимое доказательство отсутствия плато для здорового, мотивированного бессмертного человека с расширяемыми вспомогательными средствами в распоряжении, но и вам не удастся убедить меня в существовании этого плато просто потому, что оно существует для некоторых людей с ограниченными возможностями.
Грег Иган написал:
Дэмиен:
Я бы не хотел чрезмерно напирать на аналогию с полнотой по Тьюрингу; я не думаю, что свойство принадлежности к когнитивным универсалам настолько точная штука. Возможно ли всех индивидов без остатка классифицировать либо как имеющих, либо как не имеющих способность к неопределённо расширяемому обучению, не зависящую от их вкусов, персональных целей, социальной среды и так далее? Сомневаюсь. Меньшинство людей будет явно ограничено детским уровнем развития интеллектуальной жизни, также будет другое меньшинство – для которых только небо предел, но вот что касается нас в основной массе между ними, кто знает?
Мне не вполне ясно, что вы предлагаете, рассматривая случай аутизма. Изучение иностранного языка – мучительная борьба для меня, но если я мотивирован и настойчив, то всё равно могу прогрессировать, и если для некоторых людей обычные социальные знаки столь же сложны в изучении (или дифференциальная геометрия, или что-либо ещё), то даже не знаю, что ещё к этому можно добавить, помимо неоспоримого факта, что некоторые специфические навыки всегда достаются одним людям труднее, чем другим. Но не вижу, чтобы это оказывало какое-то влияние на утверждение о том, что ИИ способен понимать вещи, не доступные никому из людей.
- Уолтер Глэннон (Walter Glannon) (род. 1954) – профессор философии Университета Калгари. Основные области исследовательских интересов: нейрофилософия и нейроэтика. ↵
- Филип Китчер (Philip Stuart Kitcher) (род. 1947) — американский учёный-философ британского происхождения. Член Американского философского общества (2018) и Американской академии искусств и наук (2002), а также почётный член АН Турции (2013), доктор философии (1974), профессор Колумбийского университета (с 1998), а перед тем Калифорнийского университета в Сан-Диего (1986—1999). Первоначально занимался философией математики и общей философией науки, в конце 1970‑х переключился на философию биологии, в 1990‑х также занялся вопросом роли научных исследований в демократических обществах. Член Международной Академии Гуманизма (International Academy of Humanism)(2013). ↵
- Николас Эгар (Nicholas Agar) (род.1965) – новозеландский философ, профессор этики в Университете Виктории в Веллингтоне. Автор множества работ по проблематике усовершенствования человека и евгеники. Выступает в защиту умеренных модификаций, при условии замены авторитарных оснований, с которыми традиционно ассоциируется евгеника, на прокреативную свободу. Противник радикального переустройства человека и наиболее смелых трансгуманистических проектов. ↵
- Встаньте и рассчитайтесь (в англ. оригинале «stand up and be counted») — идиома, означающая призыв выступить публично, занять решительную позицию, даже если это может принести вред или создать трудности выступающему. ↵
- Сьюзан Мендус (Susan Lesley “Sue” Mendus) (род. 1951) – валлийский политический философ, профессор-эмерит Университета Йорка. ↵
- Война с наркотиками (War on Drugs) — термин в политике Соединённых Штатов Америки, описывающий многолетнюю государственную кампанию по борьбе с наркоторговлей и употреблением наркотических веществ, как внутри страны, так и на международном уровне. Впервые употреблён в 1971 году президентом Ричардом Никсоном. ↵
- Джордж Дворски (George P. Dvorsky) (род. 1970) – канадский биоэтик, трансгуманист и футуролог. Пишущий редактор блога о фантастике, науке и технологиях io9, продюсер блога и подкаста Sentient Development, активный участник IEET. ↵
- Дже́реми Ри́фкин (Jeremy Rifkin) (род.1945) — американский социальный философ, экономист, писатель и общественный деятель. Теоретик посткапитализма, пропагандист устойчивого развития и альтернативной энергетики, автор концепции «третьей промышленной революции». Консультант ряда влиятельных политиков. Создатель бестселлеров «Европейская мечта», «Водородная экономика», «Эпоха доступа», «Век биотеха» и «Конец работы». ↵
- Леон Ричард Касс (Leon Richard Kass) (род. 1939) — американский физиолог, учёный, преподаватель, публичный интеллектуал. Выступает с критических позиций по отношению к клонированию человека, продлению жизни, эвтаназии, эмбриональным исследованиям. С 2001 по 2005 годы занимал пост председателя президентского совета по биоэтике. Термина «биоэтик» избегает, предпочитая называть себя «старомодным гуманистом», где гуманизм понимается в широком смысле, не только этически. ↵
- Майкл Джозеф Сэндел (Michael Joseph Sandel) (род. 1953) — американский политический философ, сторонник коммунитаризма, профессор Гарвардского университета, ведущий семинара по биоэтике. Во времена предидентства Джорджа Буша-мл. Участник президентского совета по биоэтике. ↵
- Маргарет Соммервиль (Margaret Anne Ganley Somerville) (род. 1942) —профессор биоэтики в Университете Нотр-Дам, Австралия. ↵
- Сэ́мюэл Бенджамин Ха́ррис (Samuel Benjamin Harris) (род. 1967) — американский публицист в областях философии, религии и нейробиологии. Известен, прежде всего, как сторонник и популяризатор атеистического мировоззрения. Автор книг «Конец веры», «Письмо к христианской нации» и др. ↵
- В оригинале англ. brights – отсылка к общественному движению с таким же названием, состоящему из сторонников т.н. «натуралистического мировоззрения», свободного от мистики, религии, предрассудков. Среди известных сторонников движения Дэниел Дэннетт, Ричард Докинз, Стивен Пинкер и др. ↵
- IEET, Institute for Ethics and Emerging Technologies — Институт этики и новых технологий – аналитический центр по прогрессу технологий, основанный философом Ником Бостромом и биоэтиком Джеймсом Хьюзом. Данный центр разрабатывает тему технологических перспектив свободы, счастья и процветания в демократических обществах. Сотрудничает с одной из влиятельнейших трансгуманистических организаций Humanity+. ↵
- JET, Journal of Evolution and Technology (букв. «Журнал эволюции и технологии») – научный журнал, издаваемый силами IEET. ↵
- Джеймс Хьюз (James J. Hughes) (род. 1961) – американский социолог и биоэтик, сооснователь и исполнительный директор IEET. Противник биоконсерватизма и либертарианского трансгуманизма, свою позицию обозначает как «демократический трансгуманизм» и «технопрогрессивизм». Наиболее известен своей работой 2005 года «Citizen Cyborg: Why Democratic Societies Must Respond to the Redesigned Human of the Future» («Гражданин Киборг: почему демократические общества должны откликнуться перестроенному человеку будущего»), где формулирует социально-политическую идеологию и программу демократического трансгуманизма. В дальнейшей беседе фигурирует под ником citizencyborg. ↵
- Сэр Хамфри Эпплби (Sir Humphrey Appleby) – персонаж сатирического телесериала «Да, господин министр» («Yes Minister»), постоянный заместитель министра административных дел, позднее секретарь кабинета, роль исполнена актёром Найджелом Хоторном. ↵
- “50 Voices of Disbelief” – сборник эссе видных деятелей науки, искусства, политики и т.д., где те объясняют свои атеистические взгляды. Вышел под редакцией Рассела Блэкфорда и Удо Шукленка (Udo Schüklenk) – канадского биоэтика. ↵
- Blackwell (сейчас – Wiley-Blackwell) – одно из крупнейших английских издательств академической литературы. ↵
- Джон Морли Харрис (John Morley Harris) (род. 1945) – английский биоэтик, профессор биоэтики и директор Института науки, этики и инноваций (Institute for Science, Ethics and Innovation) в Университете Манчестера. Сторонник либертарно-консенквенционалистского подхода. ↵
- Дэмиен Фрэнсис Бродерик (Damien Francis Broderick) (род. 1944) – австралийский писатель-фантаст, автор многих произведений на аутентично трансгуманистическую тематику: так, в “The Judas Mandala” (1982) впервые введён термин «виртуальная реальность», а научно-популярная книга 1997 года “The Spike” содержит первое детальное исследование понятия технологической сингулярности. ↵
- Саймон Янг(Simon Young) – автор книги «Designer Evolution: A Transhumanist Manifesto”. ↵
- Prometheus Books – издательство, основанное философом Полом Курцем. Специализируется на научной, гуманистической, секуляристской, свободомыслящей и скептицистской литературе. ↵
- Австралазийская ассоциация философии (Australasian Association of Philosophy, AAP) – наиболее влиятельная философская организация Автралии, чья миссия состоит в развитии философии в Австралии, Новой Зеландии и Сингапуре ↵
- Джулио Приско (Giulio Prisco)(род. 1957) – итальянский специалист по информационным технологиям виртуальной реальности, физик, писатель, футурист, трансгуманист, сторонник крионики. ↵
- В оригинале «OTOH» — сленговый интернет-акроним, “on the other hand” ↵
- Ник Джеймса Хьюза ↵
- Всемирная трансгуманистическая ассоциация (англ. World Transhumanist Association, сокр. WTA) — общественная неправительственная организация, выступающая в поддержку технологий, расширяющих человеческие возможности в широком смысле слова. Организация поддерживает исследования, связанные с усилением интеллекта человека, развитием его тела и улучшением качества жизни. С 2008 года носит название Humanity+. ↵
- Область Залива (англ. Bay area) — крупный консолидированный метрополитенский статистический ареал (агломерация-конурбация) в Северной Калифорнии, сформировавшийся вокруг залива Сан-Франциско и названный его именем. ↵
- точка зрения, в оригинале англ. POV, point-of-view ↵
- Диаграмма Венна (также используется название «диаграмма Эйлера —Венна») — схематичное изображение всех возможных отношений (объединение, пересечение, разность, симметрическая разность) нескольких (часто — трёх) подмножеств универсального множества. На диаграммах Венна универсальное множество {\displaystyle U} изображается множеством точек некоторого прямоугольника, в котором располагаются в виде кругов или других простых фигур все остальные рассматриваемые множества. ↵
- Вроде «Должны ли люди использовать технологии для улучшения собственной жизни?» или «Является ли продление жизни желательным?» (прим. перев.) ↵
- Джордж Лакофф (Лейкофф) (англ. George Lakoff) (род. 1941) — американский лингвист, профессор когнитивной лингвистики в Калифорнийском университете в Беркли. В 1990—1993 годах — президент Международной ассоциации когнитивной лингвистики. Известен своими идеями о центральной роли метафоры в мышлении индивида, политическом поведении и общественной жизни. ↵
- Марк Джонсон (Mark L. Johnson) (род 1949) – американский философ и лингвист, профессор философии в Университете Орегона, соавтор Джорджа Лакоффа. Известен вкладом в философию телесного воплощения (embodied philosophy), когнитивную науку и когнитивную лингвистику, также специалист по этике и философии Джона Дьюи и Иммануила Канта. ↵
- Антонио Дамасио (порт. António Damásio) (род. 1944) – португало-американский нейробиолог. Профессор психологии, философии и нейрологии Университета Южной Калифорнии, адъюнкт-профессор в Институте Солка. Автор оригинальной теории сознания. ↵
- Марвин Ли Минский (англ. Marvin Lee Minsky) (1927 – 2016) — американский учёный в области искусственного интеллекта, сооснователь Лаборатории искусственного интеллекта в Массачусетском технологическом институте. Автор фундаментальных работ по теории искусственных нейронных сетей. Энтузиаст крионики. ↵
- Аргументы (постепенного) замещения — линия аргументации сторонников загрузки, построенная на особом типе мысленных экспериментов, в которых физический субстрат личности (например, нейроны головного мозга) постепенно заменяются своими искусственными аналогами, при этом предлагается отследить происходящие с субъектом и его идентичностью метаморфозы. Аргументы замещения можно проследить как минимум до второй половины 50‑х годов XX века, см., например, философско-футурологические трактаты С. Лема «Диалоги» и «Сумма технологии». ↵
- Ханс Моравек (Hans Peter Moravec) (род. 1948) — адъюнкт-преподаватель Института робототехники Университета Карнеги-Меллон, Питтсбург, США. Американский исследователь в области робототехники, искусственного интеллекта, футуролог. «Аргументы замещения» предложены, в частности, в его работе 1988 г. «Mind Children», где рассмотрены перспективы искусственного интеллекта в свете экстраполяции закона Мура. ↵
- Энни Корвин (Anne Corwin) — инженер (диплом Калифорнийского политехнического государственного университета), блогер по тематике науки, технологий, биоэтики, продления жизни, активистка Фонда Мафусаила. https://lifeboat.com/ex/bios.anne.corwin ↵
- Имеется в виду статья Yudkowsky, Eliezer. 2007. “Levels of Organization in General Intelligence.” In Artificial General Intelligence, edited by Ben Goertzel and Cassio Pennachin, 389–501. Cognitive Technologies. Berlin: Springer. Doi:10.1007/ 978–3‑540–68677-4_12. Оригинал можно найти тут: https://intelligence.org/files/LOGI.pdf, краткий пересказ на русском тут: https://ai-ru.livejournal.com/65292.html. ↵
- Элиезер Юдковский (Eliezer Shlomo Yudkowsky) (род. 1979) — американский теоретик искусственного интеллекта, рационального мышления, писатель, трансгуманист. Сооснователь Института исследования машинного интеллекта (Machinic Intelligence Research Institute, MIRI), автор известного фанфика на произведения Джоан Роулинг «Гарри Поттер и методы рационального мышления». ↵
- Имеется в виду культивируемая (трансгуманистами, футурологами и технопредпринимателями) вера в (скорое) создание общего искусственного интеллекта (AGI). – прим. пер. ↵
- Джордж Базалла (George Basalla) (род. 1928) – американский историк науки, профессор Университета Делавэра ↵
- Цитируемый собеседник иллюстрирует принципиальную непредсказуемость сильного искусственного интеллекта для человека – прим. перев. ↵
- Грокнуть (англ. grok) — неологизм из романа Роберта Хайнлайна «Чужак в стране чужой», обозначающий особую форму полного и интуитивного понимания ↵
- Спагетти-код — плохо спроектированная, слабо структурированная, запутанная и трудная для понимания программа, особенно содержащая много операторов GOTO (особенно переходов назад), исключений и других конструкций, ухудшающих структурированность. Самый распространённый антипаттерн программирования. Спагетти-код назван так, потому что ход выполнения программы похож на миску спагетти, то есть извилистый и запутанный. ↵
- Дэмиен Салливан (Damien Sullivan) – трансгуманист, автор тематического сайта «Mindstalk»: https://mindstalk.net/me/ ↵
- LBA (англ. Logical block addressing) — стандартизованный механизм адресации и доступа к блоку данных на блочном устройстве (жёстком или оптическом диске, твердотельном накопителе), при котором системному контроллеру нет необходимости учитывать специфику накопителя (например, геометрию жёсткого диска — количество цилиндров, головок, секторов на дорожке, как это требовалось в ранних схемах адресации, таких как CHS и Large). В частности, современные IDE-контроллеры в качестве основного режима трансляции адреса используют LBA, а информация о поддержке LBA содержится в идентификационной информации накопителей ↵
- OTOH (абб. от англ. “On the other hand”) – с другой стороны, англосферный интернет-сленг. ↵