Трансгуманизм всё ещё на перепутье

В 2004‑м я напи­сал ста­тью под назва­ни­ем «Транс­гу­ма­низм на пере­пу­тье», кото­рая ока­за­лась в чис­ле самых попу­ляр­ных моих эссе. Впер­вые она была опуб­ли­ко­ва­на в «Оке бури» (Eye of the Storm), моей нере­гу­ляр­ной колон­ке на сай­те Betterhumans. (И послу­шай­те, я все­гда готов воз­ро­дить «Око бури», если кто-то запла­тит мне хотя бы сим­во­ли­че­скую сум­му, дабы покрыть часть моих вре­мен­ных затрат на то, что­бы взять­ся за дело как сле­ду­ет; но не похо­же, что это когда-нибудь произойдёт.)

Почти четы­ре года спу­стя я вижу это эссе с доста­точ­но отда­лён­ной пер­спек­ти­вы, и оно чита­ет­ся почти как если бы его напи­сал кто-то дру­гой, хотя, пола­гаю, я до сих пор согла­сен с боль­шин­ством выска­зан­ных там пунк­тов: я готов счи­тать­ся чле­ном транс­гу­ма­ни­сти­че­ско­го дви­же­ния, если речь пой­дёт об инклю­зив­ном обще­ствен­ном дви­же­нии, но не в том слу­чае, если оно ста­нет чем-то узким, куль­тист­ским или (не хоте­лось бы заост­рять на этом вни­ма­ние) под­хо­дя­щим толь­ко для нер­дов-тех­но­ли­бер­та­ри­ан­цев. В каком направ­ле­нии ста­нет раз­ви­вать­ся транс­гу­ма­низм, всё ещё вопрос вре­ме­ни, но в обо­зри­мом буду­щем я бы пред­по­чёл оста­вать­ся под его общей кры­шей, что­бы ока­зы­вать неко­то­рое вли­я­ние на про­ис­хо­дя­щее изнут­ри, неже­ли отбро­сить, отверг­нуть и отме­же­вать­ся от него, как посту­пи­ли неко­то­рые из былых союз­ни­ков.

Силь­ное транс­гу­ма­ни­сти­че­ское дви­же­ние по-преж­не­му оста­ёт­ся умест­ным, если речь идёт о дви­же­нии, кото­рое настро­е­но по отно­ше­нию к тех­но­ло­ги­ям раци­о­наль­но, кото­рое бла­го­во­лит тех­но­ло­ги­ям, поку­да те при­ме­ня­ют­ся бла­го­при­ят­ным обра­зом (или, по край­ней мере, не вре­дят). Боль­шая часть заяв­ле­ний луд­дит­ских про­тив­ни­ков кло­ни­ро­ва­ния (не гово­ря уж о настоль­ко оче­вид­ных вещах, как иссле­до­ва­ния ство­ло­вых кле­ток) не име­ет ниче­го обще­го с обще­ствен­ным вре­дом, кото­рый оно яко­бы может при­не­сти, и я при­вет­ствую появ­ле­ние силь­но­го дви­же­ния, кото­рое выска­жет это гром­ко и ясно. Если таким дви­же­ни­ем ста­нет транс­гу­ма­низм, тогда рас­счи­ты­вай­те и на меня. Но в то же вре­мя, я зача­стую обо­зна­чал себя тер­ми­ном «анти-антит­ранс­гу­ма­нист», что­бы про­ти­во­по­ста­вить себя ирра­ци­о­наль­ным про­тив­ни­кам транс­гу­ма­низ­ма, но не раци­о­наль­ной и инфор­ми­ро­ван­ной кри­ти­ке это­го дви­же­ния, а так­же что­бы про­сиг­на­ли­зи­ро­вать о том, что я не зашо­рен каки­ми бы то ни было амби­ци­я­ми пре­вос­ход­ства, кото­рые, воз­мож­но, ассо­ци­и­ру­ют­ся у мно­гих с трансгуманизмом.

Мно­гие само­про­воз­гла­шён­ные транс­гу­ма­ни­сты захо­дят в сво­их поже­ла­ни­ях намно­го даль­ше меня. Я не обя­за­тель­но согла­сен с ними по какой-либо кон­крет­ной про­бле­ме, но я высту­паю в защи­ту их пра­ва отста­и­вать свои идеи – и более того, я счи­таю, что абсо­лют­но здра­во выдви­гать такие идеи и обсуж­дать их без ирра­ци­о­наль­ных стра­хов или чув­ства отвра­ще­ния, кото­рые иска­зят ком­му­ни­ка­цию. Неко­то­рые транс­гу­ма­ни­сти­че­ские идеи я под­дер­жи­ваю, а неко­то­рые — нет… но преж­де все­го я бы хотел посо­дей­ство­вать раци­о­наль­ным, стро­гим и ожив­лён­ным деба­там вокруг них. В этом и состо­я­ла цель «Ока бури»; это место долж­но было стать при­ютом спо­кой­ной фило­соф­ской рефлек­сии посре­ди всех бушу­ю­щих био­э­ти­че­ских (и сход­ных с ними) бата­лий. И имен­но так я вижу свою роль, гово­ря о транс­гу­ма­ни­сти­че­ских иде­ях в более общем кон­тек­сте; я пред­по­чту про­лить свет, а не доба­вить жару, хотя вре­ме­на­ми я и сам спо­со­бен на эмо­ци­о­наль­ные выступ­ле­ния, когда стал­ки­ва­юсь с неко­то­ры­ми пора­зи­тель­но (для меня) нели­бе­раль­ны­ми или ирра­ци­о­наль­ны­ми взглядами.

В част­но­сти, я убеж­дён, что очень важ­но обсу­дить такие идеи, как загруз­ка лич­но­сти, про­дви­ну­тый ИИ, тех­но­ло­ги­че­ская Син­гу­ляр­ность, и так далее, и я готов рас­смот­реть их с опре­де­лён­ной долей сим­па­тии. Более того, мне дово­ди­лось обо­ро­нять защит­ни­ков этих вещей от того, что я счёл недоб­ро­со­вест­но инфор­ми­ро­ван­ны­ми напад­ка­ми. Я даже иссле­до­вал неко­то­рые из этих идей в бла­го­же­ла­тель­ном клю­че, пусть и несколь­ко дву­смыс­лен­но, в сво­их лите­ра­тур­ных рабо­тах.

Но в то же вре­мя эти идеи не вхо­дят в чис­ло тех, кото­рые я актив­но отста­и­вал, и на это есть свои причины.

Итак, вот что я выска­зал в 2004‑м, оста­ёт­ся ли ещё в этих сло­вах какой-то смысл, или уже нет. Не стес­няй­тесь в обсуждениях.

ТРАНСГУМАНИЗМ НА ПЕРЕПУТЬЕ

Сколь­ко себя пом­ню, меня вос­хи­ща­ли пер­спек­ти­вы буду­ще­го наше­го обще­ства и наше­го вида. Бла­го­да­ря это­му я про­дол­жал актив­но тру­дить­ся на ниве науч­ной фан­та­сти­ки, что, веро­ят­но, и застав­ля­ло взды­хать и удив­лён­но под­ни­мать бро­ви моих более бла­го­ра­зум­ных кол­лег в ака­де­ми­че­ской сре­де и юри­ди­че­ской практике.

Одна­ко же это сущие пустя­ки по срав­не­нию с соци­аль­ной стиг­мой сто­рон­ни­ка транс­гу­ма­ни­сти­че­ско­го дви­же­ния. При­мер­но с 1997 года боль­шая часть моих худо­же­ствен­ных и пуб­ли­ци­сти­че­ских работ фоку­си­ро­ва­лась на про­бле­ма­ти­ке, кото­рая вол­ну­ет транс­гу­ма­ни­стов: пер­спек­ти­вы искус­ствен­но­го интел­лек­та и загруз­ки; плю­сы и мину­сы репро­дук­тив­но­го кло­ни­ро­ва­ния, ген­ной инже­не­рии и ради­каль­но­го про­дле­ния жиз­ни; а так­же общее рас­смот­ре­ние тех­но­ло­гий усо­вер­шен­ство­ва­ния чело­ве­ка. В целом, моя точ­ка зре­ния была весь­ма сочув­ству­ю­щей транс­гу­ма­ни­сти­че­ским под­хо­дам, и по край­ней мере один ком­мен­та­тор обо­зна­чил меня как «транс­гу­ма­ни­сти­че­ско­го тех­но­фи­ла», что вполне справедливо.

Несмот­ря на это, я нико­гда не иден­ти­фи­ци­ро­вал себя с транс­гу­ма­ни­сти­че­ским дви­же­ни­ем в стро­гом смыс­ле. После крат­ко­го пери­о­да энту­зи­аз­ма я пере­стал обо­зна­чать себя как «транс­гу­ма­ни­ста», и до сих пор ощу­щаю в свя­зи с этим ярлы­ком некую оста­точ­ную нелов­кость. Но теперь я куда более актив­но вза­и­мо­дей­ствую с транс­гу­ма­низ­мом посред­ством это­го сай­та [т. е. Betterhumans], и мой основ­ной про­ект на дан­ный момент вклю­ча­ет в себя иссле­до­ва­ния соци­аль­но­го под­тек­ста тех­но­ло­гий усо­вер­шен­ство­ва­ния {чело­ве­ка}. Учи­ты­вая, что вокруг транс­гу­ма­низ­ма скон­цен­три­ро­ва­на вся моя тру­до­вая жизнь, при­шло вре­мя под­верг­нуть кри­ти­че­ско­му рас­смот­ре­нию моё поло­же­ние и взгля­ды на транс­гу­ма­низм. Един­ствен­ная вещь, в кото­рой я абсо­лют­но уве­рен, состо­ит в том, что если транс­гу­ма­низм жела­ет пре­успеть, то он дол­жен замет­но рас­ши­рить свою базу, стать куда более инклю­зив­ным и мэйн­стрим­ным обще­ствен­ным движением.

Транс­гу­ма­низм и его трудности

Одно из вес­ких осно­ва­ний ощу­щать лёг­кий дис­ком­форт от транс­гу­ма­низ­ма — это его несо­мнен­ный нер­дов­ский оре­ол, ощу­ще­ние, что тот апел­ли­ру­ет к узкой демо­гра­фи­че­ской груп­пе, а имен­но к моло­дым белым муж­чи­нам с ком­пью­те­ра­ми. И его огра­ни­чен­ная демо­гра­фи­че­ская при­вяз­ка дей­стви­тель­но явля­ет­ся частью проблемы.

Но этот дис­ком­форт захо­дит мно­го даль­ше нер­до­во­сти или огра­ни­чен­ной при­вяз­ки. В моём пони­ма­нии, одно дело исполь­зо­вать науч­ную фан­та­сти­ку для иссле­до­ва­ния воз­мож­ных изме­не­ний чело­ве­че­ской при­ро­ды и пер­спек­тив рас­ши­ре­ния чело­ве­че­ских воз­мож­но­стей. (В любом слу­чае, науч­ная фан­та­сти­ка зача­стую под­хо­дит к этим воз­мож­но­стям и пер­спек­ти­вам враж­деб­но.) Совсем дру­гая вещь — исполь­зо­вать обра­зы тако­го усо­вер­шен­ство­ва­ния или кибор­ги­за­ции в каче­стве мета­фор для {отоб­ра­же­ния} совре­мен­ной соци­аль­ной реаль­но­сти, или же повест­ки поли­ти­че­ских пере­мен. И, опять же, совсем дру­гое — и намно­го более ради­каль­ное — выдви­гать в самом бук­валь­ном смыс­ле пред­ло­же­ние об улуч­ше­нии нашей чело­ве­че­ской био­ло­гии. Для мно­гих мыс­ля­щих, интел­лек­ту­аль­ных про­фес­си­о­на­лов и людей из ака­де­ми­че­ской сре­ды это пуга­ю­щая идея. Так что вовсе не уди­ви­тель­но, что теперь, когда транс­гу­ма­низ­му уде­ля­ет­ся медиав­ни­ма­ние, неко­то­рые кон­сер­ва­тив­ные ком­мен­та­то­ры (такие, как Фрэн­сис Фуку­я­ма) начи­на­ют харак­те­ри­зо­вать его как нечто опасное.

Что­бы понять такой отклик, нам сле­ду­ет пом­нить, что широ­кая интел­лек­ту­аль­ная куль­ту­ра всё ещё сфо­ку­си­ро­ва­на на кош­ма­рах, вопло­щён­ных в пер­вой поло­вине 20-го века теми, кто осу­ществ­лял про­грам­мы расист­ской евге­ни­ки. Я не мог бы сфор­му­ли­ро­вать эту точ­ку зре­ния луч­ше, чем с помо­щью раз­вёр­ну­той цита­ты из кни­ги Уол­те­ра Глэннона{{Уолтер Глэн­нон (Walter Glannon) (род. 1954) – про­фес­сор фило­со­фии Уни­вер­си­те­та Кал­га­ри. Основ­ные обла­сти иссле­до­ва­тель­ских инте­ре­сов: ней­ро­фи­ло­со­фия и ней­ро­э­ти­ка.}} “Гены и чело­век буду­ще­го: фило­соф­ская про­бле­ма­ти­ка гене­ти­ки чело­ве­ка» (Genes and Future People: Philosophical Issues in Human Genetics):

««Евге­ни­ка» почти повсе­мест­но вос­при­ни­ма­ет­ся как бран­ное сло­во, во мно­гом из-за сво­ей ассо­ци­а­ции со злы­ми дея­ни­я­ми в обла­сти экс­пе­ри­мен­тов над людь­ми в нацист­ской Гер­ма­нии или широ­ко рас­про­стра­нён­ной сте­ри­ли­за­ции опре­де­лён­ных групп людей в Соеди­нён­ных Шта­тах или Кана­де, совер­шён­ны­ми ранее в два­дца­том сто­ле­тии. Труд­но не при­ме­нять (attribute) неко­то­рые аспек­ты евге­ни­ки к гене­ти­че­ским вопро­сам о том, каки­ми по чис­лен­но­сти и виду долж­ны быть люди. Но суще­ству­ет и более широ­кое пони­ма­ние евге­ни­ки («хоро­шее тво­ре­ние» в бук­валь­ном пере­во­де с гре­че­ско­го), кото­рое вовсе не обя­за­но нести эту отвра­ти­тель­ную кон­но­та­цию с улуч­ше­ни­ем чело­ве­че­ско­го вида».

После это­го Глэн­нон пере­хо­дит к обсуж­де­нию гене­ти­че­ской тера­пии, кото­рую он рас­смат­ри­ва­ет как прин­ци­пи­аль­но при­ем­ле­мую, посколь­ку её цель состо­ит в предот­вра­ще­нии или изле­че­нии болез­ней кон­крет­но­го чело­ве­ка. Одна­ко он оста­ёт­ся непри­ми­ри­мым про­тив­ни­ком гене­ти­че­ской инже­не­рии в целях усовершенствования.

Что бро­са­ет­ся мне в гла­за как наи­бо­лее при­ме­ча­тель­ное — это его необос­но­ван­ное пред­по­ло­же­ние, что улуч­ше­ние чело­ве­че­ско­го вида несёт «отвра­ти­тель­ную кон­но­та­цию». Это симп­том важ­ной чер­ты нашей интел­лек­ту­аль­ной куль­ту­ры — то, что почтен­ный ака­де­ми­че­ский фило­соф не в состо­я­нии выдви­нуть хоть какой-то аргу­мент в поль­зу пред­по­ла­га­е­мой отвра­ти­тель­но­сти усо­вер­шен­ство­ва­ния вида, вполне доволь­ству­ясь одной лишь ссыл­кой на злоб­ные дея­ния наци­стов и при­ну­ди­тель­ные сте­ри­ли­за­ции в Север­ной Аме­ри­ке. После это­го утвер­жде­ния в кни­ге Глэн­но­на про­сто пред­по­ла­га­ет­ся, по-преж­не­му без малей­ших попы­ток аргу­мен­та­ции, что любые пла­ны улуч­ше­ния чело­ве­че­ских воз­мож­но­стей на «пер­фек­ци­о­нист­ских» осно­ва­ни­ях лежат за гра­нью ува­жи­тель­но­го рассмотрения.

Конеч­но же, необ­хо­ди­мо напо­ми­нать самим себе об опас­но­сти (не гово­ря уж об ирра­ци­о­наль­но­сти) осуж­де­ния по ассо­ци­а­ции. При­во­дя при­мер из дея­ний наци­стов, — столь злы­ми их сде­ла­ли имен­но край­няя сте­пень пред­рас­суд­ков, жесто­ко­сти и наси­лия. Как выра­зил­ся Филип Китчер{{Филип Кит­чер (Philip Stuart Kitcher) (род. 1947) — аме­ри­кан­ский учё­ный-фило­соф бри­тан­ско­го про­ис­хож­де­ния. Член Аме­ри­кан­ско­го фило­соф­ско­го обще­ства (2018) и Аме­ри­кан­ской ака­де­мии искусств и наук (2002), а так­же почёт­ный член АН Тур­ции (2013), док­тор фило­со­фии (1974), про­фес­сор Колум­бий­ско­го уни­вер­си­те­та (с 1998), а перед тем Кали­фор­ний­ско­го уни­вер­си­те­та в Сан-Диего (1986—1999). Пер­во­на­чаль­но зани­мал­ся фило­со­фи­ей мате­ма­ти­ки и общей фило­со­фи­ей нау­ки, в кон­це 1970‑х пере­клю­чил­ся на фило­со­фию био­ло­гии, в 1990‑х так­же занял­ся вопро­сом роли науч­ных иссле­до­ва­ний в демо­кра­ти­че­ских обще­ствах. Член Меж­ду­на­род­ной Ака­де­мии Гума­низ­ма (International Academy of Humanism)(2013).}}: “Бес­пре­стан­но повто­ряв­ши­е­ся срав­не­ния евре­ев с вре­ди­те­ля­ми и абсурд­ные — но чудо­вищ­ные — предо­сте­ре­же­ния об угро­зах «расо­во­му здо­ро­вью» демон­стри­ру­ют сте­пень, в кото­рой пред­рас­суд­ки про­ник­ли в их клас­си­фи­ка­цию чело­ве­че­ских харак­те­ри­стик. По срав­не­нию с этим, тот факт, что боль­шая часть их пред­став­ле­ний о гене­ти­ке была оши­боч­ной, пред­став­ля­ет­ся незна­чи­тель­ным». Ничто из это­го ни в малей­шей сте­пе­ни не напо­ми­на­ет то, что име­ют в виду совре­мен­ные защит­ни­ки гене­ти­че­ско­го усовершенствования.

Но суть не в том, что Глэн­но­на мож­но опро­верг­нуть. Конеч­но, мож­но. Но куда важ­нее отме­тить, что он может себе поз­во­лить писать в подоб­ной небреж­ной мане­ре, посколь­ку может при­нять как нечто само собой разу­ме­ю­ще­е­ся, что его ауди­то­рия исхо­дит из тех же самых пред­по­ло­же­ний. Воз­мож­но, ситу­а­ция меня­ет­ся, посколь­ку всё боль­ше книг и ста­тей содер­жит при­зыв рас­смот­реть усо­вер­шен­ство­ва­ние чело­ве­ка более бла­го­склон­но. Пер­вая ласточ­ка — новая [в 2004 году] кни­га Нико­ла­са Эгара{{Николас Эгар (Nicholas Agar) (род.1965) – ново­зе­ланд­ский фило­соф, про­фес­сор эти­ки в Уни­вер­си­те­те Вик­то­рии в Вел­линг­тоне. Автор мно­же­ства работ по про­бле­ма­ти­ке усо­вер­шен­ство­ва­ния чело­ве­ка и евге­ни­ки. Высту­па­ет в защи­ту уме­рен­ных моди­фи­ка­ций, при усло­вии заме­ны авто­ри­тар­ных осно­ва­ний, с кото­ры­ми тра­ди­ци­он­но ассо­ци­и­ру­ет­ся евге­ни­ка, на про­кре­а­тив­ную сво­бо­ду. Про­тив­ник ради­каль­но­го пере­устрой­ства чело­ве­ка и наи­бо­лее сме­лых транс­гу­ма­ни­сти­че­ских про­ек­тов.}} «Либе­раль­ная евге­ни­ка: в защи­ту усо­вер­шен­ство­ва­ния чело­ве­ка» (Liberal Eugenics: In Defence of Human Enhancement). И всё же, до недав­не­го вре­ме­ни даже отно­си­тель­но скром­ная идея гене­ти­че­ской тера­пии про­во­ци­ро­ва­ла выра­же­ния оза­бо­чен­но­сти. В этой интел­лек­ту­аль­ной сре­де цели транс­гу­ма­низ­ма исклю­че­ны из дис­кус­сий с само­го нача­ла, если толь­ко не исполь­зу­ют­ся как мишень для напа­док. Если ты раз­де­ля­ешь эти идеи, в луч­шем слу­чае тебя вос­при­мут как раз­дра­жа­ю­ще­го про­ста­ка, в худ­шем — как субъ­ек­та, кото­рый охот­но всту­пил бы в союз с вра­ча­ми-наци­ста­ми и безум­ны­ми учё­ны­ми. Намно­го про­ще соот­но­сить себя с дви­же­ни­я­ми, созда­ю­щи­ми образ ответ­ствен­но­го чело­ве­ка, при­вер­жен­но­го бла­го­же­ла­тель­но­сти и справедливости.

Встань­те и рас­счи­тай­тесь{{Встань­те и рас­счи­тай­тесь (в англ. ори­ги­на­ле «stand up and be counted») — иди­о­ма, озна­ча­ю­щая при­зыв высту­пить пуб­лич­но, занять реши­тель­ную пози­цию, даже если это может при­не­сти вред или создать труд­но­сти выступающему.}}

Было бы про­сто пре­крас­но, если бы оппо­нен­ты транс­гу­ма­низ­ма ока­за­лись откры­ты для раци­о­наль­ных обсуж­де­ний. Одна­ко посте­пен­но я выучил несколь­ко важ­ных, и не слиш­ком при­ят­ных, уро­ков. И один из них: мы уже зашли слиш­ком дале­ко, что­бы либе­раль­ные аргу­мен­ты об инди­ви­ду­аль­ной сво­бо­де и лич­ном выбо­ре сохра­ня­ли боль­шое зна­че­ние. На мно­гих фору­мах я дока­зы­вал, что интел­лек­ту­аль­ные осно­ва­ния для зако­нов про­тив инно­ва­ций, таких, как кло­ни­ро­ва­ние чело­ве­ка, крайне скуд­ны, что либе­ра­лам сто­ит при­знать {эти инно­ва­ции} леги­тим­ной воз­мож­но­стью для тех, кто пред­по­чи­та­ет или чув­ству­ет потреб­ность в них. Уже слиш­ком позд­но, что­бы рас­счи­ты­вать на такой стиль аргу­мен­та­ции, во вся­ком слу­чае, исклю­чи­тель­но на него, посколь­ку деба­ты о кло­ни­ро­ва­нии мно­го­крат­но про­де­мон­стри­ро­ва­ли: глав­ные оппо­нен­ты транс­гу­ма­низ­ма уже отбро­си­ли тра­ди­ци­он­ные либе­раль­ные иде­а­лы. Мак­си­ма Джо­на Стю­ар­та Мил­ля о том, что сле­ду­ет при­вет­ство­вать жиз­нен­ные экс­пе­ри­мен­ты, теперь не полу­ча­ет долж­но­го вни­ма­ния в госу­дар­ствен­ной поли­ти­ке. Тональ­ность и содер­жа­ние дис­кус­сий пока­зы­ва­ют, что мы име­ем дело с едва замас­ки­ро­ван­ным жела­ни­ем навя­зать опре­де­лён­ные мораль­ные иде­а­лы в каче­стве пра­во­вых норм, а так­же стра­хом перед чуж­ды­ми направ­ле­ни­я­ми, кото­рые может при­нять раз­ви­тие обще­ства в буду­щем. [Моя точ­ка зре­ния несколь­ко изме­ни­лась по срав­не­нию с 2004‑м, теперь я счи­таю, что защи­та наших сво­бод неиз­беж­но вклю­ча­ет эле­мент лобо­вой кон­фрон­та­ции с рели­ги­ей. Я при­шёл к этой мыс­ли очень постепенно.]

Хотя в раз­ных обще­ствах ито­ги будут раз­лич­ны, зако­ны про­тив кло­ни­ро­ва­ния созда­ли пре­це­дент для отка­за от либе­ра­лиз­ма в зако­но­да­тель­ном регу­ли­ро­ва­нии обла­стей, свя­зан­ных с био­э­ти­кой. Мы можем про­дол­жать сето­вать на это — и убеж­дён, что долж­ны про­дол­жать [как до сих пор про­дол­жаю я сам] – но наши сето­ва­ния навряд ли при­ве­дут к успеху.

Что мы можем поде­лать сверх того? Самое глав­ное — это про­сто встать и рас­счи­тать­ся. Транс­гу­ма­ни­сти­че­ские идеи не могут замал­чи­вать­ся веч­но, посколь­ку они обра­ща­ют­ся к глу­бо­ко уко­ре­нён­ным побуж­де­ни­ям совер­шен­ство­ва­ния воз­мож­но­стей — как наших соб­ствен­ных, так и воз­мож­но­стей людей, кото­рых мы любим или с кото­ры­ми мы себя иден­ти­фи­ци­ру­ем. Но дви­же­ние не может пре­бы­вать в рас­строй­стве деся­ти­ле­ти­я­ми. Един­ствен­ный ответ, кото­рый я вижу, состо­ит в том, что­бы транс­гу­ма­низм быст­ро раз­вил­ся в мно­го­чис­лен­ное дви­же­ние идей­ных сто­рон­ни­ков, вклю­ча­ю­щее мно­гих ясно фор­му­ли­ру­ю­щих {свою пози­цию}, зна­чи­тель­ных пред­ста­ви­те­лей, кото­рые гото­вы пуб­лич­но само­иден­ти­фи­ци­ро­вать­ся с транс­гу­ма­низ­мом. Мы долж­ны пере­ра­с­ти ту точ­ку, где для госу­дар­ства ста­нет не про­сто нели­бе­раль­ным, но попро­сту ирра­ци­о­наль­ным пытать­ся подав­лять дея­тель­ность, кото­рую мы одоб­ря­ем или в кото­рой жела­ем попро­бо­вать свои силы — идёт ли речь об иссле­до­ва­ни­ях про­дле­ния жиз­ни, тех­но­ло­ги­че­ских спо­со­бах уси­ле­ния интел­лек­та, или же о чём-то ещё из обла­сти опре­де­лён­но транс­гу­ма­ни­сти­че­ских действий.

Как ука­зы­вал Джон Локк в сво­ём при­зы­ве к рели­ги­оз­ной тер­пи­мо­сти более 300 лет назад, госу­дар­ство не может кон­тро­ли­ро­вать убеж­де­ния людей, в отли­чие от их внеш­не­го пове­де­ния. Несо­мнен­но, цен­зу­рой и про­па­ган­дой мож­но добить­ся мно­го­го, воз­мож­но, намно­го боль­ше­го, чем пред­по­ла­гал Локк. Но, слег­ка пере­фра­зи­руя напи­сан­ное Сью­зан Мендус{{Сьюзан Мен­дус (Susan Lesley “Sue” Mendus) (род. 1951) – вал­лий­ский поли­ти­че­ский фило­соф, про­фес­сор-эме­рит Уни­вер­си­те­та Йор­ка.}}, для госу­дар­ства было бы ирра­ци­о­наль­но вкла­ды­вать­ся в это, пото­му что рас­про­стра­нён­ные убеж­де­ния слиш­ком креп­ко засе­ли в слиш­ком боль­шом чис­ле умов. Как толь­ко госу­дар­ство начи­на­ет попыт­ки пода­вить систе­мы убеж­де­ний со слиш­ком широ­кой базой, ему при­хо­дит­ся брать­ся за зада­чи, слиш­ком серьёз­ные даже для доступ­ных ему бога­тей­ших ресур­сов. Для подав­ле­ния убеж­де­ний потре­бу­ют­ся ничем не огра­ни­чен­ные вло­же­ния, так что такие попыт­ки попро­сту нерациональны.

Сама Мен­дус, быть может, и при­ме­ня­ла своё утвер­жде­ние исклю­чи­тель­но к рели­ги­оз­ным веро­ва­ни­ям, кото­рые под­пи­ты­ва­ют­ся могу­чи­ми ирра­ци­о­наль­ны­ми сила­ми. Но тот же самый аргу­мент рабо­та­ет и за пре­де­ла­ми обла­сти рели­ги­оз­ной сво­бо­ды. Труд­но пове­рить, что госу­дар­ство в прин­ци­пе смог­ло бы пода­вить совре­мен­ную нау­ку во всей пол­но­те, или, к при­ме­ру, фило­со­фию, да и глу­по­стью было бы пытать­ся {сде­лать это}. Что каса­ет­ся обще­ствен­ных дви­же­ний, то хоро­шим при­ме­ром явля­ет­ся дви­же­ние за пра­ва геев — оно настоль­ко моби­ли­зо­ва­лось за послед­ние деся­ти­ле­тия и ста­ло настоль­ко силь­ным, зри­мым и мэйн­стрим­ным, что для любо­го Запад­но­го госу­дар­ства было бы попро­сту нера­ци­о­наль­но пытать­ся стиг­ма­ти­зи­ро­вать и уни­что­жить его. Хотя неко­то­рые кон­сер­ва­тив­ные пра­ви­тель­ства про­дол­жа­ют сопро­тив­лять­ся идее одно­по­лых бра­ков, реаль­ное пре­сле­до­ва­ние людей за гомо­сек­су­аль­ные прак­ти­ки ста­ло прак­ти­че­ски немыс­ли­мым в Запад­ных соци­у­мах. Вре­мя от вре­ме­ни пра­ви­тель­ства Запа­да всё ещё берут­ся за мис­сии абсо­лют­но нера­ци­о­наль­ные по при­чине сво­ей деструк­тив­но­сти, нескон­ча­е­мо­сти и тщет­но­сти (вой­на с наркотиками{{Война с нар­ко­ти­ка­ми (War on Drugs) — тер­мин в поли­ти­ке Соеди­нён­ных Шта­тов Аме­ри­ки, опи­сы­ва­ю­щий мно­го­лет­нюю госу­дар­ствен­ную кам­па­нию по борь­бе с нар­ко­тор­гов­лей и упо­треб­ле­ни­ем нар­ко­ти­че­ских веществ, как внут­ри стра­ны, так и на меж­ду­на­род­ном уровне. Впер­вые упо­треб­лён в 1971 году пре­зи­ден­том Ричар­дом Ник­со­ном.}} в Соеди­нён­ных Шта­тах — при­скорб­ный при­мер тако­го рода), но обыч­но они всё же зна­ют, что делают.

Транс­гу­ма­ни­сти­че­ское дви­же­ние сей­час обла­да­ет ком­пе­тент­ной фор­маль­ной орга­ни­за­ци­ей, кото­рая всё более актив­но доно­сит свою точ­ку зре­ния. Его начи­на­ют осве­щать в СМИ,  и таким обра­зом откры­ва­ет­ся воз­мож­ность полу­чить всё воз­рас­та­ю­щее обще­ствен­ное при­зна­ние. Вот этим нам и сле­ду­ет занять­ся. Мы долж­ны попасть в мэйн­стрим. Мы долж­ны создать куль­ту­ру — зри­мую, гор­дую и энер­гич­ную. В этом состо­ит пер­вый урок.

В защи­ту равенства

Но это не един­ствен­ный урок. Не ока­зы­ва­ем­ся ли мы вре­ме­на­ми худ­ши­ми вра­га­ми для самих себя? Это всё очень хоро­шо — жела­ние посто­ять за транс­гу­ма­ни­сти­че­ское дви­же­ние, но чем будет это дви­же­ние через 10 лет, или 20, или 50? Как мне удо­сто­ве­рить­ся, что оно будет раз­ви­вать­ся таким обра­зом, что­бы мне по-преж­не­му хоте­лось под­дер­жи­вать свою связь с ним?

Если транс­гу­ма­низм заслу­жи­ва­ет нашей под­держ­ки, он дол­жен рас­крыть­ся как нечто гуман­ное и разум­ное с фило­соф­ской точ­ки зре­ния. Это вовсе не озна­ча­ет, что нам сле­ду­ет отбро­сить неко­то­рые из клю­че­вых идей — по край­ней мере, не сей­час же — но отсю­да сле­ду­ет, что нам при­дёт­ся все­рьёз счи­тать­ся с воз­мож­но­стью, что у транс­гу­ма­ни­сти­че­ских тех­но­ло­гий может быть обо­рот­ная сторона.

Я верю, что общее вли­я­ние будет поло­жи­тель­ным. Рас­смот­рим, к при­ме­ру, первую боль­шую транс­гу­ма­ни­сти­че­скую тех­но­ло­гию, вос­при­ня­тую нашим обще­ством: кон­тра­цеп­тив­ные таб­лет­ки, био­ме­ди­цин­ская инно­ва­ция, кото­рая изме­ня­ет рабо­ту наших тел так, что речь, со всей оче­вид­но­стью, об эффек­те усо­вер­шен­ству­ю­щем, а не про­сто тера­пев­ти­че­ском. Вли­я­ние этих средств было очень дале­ко иду­щим, и в основ­ном оно ока­за­лось к луч­ше­му. Немно­гие из нас меч­та­ют о воз­вра­ще­нии во вре­ме­на, когда не суще­ство­ва­ло этой могу­чей тех­но­ло­гии, при помо­щи кото­рой жен­щи­ны спо­соб­ны кон­тро­ли­ро­вать фер­тиль­ность соб­ствен­ных тел.

Я ожи­даю, что схо­жим обра­зом мы ста­нем вос­при­ни­мать и тех­но­ло­гии, кото­рые уве­ли­чи­ва­ют про­дол­жи­тель­ность нашей жиз­ни или наши когни­тив­ные спо­соб­но­сти.  Но про­бле­ма соци­аль­ной спра­вед­ли­во­сти вста­ёт здесь гораз­до насущ­нее, чем в слу­чае с таб­лет­ка­ми, посколь­ку речь о более оче­вид­ных кон­ку­рент­ных пре­иму­ще­ствах. Если мы не при­ни­ма­ем бес­ком­про­мисс­но эга­ли­тар­ный под­ход в вопро­сах спра­вед­ли­во­го рас­пре­де­ле­ния — а я его не при­ни­маю, — нам сле­ду­ет избе­гать обостре­ний суще­ству­ю­щих соци­аль­ных про­ти­во­ре­чий, кото­рые могут про­изой­ти, если доступ­ность усо­вер­шен­ству­ю­щих тех­но­ло­гий для бога­чей и бед­ня­ков будет раз­ли­чать­ся. Точ­но так же сле­ду­ет избе­гать и аль­тер­на­тив­но­го сце­на­рия, при кото­ром сфор­ми­ру­ет­ся раз­вра­щён­ный, поверх­ност­но «счаст­ли­вый» гене­ти­че­ский низ­ший класс, чьи амби­ции и соци­аль­ный вклад будут снижены.

Соглас­но аргу­мен­та­ции Джор­джа Дворски{{Джордж Двор­ски (George P. Dvorsky) (род. 1970) – канад­ский био­э­тик, транс­гу­ма­нист и футу­ро­лог. Пишу­щий редак­тор бло­га о фан­та­сти­ке, нау­ке и тех­но­ло­ги­ях io9, про­дю­сер бло­га и под­ка­ста Sentient Development, актив­ный участ­ник IEET.}}, бла­га, веро­ят­нее все­го, про­со­чат­ся вниз, даже если изна­чаль­но усо­вер­шен­ству­ю­щие тех­но­ло­гии будут доступ­ны толь­ко для состо­я­тель­ных. Одна­ко нам сле­ду­ет удо­сто­ве­рить­ся, что всё так и обер­нёт­ся. Я при­шёл к выво­ду, что транс­гу­ма­ни­сты долж­ны пой­ти даль­ше, неже­ли про­сто отста­и­вать широ­кую доступ­ность усо­вер­шен­ству­ю­щих тех­но­ло­гий. Сей­час я счи­таю, что нам сле­ду­ет под­дер­жать такие поли­ти­че­ские рефор­мы в самом обще­стве, что­бы оно в боль­шей сте­пе­ни ста­ло ассо­ци­а­ци­ей рав­ных. Я вовсе не соби­ра­юсь раз­дать соб­ствен­ный скром­ный доста­ток, но все­го лишь наме­ре­ва­юсь обе­и­ми рука­ми про­го­ло­со­вать за эга­ли­тар­ную поли­ти­че­скую тео­рию, одна­ко нам сле­ду­ет поис­кать спо­со­бы сузить раз­рыв меж­ду иму­щи­ми и неимущими.

В послед­нее вре­мя мне всё чаще попа­да­ют­ся при­зна­ния, что транс­гу­ма­низм дол­жен быть инклю­зив­ным, как для наше­го соб­ствен­но­го бла­га, так и ради бла­га обще­ствен­но­го. Ник Бостром недав­но под­черк­нул, что транс­гу­ма­низм дол­жен «гаран­ти­ро­вать, что воз­мож­но­сти улуч­ше­ния будут настоль­ко широ­ко и лег­ко доступ­ны, насколь­ко воз­мож­но». Я бы пошёл ещё даль­ше. Нам сле­ду­ет актив­но высту­пать за более эга­ли­тар­ное обще­ство, и более рав­ный миро­вой порядок.

Такая точ­ка зре­ния может ока­зать­ся непо­пу­ляр­ной сре­ди мно­гих, кто иден­ти­фи­ци­ру­ет себя с транс­гу­ма­низ­мом. К насто­я­ще­му момен­ту часть его ауди­то­рии состав­ля­ют тех­но­ли­бер­та­ри­ан­цы, кото­рые высту­па­ют про­тив регу­ли­ро­ва­ния рын­ка. Если транс­гу­ма­низм ста­нет более инклю­зив­ным дви­же­ни­ем, это может отвра­тить часть его совре­мен­ной базы под­держ­ки: людей, чьи идеи во мно­гих отно­ше­ни­ях очень цен­ны. Наде­юсь, это­го мож­но избе­жать, но нам необ­хо­ди­мо пре­вра­тить­ся в инклю­зив­ное, мэйн­стримное дви­же­ние, даже если это при­ве­дёт к боль­ше­му раз­ме­же­ва­нию меж­ду «левы­ми» и «пра­вы­ми» транс­гу­ма­ни­ста­ми. Постро­е­ние гуман­но­го и соци­аль­но ответ­ствен­но­го транс­гу­ма­низ­ма не толь­ко интел­лек­ту­аль­но оправ­да­но, оно необ­хо­ди­мо, что­бы транс­гу­ма­низм смог выжить и преуспеть.

Рас­счи­ты­вай­те и на меня.

Ком­мен­та­рии:

Грег Иган напи­сал:

Пусть гор­сточ­ка сре­ди назы­ва­ю­щих себя транс­гу­ма­ни­ста­ми и мыс­лит раци­о­наль­но о реаль­ных пер­спек­ти­вах буду­ще­го, подав­ля­ю­ще­му их боль­шин­ству ничто не меша­ет оста­вать­ся при­вер­жен­ца­ми рели­ги­оз­но­го кар­го-куль­та, осно­ван­но­го на пред­став­ле­ни­ях, буд­то само­мо­ди­фи­ци­ру­ю­щий­ся ИИ будет обла­дать маги­че­ски­ми возможностями.

Что ещё хуже, это сло­во само по себе под­ра­зу­ме­ва­ет заме­ну или пре­одо­ле­ние чело­веч­но­сти, а это уже ката­стро­фа с точ­ки зре­ния пиа­ра. Хотя наста­и­вать на непред­взя­той реви­зии всех черт чело­ве­че­ско­го фено­ти­па – это, на неко­то­ром уровне, хоро­шо, одна­ко сло­во «транс­гу­ма­нист», похо­же, под­ра­зу­ме­ва­ет зара­нее пред­ре­шён­ный вывод, буд­то всем суще­ству­ю­щим видо­вым осо­бен­но­стям суж­де­но ока­зать­ся в мусор­ной кор­зине – а такой под­ход ни с поже­ла­ни­я­ми боль­шин­ства людей, кто удо­су­жил­ся рас­смот­реть вопрос по суще­ству, вовсе не согла­су­ет­ся, ни спо­соб­но­стью вдох­но­вить на серьёз­ное отно­ше­ние к дан­но­му дви­же­нию не обладает.

Рас­сел, раз­де­ляю твою оза­бо­чен­ность антиэ­га­ли­та­риз­мом столь мно­гих вид­ных транс­гу­ма­ни­стов, одна­ко на дан­ном эта­пе, откро­вен­но гово­ря, я рас­смат­ри­ваю «транс­гу­ма­ни­сти­че­скую» само­иден­ти­фи­ка­цию в первую оче­редь как весь­ма полез­ный фильтр для рас­по­зна­ва­ния поло­ум­ных. Пусть в отно­ше­нии неко­то­рой неболь­шой фрак­ции людей это и неспра­вед­ли­во, но, боюсь, тому, кто не хочет пой­ти на дно вме­сте со всей осталь­ной бре­дя­щей тол­пой око­ло­ни­ц­ще­ан­цев, сле­ду­ет при­ду­мать для сво­ей фило­со­фии имеч­ко получ­ше – или же, быть может, и вовсе отбро­сить любые ярлыки.

Рас­сел Блэк­форд напи­сал:

Грег, то, о чём ты гово­ришь – это имен­но тот риск, о кото­ром (в чис­ле про­че­го) и было моё эссе 2004 года. Ты пред­по­ла­га­ешь, что транс­гу­ма­ни­сти­че­ское дви­же­ние вовсе не нахо­дит­ся на пере­пу­тье, но уже непо­пра­ви­мо откло­ни­лось на оши­боч­ную тра­ек­то­рию, даже с самим сво­им назва­ни­ем. Я такой вывод сде­лать пока не готов, но и спо­рить с тобой не ста­ну, посколь­ку ты запро­сто можешь ока­зать­ся прав. Со стра­те­ги­че­ской точ­ки зре­ния, исполь­зо­ва­ние это­го ярлы­ка вызы­ва­ет мои сомне­ния ров­но по тем же при­чи­нам, одна­ко есть и дово­ды в поль­зу про­яв­ле­ния соли­дар­но­сти с людь­ми, кото­рые, по тво­е­му выра­же­нию, гото­вы под­верг­нуть нынеш­ний чело­ве­че­ский фено­тип непред­взя­той ревизии.

Вопрос, что же такое транс­гу­ма­низм – и явля­ет­ся ли он чем-то еди­ным – оста­ёт­ся для меня спор­ным и откры­тым. В рам­ках мое­го широ­ко­го взгля­да на то, чем он мог бы быть, я бы оха­рак­те­ри­зо­вал твои взгля­ды (насколь­ко я их пони­маю) как транс­гу­ма­ни­сти­че­ские… по край­ней мере, настоль­ко же, насколь­ко и мои. Но оче­вид­но, что мы оба не счи­та­ем друг дру­га при­вер­жен­ца­ми опи­сан­но­го тобой кар­го-куль­та. Дей­стви­тель­но, я оспа­ри­ваю син­гу­ляр­та­ри­ан­скую пози­цию, на кото­рую ты ссы­ла­ешь­ся, одна­ко мне это пред­став­ля­ет­ся рас­хож­де­ни­ем меж­ду людь­ми, кото­рые, по край­ней мере, в прин­ци­пе при­над­ле­жат к обще­му широ­ко­му движению.

Давай при­гла­сим дать свои ком­мен­та­рии кого-то из тех, кто недву­смыс­лен­но при­чис­ля­ет себя к транс­гу­ма­ни­стам. Сре­ди моих чита­те­лей тако­вых в избыт­ке. Грег сфор­му­ли­ро­вал про­бле­му реши­тель­но, и намно­го пес­си­ми­стич­нее, чем я. Что ска­же­те вы?

Грег Иган напи­сал:

Цита­та Рас­се­ла Блэкфорда:

«Со стра­те­ги­че­ской точ­ки зре­ния, исполь­зо­ва­ние это­го ярлы­ка вызы­ва­ет мои сомне­ния ров­но по тем же при­чи­нам, одна­ко есть и дово­ды в поль­зу про­яв­ле­ния соли­дар­но­сти с людь­ми, кото­рые, по тво­е­му выра­же­нию, гото­вы под­верг­нуть нынеш­ний чело­ве­че­ский фено­тип непред­взя­той ревизии.»

Сло­во «транс­гу­ма­низм» (или того хуже, «пост­гу­ма­низм») зву­чит как пред­смерт­ная запис­ка для цело­го вида, за кото­рой в сущ­но­сти сле­ду­ет поли­ти­че­ское само­убий­ство любо­го дви­же­ния, поже­лав­ше­го назвать­ся так. Несо­мнен­но, най­дут­ся люди, гото­вые потра­тить 90% вре­ме­ни на объ­яс­не­ния, что они вовсе не наме­ре­ва­лись вкла­ды­вать сюда нега­тив­ные кон­но­та­ции, но это вовсе не тот слу­чай, когда при­дёт­ся винить кого-то дру­го­го, если «транс­гу­ма­ни­стов» опре­де­лят во вра­ги рода чело­ве­че­ско­го на поч­ве чистой линг­ви­сти­ки. «Пожа­луй­ста, про­чти­те мой 1000-стра­нич­ный мани­фест, не суди­те по един­ствен­но­му сло­ву!» Назва­ние иди­от­ское, и каж­дый, кто не отбро­сит его, заслу­жи­ва­ет иметь дело с последствиями.

И я не так уж уве­рен, сколь­ко соли­дар­но­сти дол­жен про­бу­дить во мне некто, про­сто пото­му, что тоже под­ме­тил: мы вовсе не соби­ра­ем­ся встре­чать сле­ду­ю­щее тыся­че­ле­тие на том же физи­че­ском суб­стра­те, кото­рым обла­да­ли преды­ду­щие 200 000 лет. Люди, кото­рые видят своё пред­на­зна­че­ние в том, что­бы пере­ра­бо­тать Юпи­тер в ком­пьютро­ни­ум, что­бы мож­но было играть в люби­мой РПГ за 10^20 пер­со­на­жей одно­вре­мен­но, бес­ко­неч­но оди­оз­нее и опас­нее, неже­ли сред­ний инди­вид, для кото­ро­го всё это попро­сту науч­но-фан­та­сти­че­ская бели­бер­да, и кото­рый пред­по­чёл бы про­сто обза­ве­стись 2,3 детьми, при­над­ле­жа­щи­ми к тому же био­ло­ги­че­ско­му виду, что и он, лишь бы те не стра­да­ли муко­вис­ци­до­зом и жили хотя бы чуток получ­ше сво­их родителей.

Не сомне­ва­юсь, что суще­ству­ют так­же и опас­но нетер­пи­мые сто­рон­ни­ки того, что­бы чело­ве­че­ство навеч­но уна­сле­до­ва­ло чер­ты сво­их пред­ков… осо­бен­но если доба­вить к ним тех, кто и мину­ты не уде­лил, что­бы осмыс­лить саму идею, но высту­пит про­тив неё, если та когда-либо попа­дёт­ся ему на гла­за (соглас­но аргу­мен­ту «купи­те Дже­ре­ми Рифкина{{Дже́реми Ри́фкин (Jeremy Rifkin) (род.1945) — аме­ри­кан­ский соци­аль­ный фило­соф, эко­но­мист, писа­тель и обще­ствен­ный дея­тель. Тео­ре­тик пост­ка­пи­та­лиз­ма, про­па­ган­дист устой­чи­во­го раз­ви­тия и аль­тер­на­тив­ной энер­ге­ти­ки, автор кон­цеп­ции «тре­тьей про­мыш­лен­ной рево­лю­ции». Кон­суль­тант ряда вли­я­тель­ных поли­ти­ков. Созда­тель бест­сел­ле­ров «Евро­пей­ская меч­та», «Водо­род­ная эко­но­ми­ка», «Эпо­ха досту­па», «Век био­те­ха» и «Конец рабо­ты».}}, и полу­чи­те Уса­му бен Ладе­на в пода­рок»). Но если уж гово­рить о реаль­ных манья­ках, поме­шан­ных на дан­ном кон­крет­ном вопро­се, то у дру­гой сто­ро­ны обна­ру­жит­ся куда боль­шая доля чокнутых.

Рас­селл Блэк­форд напи­сал:

Цита­та Гре­га Игана:

«И я не так уж уве­рен, сколь­ко соли­дар­но­сти дол­жен про­бу­дить во мне некто, про­сто пото­му, что тоже под­ме­тил: мы вовсе не соби­ра­ем­ся встре­чать сле­ду­ю­щее тыся­че­ле­тие на том же физи­че­ском суб­стра­те, кото­рым обла­да­ли преды­ду­щие 200 000 лет.»

Ну хоро­шо, вот на этом я хотел бы оста­но­вить­ся поподробнее.

Во-пер­вых, мно­гие сочли бы то, что я толь­ко что про­ци­ти­ро­вал, чрез­вы­чай­но пре­тен­ци­оз­ным и ради­каль­ным заяв­ле­ни­ем, и спо­ри­ли бы с ним оже­сто­чён­но — и, вполне воз­мож­но, сочли бы тебя чок­ну­тым науч­ным фан­та­стом, или кем-то в таком духе, про­сто пото­му, что пред­ла­га­ешь подобное.

Мно­гие из этих людей обла­да­ют куда боль­шим поли­ти­че­ским вли­я­ни­ем, чем кто бы то ни было сре­ди тех, с кем ты настоль­ко опа­са­ешь­ся ока­зать­ся в одних рядах. Я даже не вполне уве­рен, кого кон­крет­но ты име­ешь в виду, гово­ря об этих поло­ум­ных манья­ках — не отри­цаю, что они суще­ству­ют (мне попа­да­лись люди с подоб­ны­ми взгля­да­ми), про­сто отме­чаю, что их вли­я­ние столь ничтож­но, что име­на даже не задер­жи­ва­ют­ся в моей памя­ти, в то вре­мя, как  Дже­ре­ми Риф­кин, Леон Касс{{Леон Ричард Касс (Leon Richard Kass) (род. 1939) — аме­ри­кан­ский физио­лог, учё­ный, пре­по­да­ва­тель, пуб­лич­ный интел­лек­ту­ал. Высту­па­ет с кри­ти­че­ских пози­ций по отно­ше­нию к кло­ни­ро­ва­нию чело­ве­ка, про­дле­нию жиз­ни, эвта­на­зии, эмбри­о­наль­ным иссле­до­ва­ни­ям. С 2001 по 2005 годы зани­мал пост пред­се­да­те­ля пре­зи­дент­ско­го сове­та по био­э­ти­ке. Тер­ми­на «био­э­тик» избе­га­ет, пред­по­чи­тая назы­вать себя «ста­ро­мод­ным гума­ни­стом», где гума­низм пони­ма­ет­ся в широ­ком смыс­ле, не толь­ко эти­че­ски.}}, Май­кл Сэндел{{Майкл Джо­зеф Сэн­дел (Michael Joseph Sandel) (род. 1953) — аме­ри­кан­ский поли­ти­че­ский фило­соф, сто­рон­ник ком­му­ни­та­риз­ма, про­фес­сор Гар­вард­ско­го уни­вер­си­те­та, веду­щий семи­на­ра по био­э­ти­ке. Во вре­ме­на пре­ди­дент­ства Джор­джа Буша-мл. Участ­ник пре­зи­дент­ско­го сове­та по био­э­ти­ке.}}, Фрэн­сис Фуку­я­ма, Мар­га­рет Соммервиль{{Маргарет Соммер­виль (Margaret Anne Ganley Somerville) (род. 1942) —про­фес­сор био­э­ти­ки в Уни­вер­си­те­те Нотр-Дам, Австра­лия.}} и т. д. — это име­на на слу­ху. Вот кто поль­зу­ет­ся обще­ствен­ны­ми сим­па­ти­я­ми и обла­да­ет поли­ти­че­ским весом. Меня гораз­до боль­ше вол­ну­ет, насколь­ко успеш­но я смо­гу оппо­ни­ро­вать их взгля­дам, неже­ли опа­се­ния, что меня пере­пу­та­ют с кем-то, соби­ра­ю­щим­ся пере­ра­бо­тать Юпи­тер в ком­пьютро­ний — хотя, воз­мож­но, стра­те­ги­че­ски и было бы наи­луч­шим реше­ни­ем дистан­ци­ро­вать­ся от послед­них, что­бы [луч­ше] оппо­ни­ро­вать первым.

На самом деле, я бы пере­фра­зи­ро­вал сло­ва Сэма Харриса{{Сэ́мюэл Бен­джа­мин Ха́ррис (Samuel Benjamin Harris) (род. 1967)аме­ри­кан­ский пуб­ли­цист в обла­стях фило­со­фии, рели­гии и ней­ро­био­ло­гии. Изве­стен, преж­де все­го, как сто­рон­ник и попу­ля­ри­за­тор ате­и­сти­че­ско­го миро­воз­зре­ния. Автор книг «Конец веры», «Пись­мо к хри­сти­ан­ской нации» и др.}}, над кото­ры­ми я уже неко­то­рое вре­мя раз­мыш­ляю при­ме­ни­тель­но к атеизму:

«Поз­воль­те  мне откро­вен­но выска­зать сво­е­го рода кра­моль­ное пред­ло­же­ние: нам не сто­ит назы­вать себя «ате­и­ста­ми». Нам не нуж­но звать­ся «секу­ля­ри­ста­ми». Не надо назы­вать себя «гума­ни­ста­ми», или «свет­ски­ми гума­ни­ста­ми», или «нату­ра­ли­ста­ми», или «скеп­ти­ка­ми», или «анти-теи­ста­ми», или «раци­о­на­ли­ста­ми», или «сво­бо­до­мыс­ля­щи­ми», или «просвещёнными»{{В ори­ги­на­ле англ. brights – отсыл­ка к обще­ствен­но­му дви­же­нию с таким же назва­ни­ем, состо­я­ще­му из сто­рон­ни­ков т.н. «нату­ра­ли­сти­че­ско­го миро­воз­зре­ния», сво­бод­но­го от мисти­ки, рели­гии, пред­рас­суд­ков. Сре­ди извест­ных сто­рон­ни­ков дви­же­ния Дэни­ел Дэн­нетт, Ричард Докинз, Сти­вен Пин­кер и др.}}. Нам никак не нуж­но себя назы­вать. Мы долж­ны про­пасть с экра­на рада­ров – до кон­ца нашей жиз­ни. И всё это вре­мя мы долж­ны оста­вать­ся достой­ны­ми, ответ­ствен­ны­ми людь­ми, кото­рые уни­что­жа­ют вред­ные идеи, где бы те ни обнаружились».

Не счи­таю, что Хар­рис прав в кон­тек­сте исход­но­го заяв­ле­ния. Но, думаю, подоб­ное утвер­жде­ние мож­но сфор­му­ли­ро­вать в ещё более силь­ной фор­ме в нашем слу­чае, в кон­тек­сте тех­но­ло­ги­че­ских изме­не­ний чело­ве­че­ско­го тела и чело­ве­че­ских воз­мож­но­стей, неже­ли в том кон­тек­сте, о кото­ром гово­рил он. Вполне мож­но отста­и­вать следующее:

«Нам не сто­ит назы­вать себя «транс­гу­ма­ни­ста­ми». Нам не нуж­но звать­ся «тех­но­про­грес­си­ви­ста­ми». Не надо назы­вать себя «син­гу­ляр­та­ри­ан­ца­ми», или «экс­тро­пи­ан­ца­ми», или «X‑истами», или «Y‑истами», или «Z‑истами», или «XX-иста­ми», или «YY-иста­ми», или «кем­бы­то­ни­бы­ли­ста­ми». Нам никак не нуж­но себя назы­вать. Мы долж­ны про­пасть с экра­на рада­ров – до кон­ца нашей жиз­ни. И всё это вре­мя мы долж­ны оста­вать­ся достой­ны­ми, ответ­ствен­ны­ми людь­ми, кото­рые уни­что­жа­ют вред­ные идеи, где бы те ни обнаружились».

Думаю, в дан­ном слу­чае сле­ду­ет либо вооб­ще отка­зать­ся от ярлы­ков, либо вос­поль­зо­вать­ся тер­ми­ном «транс­гу­ма­нист», посколь­ку все про­чие ярлы­ки зву­чат ещё более куль­тист­ски, или, по край­ней мере, чуда­ко­ва­то, а вот идею изыс­ки­вать оче­ред­ной ярлык [вза­мен] я бы не под­дер­жал. (Сле­ду­ет доба­вить, что неко­то­рые из этих про­чих тер­ми­нов так­же обо­зна­ча­ют неко­то­рые более част­ные пози­ции, кото­рые лич­но я не разделяю.)

Что каса­ет­ся меня, то вовсе не воз­ра­жаю про­тив ярлы­ка «транс­гу­ма­нист» само­го по себе. По мне, это про­сто обо­зна­че­ние пред­по­чте­ния тех­но­ло­гий в целях пре­одо­ле­ния чело­ве­че­ских огра­ни­че­ний (и при­зна­ние того, что одна­жды наши тела могут изме­нить­ся, — вме­сто того, что­бы ужа­сать­ся самой мыс­ли об этом). Кро­ме того… чем боль­шее наблю­да­ет­ся дроб­ле­ние тер­ми­но­ло­гии, тем глу­пее и более куль­тист­ски выгля­дит всё движение.

Так что, совер­шен­но вер­но, я абсо­лют­но искренне при­знаю перед все­ми чита­те­ля­ми, что, с учё­том крайне неболь­ших ого­во­рок, согла­сен с точ­кой зре­ния Гре­га. Но в то же вре­мя необ­хо­ди­мо искать спо­со­бы вести обсуж­де­ние подоб­ной про­бле­ма­ти­ки с тако­го рода точ­ки зре­ния, кото­рая при­ни­ма­ет, что чело­ве­че­ский суб­страт изме­нит­ся в том или ином виде, и что это [изме­не­ние] не явля­ет­ся неже­ла­тель­ным. Кро­ме того, нам необ­хо­ди­мо искать спо­со­бы ока­зы­вать поли­ти­че­ское вли­я­ние, а это обыч­но под­ра­зу­ме­ва­ет созда­ние орга­ни­за­ций, ярлы­ков и т.д.

К сча­стью, у нас есть IEET{{IEET, Institute for Ethics and Emerging Technologies — Инсти­тут эти­ки и новых тех­но­ло­гий – ана­ли­ти­че­ский центр по про­грес­су тех­но­ло­гий, осно­ван­ный фило­со­фом Ником Бостро­мом и био­э­ти­ком Джейм­сом Хью­зом. Дан­ный центр раз­ра­ба­ты­ва­ет тему тех­но­ло­ги­че­ских пер­спек­тив сво­бо­ды, сча­стья и про­цве­та­ния в демо­кра­ти­че­ских обще­ствах. Сотруд­ни­ча­ет с одной из вли­я­тель­ней­ших транс­гу­ма­ни­сти­че­ских орга­ни­за­ций Humanity+.}}, кото­рый отка­зал­ся от тре­бо­ва­ния к сво­им участ­ни­кам иден­ти­фи­ци­ро­вать себя как транс­гу­ма­ни­стов (или в каче­стве кого бы то ни было ещё). Так­же мы рас­по­ла­га­ем JET{{JET, Journal of Evolution and Technology (букв. «Жур­нал эво­лю­ции и тех­но­ло­гии») – науч­ный жур­нал, изда­ва­е­мый сила­ми IEET.}}, кото­рый пред­по­ла­га­ет некую фор­му тех­но­ло­ги­че­ской эво­лю­ции чело­ве­че­ско­го суб­стра­та, но не тре­бу­ет, что­бы пуб­ли­ку­ю­щи­е­ся там авто­ры обо­зна­ча­ли себя как транс­гу­ма­ни­стов – когда-то по ходу дела кто-то при­нял глу­бо­ко про­ду­ман­ное реше­ние, что­бы JET пере­стал носить назва­ние «Жур­на­ла по транс­гу­ма­низ­му» («The Journal of Transhumanism»), и, веро­ят­но, на то были вес­кие причины.

Так что, Грег, ты вно­сишь свой вклад писа­тель­ским тру­дом, выра­жа­ю­щим твоё миро­воз­зре­ние. Но делу очень помо­га­ет, если при­вер­жен­цы миро­воз­зре­ния спо­соб­ны орга­ни­зо­вы­вать­ся, что­бы их голо­са не оста­ва­лись оди­но­ки. Если мыс­лить стра­те­ги­че­ски, как бы ты посту­пил ока­зав­шись на месте, к при­ме­ру, Джейм­са Хьюза{{Джеймс Хьюз (James J. Hughes) (род. 1961) – аме­ри­кан­ский социо­лог и био­э­тик, соос­но­ва­тель и испол­ни­тель­ный дирек­тор IEET. Про­тив­ник био­кон­сер­ва­тиз­ма и либер­та­ри­ан­ско­го транс­гу­ма­низ­ма, свою пози­цию обо­зна­ча­ет как «демо­кра­ти­че­ский транс­гу­ма­низм» и «тех­но­про­грес­си­визм». Наи­бо­лее изве­стен сво­ей рабо­той 2005 года «Citizen Cyborg: Why Democratic Societies Must Respond to the Redesigned Human of the Future» («Граж­да­нин Киборг: поче­му демо­кра­ти­че­ские обще­ства долж­ны отклик­нуть­ся пере­стро­ен­но­му чело­ве­ку буду­ще­го»), где фор­му­ли­ру­ет соци­аль­но-поли­ти­че­скую идео­ло­гию и про­грам­му демо­кра­ти­че­ско­го транс­гу­ма­низ­ма. В даль­ней­шей бесе­де фигу­ри­ру­ет под ником citizencyborg.}}?

И мне инте­рес­но, что может ска­зать сам Джеймс по это­му вопро­су, если он поже­ла­ет оста­вить ком­мент… или если решит выска­зать­ся кто-то ещё из недву­смыс­лен­но назы­ва­ю­щих себя трансгуманистами.

Грег Иган напи­сал:

Рас­сел, воз­мож­но, при­чи­на того, что мы смот­рим на вопрос с несколь­ко раз­ных пер­спек­тив, заклю­ча­ет­ся в том (и поправь меня, если я оши­ба­юсь), что ты при­ни­ма­ешь в рас­чёт преж­де все­го деба­ты, раз­во­ра­чи­ва­ю­щи­е­ся на стра­ни­цах фило­соф­ской лите­ра­ту­ры, где боль­шин­ство авто­ров, веро­ят­но, соглас­ны, что зна­че­ние тер­ми­на «транс­гу­ма­низм» долж­но опре­де­лять­ся посред­ством чте­ния опре­де­лён­но­го чис­ла ака­де­ми­че­ских ста­тей, где вопрос рас­смот­рен вдоль и попе­рёк, и никак иначе.

Но что имею в виду я, так это реак­цию на само сло­во жур­на­ли­стов, зако­но­да­те­лей и рядо­вых граж­дан. Тот факт, что неко­то­рые вполне разум­ные люди с отно­си­тель­но уме­рен­ны­ми, или, по край­ней мере, обос­но­ван­ны­ми целя­ми мог­ли избрать это сло­во для обо­зна­че­ния сво­ей про­грам­мы, зна­чит не так уж мно­го, если попу­ляр­ное сре­ди само­зва­ных «транс­гу­ма­ни­стов» зна­че­ние [тер­ми­на] вра­ща­ет­ся вокруг фан­та­зий о вос­тор­гах от ИИ. В луч­шем слу­чае, мож­но ожи­дать, что рядо­вой обы­ва­тель поду­ма­ет о ком-то вро­де Курцвей­ла, кото­рый опре­де­лён­но очень сфо­ку­си­ро­ван имен­но на ИИ.

Если ты на самом деле и абсо­лют­но искренне счи­та­ешь, что это сло­во не несёт ника­кой нега­тив­ной нагруз­ки, будь то по при­чине наво­дя­щей на опре­де­лён­ные мыс­ли эти­мо­ло­гии, или же того, как оно исполь­зу­ет­ся в попу­ляр­ной куль­ту­ре, что ж… кто зна­ет? Вдруг это я поня­тия не имею, о чём рас­суж­даю. Но я крайне удив­лён, что чело­век, вро­де тебя, настоль­ко вовле­чён­ный в поли­ти­че­скую про­бле­ма­ти­ку прав­до­по­доб­ных био­тех­но­ло­гий близ­ко­го буду­ще­го, не жела­ет при­знать за кос­ми­че­ски­ми каде­та­ми несколь­ко более высо­кую пред­став­лен­ность. Как ты дума­ешь, кого сле­ду­ю­щий пре­мьер-министр охот­нее при­гла­сит на его/её сам­мит боль­ших идей: а) Рас­се­ла Блэк­фор­да, широ­ко извест­но­го ком­мен­та­то­ра по про­бле­мам био­э­ти­ки, или б) Рас­се­ла Блэк­фор­да, широ­ко извест­но­го ком­мен­та­то­ра по про­бле­мам транс­гу­ма­низ­ма? Когда сир Хамфри{{Сэр Хам­ф­ри Эппл­би (Sir Humphrey Appleby) – пер­со­наж сати­ри­че­ско­го теле­се­ри­а­ла «Да, гос­по­дин министр» («Yes Minister»), посто­ян­ный заме­сти­тель мини­стра адми­ни­стра­тив­ных дел, позд­нее сек­ре­тарь каби­не­та, роль испол­не­на актё­ром Най­дже­лом Хотор­ном.}} будет объ­яс­нять при­мер-мини­стру зна­че­ние это­го сло­ва, то поза­им­ству­ет его не из чте­ния опуб­ли­ко­ван­ных тобой работ; он загуг­лит его и вычерк­нет тебя из спис­ка как полоумного.

Рас­сел Блэк­форд напи­сал:

На самом деле, Грег, я скло­нен согла­сить­ся с тво­им послед­ним абза­цем. Дей­стви­тель­но, я не назы­ваю себя транс­гу­ма­ни­стом, когда подаю ста­тьи в жур­на­лы или посы­лаю кни­ги изда­те­лю, — лад­но, не то, что­бы я зани­мал­ся этим в послед­нее вре­мя, но можешь быть уве­рен, когда «Голо­са недо­ве­рия» («Voices of Disbelief»{{“50 Voices of Disbelief” – сбор­ник эссе вид­ных дея­те­лей нау­ки, искус­ства, поли­ти­ки и т.д., где те объ­яс­ня­ют свои ате­и­сти­че­ские взгля­ды. Вышел под редак­ци­ей Рас­се­ла Блэк­фор­да и Удо Шук­лен­ка (Udo Schüklenk) – канад­ско­го био­э­ти­ка.}}) попа­дут в Blackwell{{Blackwell (сей­час – Wiley-Blackwell) – одно из круп­ней­ших англий­ских изда­тельств ака­де­ми­че­ской лите­ра­ту­ры.}} бли­же к кон­цу года, там не будет ника­ких ссы­лок на транс­гу­ма­низм (по край­ней мере, с моей стороны).

Более того, выше­ска­зан­ное спра­вед­ли­во и отно­си­тель­но моей дис­сер­та­ции, руко­пись кото­рой пере­дам изда­те­лю поз­же в этом году. Гораз­до веро­ят­нее, что я под­черк­ну её пре­ем­ствен­ность рабо­там таких людей, как Джон Харрис{{Джон Мор­ли Хар­рис (John Morley Harris) (род. 1945) – англий­ский био­э­тик, про­фес­сор био­э­ти­ки и дирек­тор Инсти­ту­та нау­ки, эти­ки и инно­ва­ций (Institute for Science, Ethics and Innovation) в Уни­вер­си­те­те Ман­че­сте­ра. Сто­рон­ник либер­тар­но-кон­сен­квен­ци­о­на­лист­ско­го под­хо­да.}} (в отли­чие от Сэма Хар­ри­са) и Ник Эгар, неже­ли какие-либо вза­и­мо­свя­зи с транс­гу­ма­низ­мом. Так что я уже во мно­гом сле­дую тво­е­му сове­ту. (Если её [эту дис­сер­та­цию] опуб­ли­ку­ют, кое-кто из моих дру­зей-транс­гу­ма­ни­стов вполне может ужас­нуть­ся, насколь­ко кон­сер­ва­тив­ны по их мер­кам неко­то­рые мои взгляды.)

Я пока не зама­нил Джейм­са сюда, но заме­тил, что и в «Граж­да­нине Кибор­ге» не так уж мно­го гово­рит­ся о транс­гу­ма­низ­ме, как неко­то­рые мог­ли бы пред­по­ло­жить, хотя там он опре­де­лён­но при­сут­ству­ет. Дэми­ен [Бродерик]{{Дэмиен Фрэн­сис Бро­де­рик (Damien Francis Broderick) (род. 1944) – австра­лий­ский писа­тель-фан­таст, автор мно­гих про­из­ве­де­ний на аутен­тич­но транс­гу­ма­ни­сти­че­скую тема­ти­ку: так, в “The Judas Mandala” (1982) впер­вые вве­дён тер­мин «вир­ту­аль­ная реаль­ность», а науч­но-попу­ляр­ная кни­га 1997 года “The Spike” содер­жит пер­вое деталь­ное иссле­до­ва­ние поня­тия тех­но­ло­ги­че­ской син­гу­ляр­но­сти.}} нико­гда не назы­ва­ет себя транс­гу­ма­ни­стом, хотя он запро­сто мог повре­дить сво­ей репу­та­ции и дру­ги­ми спо­со­ба­ми, о чём он и сам пре­крас­но зна­ет. Прак­ти­че­ски един­ствен­ный, кто дей­стви­тель­но поже­лал напи­сать кни­гу, выдви­га­ю­щую транс­гу­ма­низм на пер­вый план – это Сай­мон Янг{{Саймон Янг(Simon Young) – автор кни­ги «Designer Evolution: A Transhumanist Manifesto”.}}, кото­рый нахо­дит­ся в чис­ле тех людей, от кого боль­шин­ство из нас пред­по­чло бы поско­рее дистан­ци­ро­вать­ся. (Лич­но мне кажет­ся, Prometheus Books{{Prometheus Books – изда­тель­ство, осно­ван­ное фило­со­фом Полом Кур­цем. Спе­ци­а­ли­зи­ру­ет­ся на науч­ной, гума­ни­сти­че­ской, секу­ля­рист­ской, сво­бо­до­мыс­ля­щей и скеп­ти­цист­ской лите­ра­ту­ре.}} ошиб­лись, опуб­ли­ко­вав «Мани­фест трансгуманиста».)

Я буду докла­ды­вать о транс­гу­ма­низ­ме на кон­фе­рен­ции AAP{{Австралазийская ассо­ци­а­ция фило­со­фии (Australasian Association of Philosophy, AAP) – наи­бо­лее вли­я­тель­ная фило­соф­ская орга­ни­за­ция Автра­лии, чья мис­сия состо­ит в раз­ви­тии фило­со­фии в Австра­лии, Новой Зелан­дии и Син­га­пу­ре}} в июле (мои тези­сы при­ня­ли), одна­ко и здесь я, веро­ят­но, буду сохра­нять неко­то­рую дистан­цию от него, кон­цен­три­ру­ясь ско­рее на про­бле­мах, кото­рые он под­ни­ма­ет. Хотя, пола­гаю, это счи­та­ет­ся за «ком­мен­та­тор­ство по про­бле­мам трансгуманизма».

В общем, я не спо­рю с тобой по это­му момен­ту, а ско­рее обсуж­даю его, как видишь, посколь­ку, на мой взгляд, ты зани­ма­ешь доволь­но силь­ную пози­цию, и отча­сти я попро­сту согла­сен с ней. Воз­мож­но, люди, вро­де меня, про­сто долж­ны орга­ни­зо­вать­ся вокруг IEET вме­сте с груп­пой инте­рес­ных кол­лег, одни из кото­рых рас­смат­ри­ва­ют себя в каче­стве транс­гу­ма­ни­стов, дру­гие же – нет. И воз­мож­но, у неко­то­рых из нас суще­ству­ют вес­кие осно­ва­ния «уйти с экра­на рада­ров», как гово­рит Сэм Хар­рис, т.е. избе­гать ярлы­ков и дви­же­ний и попро­сту рабо­тать над про­бле­ма­ми с раци­о­наль­ной точ­ки зре­ния. С дру­гой сто­ро­ны, я не счи­таю людей, вро­де Джейм­са [Хью­за] или Джу­лио Приско{{Джулио При­ско (Giulio Prisco)(род. 1957) – ита­льян­ский спе­ци­а­лист по инфор­ма­ци­он­ным тех­но­ло­ги­ям вир­ту­аль­ной реаль­но­сти, физик, писа­тель, футу­рист, транс­гу­ма­нист, сто­рон­ник крио­ни­ки.}}, кос­ми­че­ски­ми каде­та­ми. Даже о Мак­се Море или Ната­ше Вита-Мор (кото­рые мне весь­ма сим­па­тич­ны) я не думаю в подоб­ных выражениях.

Воз­мож­но, наста­ло вре­мя для ребят из IEET разо­брать­ся в себе насчёт все­го это­го – по край­ней мере, меж­ду собой – коль ско­ро это с такой оче­вид­но­стью при­хо­дит на ум мне, и коль ско­ро ты предо­став­ля­ешь столь вдум­чи­вую кри­ти­ку, а так­же, думаю, пото­му что речь об извеч­ном источ­ни­ке оза­бо­чен­но­сти для неко­то­рых людей из IEET, кото­рых назы­вать пря­мо я не ста­ну. С дру­гой стороны{{В ори­ги­на­ле «OTOH» — слен­го­вый интер­нет-акро­ним, “on the other hand”}}, вряд ли я решу отстра­нить­ся и ста­ну под­вер­гать напад­кам людей, кото­рых ценю, и убеж­де­ния, кото­рым сим­па­ти­зи­рую, как, похо­же, посту­па­ют неко­то­рые (см. мой исход­ный пост).

Твоё мне­ние и твоё мне­ние о чужих (веро­ят­ных) мне­ни­ях – это весо­мый вклад. Настоль­ко [весо­мый], что, воз­мож­но, тебе сто­ит опуб­ли­ко­вать его в каком-то более зна­чи­мом месте, а не про­сто сери­ей ком­мен­тов в чьём-то бло­ге. В силу гре­хов тво­их тяж­ких… эм, тру­дов тво­их пра­вед­ных… в каче­стве авто­ра науч­ной фан­та­сти­ки, мно­гие транс­гу­ма­ни­сты навер­ня­ка пита­ют к тебе гро­мад­ное ува­же­ние. Твои заме­ча­ния (мяг­ко выра­жа­ясь) насчёт это­го тер­ми­на и идей, ассо­ци­и­ру­ю­щих­ся с ним в широ­ком смыс­ле, заста­вят людей сесть и креп­ко подумать.

citizencyborg{{Ник Джейм­са Хью­за}} напи­сал:

При­вет, Грег и Рассел

Во-пер­вых, Грег, про­сти мне лёг­кий под­ха­ли­маж. Я боль­шой поклон­ник тво­их работ.

Что каса­ет­ся спо­ра о тер­мине «транс­гу­ма­низм» и его умест­но­сти, мы обсуж­да­ли эту про­бле­му в тече­ние всех шести лет, когда я пуб­лич­но высту­пал как транс­гу­ма­нист и лидер Все­мир­ной транс­гу­ма­ни­сти­че­ской ассоциации{{Всемирная транс­гу­ма­ни­сти­че­ская ассо­ци­а­ция (англ. World Transhumanist Association, сокр. WTA) — обще­ствен­ная непра­ви­тель­ствен­ная орга­ни­за­ция, высту­па­ю­щая в под­держ­ку тех­но­ло­гий, рас­ши­ря­ю­щих чело­ве­че­ские воз­мож­но­сти в широ­ком смыс­ле сло­ва. Орга­ни­за­ция под­дер­жи­ва­ет иссле­до­ва­ния, свя­зан­ные с уси­ле­ни­ем интел­лек­та чело­ве­ка, раз­ви­ти­ем его тела и улуч­ше­ни­ем каче­ства жиз­ни. С 2008 года носит назва­ние Humanity+.}}, и я частень­ко отме­чал сход­ство этих деба­тов с тем, как левые спо­рят об умест­но­сти тер­ми­на «соци­а­лизм». Как я и мои това­ри­щи посту­па­ли в слу­чае с левым акти­виз­мом, я скло­нен под­дер­жи­вать стра­те­ги­ческую тер­пи­мость и выстра­и­ва­ние коа­ли­ций вокруг важ­ней­ших идей и целей, при­зна­вая, что неко­то­рые люди в опре­де­лён­ных ситу­а­ци­ях могут испы­ты­вать дис­ком­форт от идео­ло­ги­че­ских ярлы­ков или орга­ни­за­ций, в то вре­мя, как дру­гие охот­но при­мут идео­ло­ги­че­ские тер­ми­ны для обо­зна­че­ния иден­тич­но­сти и в целях пар­тий­но­го стро­и­тель­ства (movement-building). Здра­вое дви­же­ние за бла­го­при­ят­ное для усо­вер­шен­ство­ва­ния чело­ве­ка буду­щее нуж­да­ет­ся в защит­ни­ках, откры­то при­зна­ю­щих себя “H+” и сози­да­ю­щих недву­смыс­лен­но “H+”-движение, но не менее того ему тре­бу­ют­ся люди, так­же высту­па­ю­щие за усо­вер­шен­ство­ва­ние, но не явля­ю­щи­е­ся непре­клон­ны­ми H+. Нере­ши­тель­ные интел­лек­ту­а­лы, поли­ти­ки, худож­ни­ки и писа­те­ли зача­стую ока­зы­ва­ют­ся имен­но в послед­ней кате­го­рии «попут­чи­ков», и это нор­маль­но. Вся шту­ка в том, что­бы не поз­во­лить нам встать в кру­жок и начать палить друг в дру­га. В этом и состо­ит одна из целей IEET, выстра­и­ва­ю­ще­го эту раз­мы­тую коалицию.

Что каса­ет­ся мыс­ли, буд­то тер­мин «транс­гу­ма­низм» име­ет у людей широ­кие кон­но­та­ции с «анти-чело­ве­че­ским», то мне это прав­дой не пока­за­лось. За послед­ние пять лет мне дово­ди­лось высту­пать на тему транс­гу­ма­низ­ма перед ауди­то­ри­я­ми в десят­ки тысяч чело­век, и мне попро­сту не встре­ча­лась подоб­ная реак­ция. Гораз­до чаще люди отме­ча­ют (абсо­лют­но умест­но и, ИМХО, это мож­но при­вет­ство­вать) связь с «транс­сек­су­аль­но­стью» или «транс­ген­де­риз­мом». Одна­ко сто­ит заме­тить, что боль­шин­ство из нас вполне созна­тель­но избе­га­ли «пост­гу­ма­низ­ма», и имен­но по той при­чине, что это под­ра­зу­ме­ва­ет, буд­то мы хотим поло­жить конец «чело­веч­но­сти», а вовсе не создать инклю­зив­ное и раз­но­об­раз­ное «тран­с­че­ло­ве­че­ское госу­дар­ствен­ное устройство».

Сло­ва не озна­ча­ют что-либо сами по себе (Вит­ген­штейн), но толь­ко вме­сте со сво­и­ми ассо­ци­а­ци­я­ми. В UK сле­ду­ют ассо­ци­а­ции с рас­су­ди­тель­ным д‑ром Бостро­мом, и [дви­же­ние] име­ет надёж­ный тыл в бри­тан­ских медиа, в Ита­лии транс­гу­ма­низм демо­ни­зи­ро­ва­ли как левац­кий заго­вор про­тив Церк­ви, в обла­сти Залива{{Область Зали­ва (англ. Bay area) — круп­ный кон­со­ли­ди­ро­ван­ный мет­ро­по­ли­тен­ский ста­ти­сти­че­ский аре­ал (агло­ме­ра­ция-конур­ба­ция) в Север­ной Кали­фор­нии, сфор­ми­ро­вав­ший­ся вокруг зали­ва Сан-Фран­цис­ко и назван­ный его име­нем.}} его рас­смат­ри­ва­ют (как сто­рон­ни­ки, так и кри­ти­ки) как либер­то­пию Крем­ни­е­вой Доли­ны, в Кве­бе­ке как гипе­ра­ме­ри­ка­низм, а в Ниге­рии и Кении – как Про­све­ще­ние на сте­ро­и­дах. Но для 99,9% жите­лей пла­не­ты это [сло­во] всё ещё абсо­лют­но ниче­го не значит.

Так что стра­те­ги­че­ски зна­чи­мые вопро­сы тако­вы: (1) нужен ли нам какой-либо тер­мин и (2) есть ли тер­мин получ­ше. Я счи­таю, что тер­мин нам нужен, посколь­ку идео­ло­ги­че­ская ТЗ{{точка зре­ния, в ори­ги­на­ле англ. POV, point-of-view}} и [соот­вет­ству­ю­щая] суб­куль­ту­ра суще­ству­ют, и как-то же их надо назы­вать, так что же с того? Было пред­ло­же­но мно­же­ство аль­тер­на­тив, и одна из тех, к кото­рым тяго­тел IEET, — это «тех­но­про­грес­си­визм», не в каче­стве заме­ны для транс­гу­ма­низ­ма, хотя зача­стую людям про­ще назы­вать себя тех­но­про­грес­си­ви­ста­ми, неже­ли H+. Одна­ко как тех­но­про­грес­си­визм опре­де­ля­ют ряд лево­цен­трист­ских с поли­ти­че­ской точ­ки зре­ния тех­но­по­зи­ти­вист­ских взгля­дов, вклю­чая левое кры­ло транс­гу­ма­низ­ма, а транс­гу­ма­низм шире, это менее спе­ци­фич­ный набор идей. По-види­мо­му, подоб­ные тер­ми­ны из диа­грам­мы Венна{{Диаграмма Вен­на (так­же исполь­зу­ет­ся назва­ние «диа­грам­ма Эйле­ра —Вен­на») — схе­ма­тич­ное изоб­ра­же­ние всех воз­мож­ных отно­ше­ний (объ­еди­не­ние, пере­се­че­ние, раз­ность, сим­мет­ри­че­ская раз­ность) несколь­ких (часто — трёх) под­мно­жеств уни­вер­саль­но­го мно­же­ства. На диа­грам­мах Вен­на уни­вер­саль­ное мно­же­ство {\displaystyle U}  изоб­ра­жа­ет­ся мно­же­ством точек неко­то­ро­го пря­мо­уголь­ни­ка, в кото­ром рас­по­ла­га­ют­ся в виде кру­гов или дру­гих про­стых фигур все осталь­ные рас­смат­ри­ва­е­мые мно­же­ства.}} будут множиться.

Как бы там ни было, Грег, думаю, тебе не удаст­ся отвер­теть­ся от ста­ту­са свя­то­го покро­ви­те­ля транс­гу­ма­ни­стов, чок­ну­тые они или нет. Поста­ра­ем­ся, что­бы за нас не при­шлось краснеть.

Дж. Хьюз

http://ieet.org

Грег Иган напи­сал:

Спа­си­бо за ком­мен­та­рии, Джеймс. Я крайне удив­лён, но если ты гово­ришь, что не обна­ру­жил нега­ти­ва к исполь­зо­ва­нию это­го сло­ва перед широ­кой ауди­то­ри­ей, мне оста­ёт­ся толь­ко при­нять твой опыт. Я по-преж­не­му убеж­дён, что при­дур­ков, поже­лав­ших вос­поль­зо­вать­ся тем же ярлы­ком, что и вы, намно­го боль­ше, но, воз­мож­но, в ито­ге, в дол­гой пер­спек­ти­ве, тер­мин при­об­ре­тёт более респек­та­бель­ные кон­но­та­ции, если и когда он уко­ре­нит­ся в повсе­днев­ном языке.

Грег Иган напи­сал:

Цита­та Анонима:

Я могу целую стра­ни­цу испи­сать тако­го рода вопросами{{Вроде «Долж­ны ли люди исполь­зо­вать тех­но­ло­гии для улуч­ше­ния соб­ствен­ной жиз­ни?» или «Явля­ет­ся ли про­дле­ние жиз­ни жела­тель­ным?» (прим. перев.)}}, и если вы отве­ти­ли утвер­ди­тель­но хотя бы на един­ствен­ный из них, то, на мой взгляд, к вам с пол­ным осно­ва­ни­ем мож­но при­кле­ить ярлы­чок «транс­гу­ма­нист».

Так мило, когда кто-то, даже под­пи­сать­ся отка­зы­ва­ю­щий­ся под соб­ствен­ным мне­ни­ем, гово­рит, что если я верю в сколь­ко-то бла­го­твор­ную роль тех­но­ло­гий, то авто­ма­ти­че­ски ста­нов­люсь залож­ни­ком убеж­де­ний и пове­де­ния десят­ков тысяч дру­гих людей, с кото­ры­ми обще­го у меня это, и толь­ко это [убеж­де­ние].

Ваше срав­не­ние с обла­стью физи­ки попро­сту пред­по­ла­га­ет ров­но то, что вы пыта­е­тесь дока­зать: что сло­во «транс­гу­ма­низм» уже суще­ству­ет в каче­стве интел­лек­ту­аль­но респек­та­бель­но­го ярлы­ка для любой фор­мы поло­жи­тель­но­го отно­ше­ния к это­му боль­шо­му собра­нию идей. Имен­но это утвер­жде­ние и явля­ет­ся пред­ме­том спо­ра, и вы не предо­став­ля­е­те ника­ких дока­за­тельств в его поддержку.

Цита­та Анонима:

Може­те ли вы ска­зать что-либо кон­струк­тив­ное, вме­сто пред­ло­же­ния все­му дви­же­нию убить­ся ещё до того, как у него появит­ся воз­мож­ность как-то себя проявить?

Меня вовсе не инте­ре­су­ет «уби­ва­ние» чего бы то ни было. Тех­но­ло­гии, кото­рые мы тут обсуж­да­ем, про­дол­жат оста­вать­ся пред­ме­том дис­кус­сий, и те из них, кото­рые мож­но реа­ли­зо­вать, будут реа­ли­зо­ва­ны, вне зави­си­мо­сти от того, про­дол­жа­ет ли кто-то назы­вать себя «транс­гу­ма­ни­стом». Что я оспа­ри­ваю, так это разум­ность само­го сло­ва, учи­ты­вая внут­ренне ему при­су­щие каче­ства, а так­же боль­шое коли­че­ство при­няв­ших его людей, кото­рые при­вно­сят намно­го боль­ший багаж [кон­но­та­ций], неже­ли поло­жи­тель­ное отно­ше­ние к исход­ным утвер­жде­ни­ям отно­си­тель­но про­дле­ния жиз­ни из кон­троль­но­го списка.

Когда я вижу сло­во «транс­гу­ма­нист» вне кон­тек­ста, его эти­мо­ло­гия пред­по­ла­га­ет «выход по ту сто­ро­ну» того, что явля­ет­ся чело­ве­ком. Ну, а сло­во «чело­век» сто­ле­ти­я­ми под­вер­га­лось над­ру­га­тель­ству со сто­ро­ны людей, кото­рые хоте­ли бы заузить его опре­де­ле­ние, что­бы исклю­чить из него соб­ствен­ных вра­гов, одна­ко мне (не гово­ря уж о широ­кой пуб­ли­ке) оно не кажет­ся уни­жен­ным до той сте­пе­ни, что­бы опи­сы­вать состо­я­ние, от кото­ро­го каж­дый бы хотел запро­сто отмах­нуть­ся. Вопре­ки это­му, Джеймс Хьюз и неко­то­рые дру­гие пред­по­ло­жи­ли, что для боль­шин­ства людей это сло­во по-преж­не­му ниче­го не зна­чит, и пото­му ему мож­но дать опре­де­ле­ние в доб­ро­же­ла­тель­ном клю­че. Я не при­тво­ря­юсь, буд­то у меня есть одно­знач­ный ответ, про­сто делюсь соб­ствен­ны­ми впе­чат­ле­ни­я­ми, не боль­ше, не меньше.

Не думаю, что кто-то может оспо­рить суще­ство­ва­ние поло­ум­ных, назы­ва­ю­щих себя транс­гу­ма­ни­ста­ми… но ведь суще­ству­ют так­же поло­ум­ные, кото­рые назы­ва­ют себя любым дру­гим тер­ми­ном, кото­рый мы, воз­мож­но, хоте­ли бы сохра­нить для людей здра­во­мыс­ля­щих. Так что вопрос для меня заклю­ча­ет­ся в том, есть ли тут что-либо, с раци­о­наль­ной точ­ки зре­ния, что тре­бу­ет отдель­но­го обозначения.

Что­бы вне­сти ясность, я толь­ко за то, что­бы люди обсуж­да­ли пре­иму­ще­ства, эти­че­ские момен­ты и опас­но­сти всех, даже самых диких сце­на­ри­ев, и, в неко­то­ром смыс­ле, это про­сто заме­ча­тель­но, что ведут­ся дис­кус­сии, где к иде­ям даже из самых спе­ку­ля­тив­ных обла­стей НФ отно­сят­ся все­рьёз. Одна­ко, не поте­ряв пока ещё свя­зи с реаль­но­стью, в плане отли­чия НФ-идей от неиз­беж­но­го раз­ви­тия тех­но­ло­гий, я вовсе не горю жела­ни­ем при­ме­нять к себе обо­зна­че­ние, бла­го­да­ря кото­ро­му ста­ну ассо­ци­и­ро­вать­ся с тыся­ча­ми людей, кото­рые явно уже поте­ря­ли спо­соб­ность про­ве­сти такое различие.

Хотя лич­но я в любом слу­чае прак­ти­че­ски ниче­го не теряю; ока­зать­ся огуль­но зачис­лен­ным в ком­па­нию поло­ум­ных – мой про­фес­си­о­наль­ный риск. Дей­стви­тель­но важ­ная став­ка на кону, — это не ока­жут­ся ли, вслед­ствие попа­да­ния под общий зон­тик с «транс­гу­ма­ни­ста­ми», реа­ли­стич­ные пред­по­ло­же­ния отно­си­тель­но бла­го­твор­ных тех­но­ло­гий запят­на­ны ассо­ци­а­ци­я­ми с пусто­по­рож­ни­ми иде­я­ми и вре­до­нос­ны­ми повест­ка­ми, кото­рые в насто­я­щий момент делят друг с дру­гом этот зон­тич­ный термин.

Robin напи­са­ла:

Я рас­смат­ри­ваю любо­го, кто верит в воз­мож­ность загруз­ки как поло­ум­но­го, или, по самой мень­шей мере, тра­ги­че­ски дез­ин­фор­ми­ро­ван­но­го отно­си­тель­но устрой­ства мира. «Поло­ум­ный» зву­чит слиш­ком уж злоб­но, я искренне пред­по­чи­таю счи­тать, что люди не демон­стри­ру­ют пред­на­ме­рен­ное неве­же­ство на эту тему, но заблуж­де­ния, спо­соб­ству­ю­щие рас­про­стра­не­нию этой идеи, поис­ти­не тра­гич­ны. (Я при­тор­ма­жи­ваю недо­ве­рие, когда читаю науч­ную фан­та­сти­ку, или неко­то­рые из луч­ших книг и рас­ска­зов, где фигу­ри­ру­ет это допу­ще­ние, но хоро­ши­ми эти исто­рии явля­ют­ся пото­му, что побуж­да­ют нас зада­вать­ся вопро­са­ми отно­си­тель­но мета­фи­зи­ки тела и разу­ма, и бро­са­ют вызов и про­буж­да­ют фило­соф­ское вооб­ра­же­ние, а не пото­му что наме­ча­ют дорож­ную кар­ту наше­го будущего.)

Грег Иган напи­сал:

Цита­та Robin:

Я рас­смат­ри­ваю любо­го, кто верит в воз­мож­ность загруз­ки как поло­ум­но­го, или, по самой мень­шей мере, тра­ги­че­ски дез­ин­фор­ми­ро­ван­но­го отно­си­тель­но устрой­ства мира.

Было бы любо­пыт­но узнать, поче­му вы в этом настоль­ко уве­ре­ны. Я опре­де­лён­но не вооб­ра­жаю, буд­то какая бы то ни было дей­ствен­ная фор­ма загруз­ки неиз­беж­на [к реа­ли­за­ции], но что она невоз­мож­на в прин­ци­пе – это намно­го более силь­ное утверждение.

Робин напи­са­ла:

Я осо­знаю, что это очень силь­ное заяв­ле­ние, но я думаю, что сама кон­цеп­ция несо­сто­я­тель­на и демон­стри­ру­ет скры­тое убеж­де­ние в дуа­лиз­ме тела и разу­ма, а оши­боч­ность это­го фун­да­мен­таль­на и очень важ­на. Очень поне­мно­гу, но учё­ные-когни­ти­ви­сты нако­нец-то начи­на­ют при­зна­вать, что тело – это не про­сто «желе­зо», на кото­ром испол­ня­ет­ся «софт» разу­ма. Вме­сто это­го оно созда­ёт само осно­ва­ние и воз­мож­ность разу­ма вооб­ще. (Я бы ска­за­ла, Лакофф{{Джордж Лакофф (Лей­кофф) (англ. George Lakoff) (род. 1941) — аме­ри­кан­ский линг­вист, про­фес­сор когни­тив­ной линг­ви­сти­ки в Кали­фор­ний­ском уни­вер­си­те­те в Берк­ли. В 1990—1993 годах — пре­зи­дент Меж­ду­на­род­ной ассо­ци­а­ции когни­тив­ной линг­ви­сти­ки. Изве­стен сво­и­ми иде­я­ми о цен­траль­ной роли мета­фо­ры в мыш­ле­нии инди­ви­да, поли­ти­че­ском пове­де­нии и обще­ствен­ной жиз­ни.}} и Джонсон{{Марк Джон­сон (Mark L. Johnson) (род 1949) – аме­ри­кан­ский фило­соф и линг­вист, про­фес­сор фило­со­фии в Уни­вер­си­те­те Оре­го­на, соав­тор Джор­джа Лакоф­фа. Изве­стен вкла­дом в фило­со­фию телес­но­го вопло­ще­ния (embodied philosophy), когни­тив­ную нау­ку и когни­тив­ную линг­ви­сти­ку, так­же спе­ци­а­лист по эти­ке и фило­со­фии Джо­на Дьюи и Имма­ну­и­ла Кан­та.}}, а так­же рабо­ты Анто­нио Дамасио{{Антонио Дама­сио (порт. António Damásio) (род. 1944) – пор­ту­га­ло-аме­ри­кан­ский ней­ро­био­лог. Про­фес­сор пси­хо­ло­гии, фило­со­фии и ней­ро­ло­гии Уни­вер­си­те­та Южной Кали­фор­нии, адъ­юнкт-про­фес­сор в Инсти­ту­те Сол­ка. Автор ори­ги­наль­ной тео­рии созна­ния.}} боль­ше все­го повли­я­ли на меня в этом плане.)  Идея загруз­ки разу­ма толь­ко под­креп­ля­ет убеж­де­ние, буд­то разу­мы и тела – это фун­да­мен­таль­но раз­лич­ные типы вещей, а этот взгляд, к сожа­ле­нию, глу­бо­ко уко­ре­нён в англий­ском язы­ке и запад­ных куль­ту­рах со вре­мён Декар­та, и в то же вре­мя попро­сту неправилен.

Наде­юсь, не назва­ла вас слу­чай­но поло­ум­ным, пото­му что «Город пере­ста­но­вок» был пер­вой вашей рабо­той, кото­рую я про­чи­та­ла (во вре­мя изу­че­ния фило­со­фии науч­ной фан­та­сти­ки где-то в 1995 году), и настоль­ко влю­би­лась в эту кни­гу, что, пом­нит­ся, посла­ла вам элек­трон­ное пись­мо, что­бы выра­зить своё вос­хи­ще­ние (что я дела­ла толь­ко в ваш адрес и в адрес Мар­ви­на Мин­ско­го {{Мар­вин Ли Мин­ский (англ. Marvin Lee Minsky) (1927 – 2016) — аме­ри­кан­ский учё­ный в обла­сти искус­ствен­но­го интел­лек­та, соос­но­ва­тель Лабо­ра­то­рии искус­ствен­но­го интел­лек­та в Мас­са­чу­сет­ском тех­но­ло­ги­че­ском инсти­ту­те. Автор фун­да­мен­таль­ных работ по тео­рии искус­ствен­ных ней­рон­ных сетей. Энту­зи­аст крио­ни­ки.}}!) Как уже ска­за­ла, сама идея изу­ми­тель­на, по той при­чине, что застав­ля­ет нас обсуж­дать, како­во бы это было, если бы подоб­ные сце­на­рии ста­ли прав­дой. (Осе­нью я читаю курс, кото­рый назы­ва­ет­ся «Искус­ствен­ный интел­лект: факт и вымы­сел» (Artificial Intelligence in Fact and Fiction), и наде­юсь вклю­чить туда несколь­ко ваших работ, таких, как «Учись быть мною» (Learning to Be Me), о кото­ром я рас­ска­зы­ва­ла на сво­их семи­на­рах вве­де­ния в фило­со­фию все эти 8 лет.)

Я знаю, моё утвер­жде­ние весь­ма спор­ное, и ни в коем слу­чае не явля­ет­ся оче­вид­ным или взгля­дом, при­ни­ма­е­мым по умол­ча­нию, но после столь­ких лет рабо­ты в когни­тив­ной нау­ке загруз­ка мне кажет­ся попро­сту не более состо­я­тель­ной, неже­ли кон­цеп­ции зом­би или Рая.

Грег Иган напи­сал:

Цита­та Робин:

учё­ные-когни­ти­ви­сты нако­нец-то начи­на­ют при­зна­вать, что тело – это не про­сто «желе­зо», на кото­ром испол­ня­ет­ся «софт» разу­ма. Вме­сто это­го оно созда­ёт само осно­ва­ние и воз­мож­ность разу­ма вообще

Чест­но гово­ря, поня­тия не имею, что это озна­ча­ет. Если вы про­сто под­чёр­ки­ва­е­те тот момент, что чело­ве­че­ский разум (mind) явля­ет­ся про­дук­том широ­ко­го био­ло­ги­че­ско­го, эво­лю­ци­он­но­го и соци­аль­но­го кон­тек­ста, и его невоз­мож­но понять вне это­го кон­тек­ста, я согла­сен с вами на 100%. Но все пред­став­ле­ния о загруз­ке, кро­ме самых наив­ных, вклю­ча­ют при­ло­же­ние опре­де­лён­ных уси­лий для вос­про­из­ве­де­ния это­го кон­тек­ста, и в пре­дель­ном слу­чае тех­но­ло­гий доста­точ­но далё­ко­го буду­ще­го не суще­ству­ет како­го бы то ни было физи­че­ско­го прин­ци­па, не поз­во­ля­ю­ще­го загру­зить так­же всё, спо­соб­ное ока­зы­вать кау­заль­ное вли­я­ние на мозг, тело и пове­де­ние дан­ной лич­но­сти. В таком пре­де­ле мы мог­ли бы даже пой­ти навстре­чу Род­же­ру Пен­ро­у­зу и создать симу­ля­цию все­го (тела инди­ви­да и его непо­сред­ствен­но­го окру­же­ния вплоть до атом­но­го уров­ня) на кван­то­вом компьютере.

Что­бы сде­лать наи­бо­лее изощ­рён­ные фор­мы загруз­ки невоз­мож­ны­ми на веки веч­ные, вам, на самом деле, при­дёт­ся наста­и­вать, что лишь био­хи­мия чело­ве­че­ско­го моз­га, и толь­ко она одна, спо­соб­на порож­дать чело­ве­че­ский субъ­ек­тив­ный опыт – или же, если вы допус­ка­е­те опре­де­лён­ный уро­вень заме­ще­ний, то вам при­дёт­ся пред­ло­жить некие осно­ва­ния, по кото­рым одни моди­фи­ка­ции остав­ля­ют наш опыт нетро­ну­тым, тогда как дру­гие – нет.

Так что, пола­гаю, я и прав­да поло­ум­ный, соглас­но ваше­му опре­де­ле­нию, но не бес­по­кой­тесь, абсо­лют­но без обид. Неко­то­рые люди не дове­ря­ют гипо­те­зе силь­но­го ИИ, и если они уже обду­ма­ли [воз­ни­ка­ю­щие] труд­но­сти, как это, оче­вид­но, сде­ла­ли вы, я мало что могу им ска­зать. Хотя суще­ству­ют мыс­лен­ные экс­пе­ри­мен­ты в её поль­зу, кото­рые я нахо­жу убе­ди­тель­ны­ми, фак­ти­че­ских дока­за­тельств ни за, ни про­тив неё нет – и я даже не уве­рен, что имен­но мог­ло бы послу­жить дока­за­тель­ством – так что тут мало что мож­но поде­лать, толь­ко согла­сить­ся или не согласиться.

Робин напи­са­ла:

На самом деле, я не счи­таю, что мы рас­хо­дим­ся настоль­ко силь­но, как вы мог­ли поду­мать. Я вовсе не спи­сы­ва­ла со сче­тов гипо­те­зу силь­но­го ИИ, но искренне убеж­де­на, что прак­ти­че­ски никто не при­ме­ня­ет к про­бле­ме под­ход, спо­соб­ный при­ве­сти к успе­ху. Когда я гово­рю о важ­но­сти телес­но­сти, я имею в виду, что наши абстракт­ные поня­тия и сама раци­о­наль­ность воз­мож­ны толь­ко лишь пото­му, что мы обла­да­ем имен­но таким типом тел, каким обла­да­ем (не хими­че­ски, но струк­тур­но). Абстракт­ное мыш­ле­ние нашло при­ме­не­ние уже суще­ство­вав­шим ней­раль­ным струк­ту­рам, и таким обра­зом мы кон­цеп­ту­а­ли­зи­ру­ем абстракт­ные поня­тия при помо­щи сен­сор­но-мотор­ных путей. В ней­ро­на­уч­ной лите­ра­ту­ре про­де­ла­на боль­шая рабо­та по этой теме, а саму идею неко­то­рые фило­со­фы выска­зы­ва­ли по мень­шей мере ещё 25 лет назад.

Итак, я пола­гаю, что глав­ное раз­ли­чие в наших мне­ни­ях отно­си­тель­но загруз­ки состо­ит в том, что, я бы ска­за­ла, она отли­ча­ет­ся от силь­но­го ИИ — силь­ный ИИ это идея, соглас­но кото­рой воз­мож­но создать новый разум на дру­гом типе систе­мы. До тех пор, пока мы начи­на­ем с реаль­но­го физи­че­ско­го тела в реаль­ном мире, я пола­гаю, что это воз­мож­но. (В про­тив­ном слу­чае я бы ока­за­лась сто­рон­ни­цей чего-то в духе вол­шеб­но­го угле­ро­да, что навер­ня­ка пре­вра­ща­ло бы меня в поло­ум­ную.) Но загруз­ка — это нечто иное, она под­ра­зу­ме­ва­ет не толь­ко [воз­мож­ность] порвать с телес­но­стью вооб­ще, но ещё и ту идею, что речь не про­сто о КАКОМ-ТО созна­нии внут­ри маши­ны, но неким обра­зом о ВАШЕМ созна­нии внут­ри маши­ны. Ваше созна­ние — это на самом деле часть ваше­го тела, а не про­сто ката­ет­ся в нём, как дух в машине.

Не мне судить, име­ет ли выше­ска­зан­ное смысл, посколь­ку сей­час почти 5 часов утра, а я не спа­ла несколь­ко дней, пото­му что писа­ла гла­вы для дис­сер­та­ции, но наде­юсь, что изло­жи­ла свою (опре­де­лён­но нестан­дарт­ную, но, на мой взгляд, вполне снос­ную) точ­ку зре­ния внят­но. ИИ — опре­де­лён­но да; загруз­ка — без­ого­во­роч­но нет.

Грег Иган напи­сал:

Робин, пожа­луй­ста, не отве­чай­те на этот пост, пока стра­да­е­те от недо­сы­па и заня­то­сти, но (умо­ляя наше­го хозя­и­на о снис­хож­де­нии) мне было бы инте­рес­но со вре­ме­нем услы­шать ваши впе­чат­ле­ния о раз­но­го рода «аргу­мен­тах замещения»{{Аргументы (посте­пен­но­го) заме­ще­ния — линия аргу­мен­та­ции сто­рон­ни­ков загруз­ки, постро­ен­ная на осо­бом типе мыс­лен­ных экс­пе­ри­мен­тов, в кото­рых физи­че­ский суб­страт лич­но­сти (напри­мер, ней­ро­ны голов­но­го моз­га) посте­пен­но заме­ня­ют­ся сво­и­ми искус­ствен­ны­ми ана­ло­га­ми, при этом пред­ла­га­ет­ся отсле­дить про­ис­хо­дя­щие с субъ­ек­том и его иден­тич­но­стью мета­мор­фо­зы. Аргу­мен­ты заме­ще­ния мож­но про­сле­дить как мини­мум до вто­рой поло­ви­ны 50‑х годов XX века, см., напри­мер, фило­соф­ско-футу­ро­ло­ги­че­ские трак­та­ты С. Лема «Диа­ло­ги» и «Сум­ма тех­но­ло­гии».}}. К при­ме­ру, Ханс Моравек{{Ханс Мора­век (Hans Peter Moravec) (род. 1948) — адъ­юнкт-пре­по­да­ва­тель Инсти­ту­та робо­то­тех­ни­ки Уни­вер­си­те­та Кар­не­ги-Мел­лон, Питтс­бург, США. Аме­ри­кан­ский иссле­до­ва­тель в обла­сти робо­то­тех­ни­ки, искус­ствен­но­го интел­лек­та, футу­ро­лог. «Аргу­мен­ты заме­ще­ния» пред­ло­же­ны, в част­но­сти, в его рабо­те 1988 г. «Mind Children», где рас­смот­ре­ны пер­спек­ти­вы искус­ствен­но­го интел­лек­та в све­те экс­тра­по­ля­ции зако­на Мура.}} пред­ла­га­ет поду­мать, что, по наше­му мне­нию, мог­ло бы про­изой­ти, заме­ни мы раз­лич­ные части нашей цен­траль­ной нерв­ной систе­мы про­те­зи­ру­ю­щи­ми под­си­сте­ма­ми, спо­соб­ны­ми выда­вать те же био­хи­ми­че­ские выход­ные сиг­на­лы в ответ на те же самые вход­ные сиг­на­лы. Пере­стаю ли я быть собой от про­те­зи­ро­ва­ния одно­го-един­ствен­но­го ней­ро­на? Пере­стаю ли быть чело­ве­ком? Пере­стаю ли быть созна­тель­ным? А что насчёт 10, 100 и т.д.?

Цита­та Робин:

Абстракт­ное мыш­ле­ние нашло при­ме­не­ние уже суще­ство­вав­шим ней­раль­ным струк­ту­рам, и таким обра­зом мы кон­цеп­ту­а­ли­зи­ру­ем абстракт­ные поня­тия при помо­щи сен­сор­но-мотор­ных путей.

Уве­рен, так и есть, но что убеж­да­ет вас в том, что загруз­ка не мог­ла бы сохра­нить сен­сор­но-мотор­ные пути? Если дело не в вол­шеб­ном угле­ро­де, а в струк­ту­ре, кото­рая дела­ет сен­сор­но-мотор­ные пути тем, чем они явля­ют­ся, тогда поче­му загруз­ка не спо­соб­на содер­жать нечто, обла­да­ю­щее теми же кау­заль­ны­ми свой­ства­ми, что и эти пути, и теми же вза­и­мо­от­но­ше­ни­я­ми с телес­но­стью (или [её] неот­ли­чи­мым заме­ни­те­лем) и миром (или [его] неот­ли­чи­мым заменителем).

Энни Кор­вин{{Энни Кор­вин (Anne Corwin) — инже­нер (диплом Кали­фор­ний­ско­го поли­тех­ни­че­ско­го госу­дар­ствен­но­го уни­вер­си­те­та), бло­гер по тема­ти­ке нау­ки, тех­но­ло­гий, био­э­ти­ки, про­дле­ния жиз­ни, акти­вист­ка Фон­да Мафу­са­и­ла. https://lifeboat.com/ex/bios.anne.corwin}} напи­са­ла:

Цита­та Гре­га Игана:

К при­ме­ру, Ханс Мора­век пред­ла­га­ет поду­мать, что, по наше­му мне­нию, мог­ло бы про­изой­ти, заме­ни мы раз­лич­ные части нашей цен­траль­ной нерв­ной систе­мы про­те­зи­ру­ю­щи­ми под­си­сте­ма­ми, спо­соб­ны­ми выда­вать те же био­хи­ми­че­ские выход­ные сиг­на­лы в ответ на те же самые вход­ные сиг­на­лы. Пере­стаю ли я быть собой от про­те­зи­ро­ва­ния одно­го-един­ствен­но­го ней­ро­на? Пере­стаю ли быть чело­ве­ком? Пере­стаю ли быть созна­тель­ным? А что насчёт 10, 100 и т.д.?

Пони­маю, что вы обра­ща­е­тесь к Робин, так что наде­юсь, моё вме­ша­тель­ство не пока­жет­ся грубым/бесцеремонным, но мой взгляд на пред­став­лен­ные выше вопро­сы таков: Мы не зна­ем, что слу­чит­ся в резуль­та­те заме­ны раз­лич­ных частей наше­го моз­га про­те­зи­ру­ю­щи­ми фраг­мен­та­ми. И не думаю, что узна­ем, пока это не ста­нет более дости­жи­мым по мере раз­ре­ше­ния труд­но­стей, вро­де инфек­ций, оттор­же­ния ино­род­ных мате­ри­а­лов, про­блем с интер­фей­сом и т. д.

Я инже­нер-элек­трик, а не когни­ти­вист или ней­ро­учё­ный, так что моё мне­ние не сто­ит пере­оце­ни­вать, но вопро­сы, кото­рые все­гда высту­па­ют для меня [на пер­вый план] при рас­суж­де­ни­ях о воз­мож­но­сти «ней­рон­но­го про­те­зи­ро­ва­ния» — это прак­ти­че­ские вопросы.

То есть, думаю, мы упёр­лись в сво­е­го рода сте­ну в плане того, что мы можем экс­тра­по­ли­ро­вать из экс­пе­ри­мен­тов с кры­си­ны­ми ней­ро­на­ми, под­со­еди­нён­ны­ми к элек­тро­ни­ке, кохле­ар­ны­ми имплан­та­ми и т.д. Мне кажет­ся, есть боль­шой зазор меж­ду извест­ны­ми нам воз­мож­но­стя­ми и все­ми эти­ми теоретическими/воображаемыми сце­на­ри­я­ми, воз­ни­ка­ю­щи­ми в науч­ной фан­та­сти­ке или интер­нет-дис­кус­си­ях о «загруз­ке созна­ния» и т.д.

Что каса­ет­ся меня, то, для нача­ла, сам вопрос о воз­мож­но­сти «загруз­ки» даже не явля­ет­ся науч­ным (подо­зре­ваю, Робин охот­но бы с этим согла­си­лась, учи­ты­вая её ака­де­ми­че­ский бэк­гра­унд). Что­бы про­бле­ма была науч­но раз­ре­ши­мой, долж­ны суще­ство­вать какие-то спо­со­бы набо­ра [экс­пе­ри­мен­таль­ных] дан­ных, а когда дан­ные уже собра­ны, необ­хо­ди­ма воз­мож­ность после­до­ва­тель­но вне­сти их в модель, кото­рая эффек­тив­но пред­ска­зы­ва­ет или объ­яс­ня­ет собы­тия в реаль­ном мире. А пря­мо сей­час у нас даже нет спо­со­ба собрать дан­ные о воз­дей­стви­ях про­дви­ну­тых ней­раль­ных про­те­зов на чело­ве­че­ское субъ­ек­тив­ное самосознание.

Итак, на дан­ный момент воз­ни­ка­ет вопрос: в рам­ках какой дея­тель­но­сти сбор таких дан­ных будет наи­бо­лее осмысленным?

Я пол­но­стью за иссле­до­ва­ния, и счи­таю иссле­до­ва­ния моз­га одной из самых инте­рес­ных сфер, кото­рые раз­ви­ва­ют­ся пря­мо сей­час. Не вижу ника­ких при­зна­ков, что мы, люди, в сколь­ко-то близ­ком вре­ме­ни пере­ста­нем возить­ся с наши­ми сен­сор­ны­ми интер­фей­са­ми или изу­чать мыш­ле­ние. Кро­ме того, мне видит­ся гро­мад­ный потен­ци­ал этих иссле­до­ва­ний в плане помо­щи людям, стра­да­ю­щим от моз­го­вых травм или дру­гих про­блем, и я знаю, что дале­ко не толь­ко я вижу этот потенциал.

Я имею в виду, насто­я­щие учё­ные уже рабо­та­ют над этим пря­мо сей­час! Не похо­же, что суще­ству­ет гро­мад­ная нуж­да убеж­дать людей начать иссле­до­вать мозг, или при­со­еди­нять чипы к моз­гам, или делать ещё что-то спо­соб­ству­ю­щее сбо­ру науч­ной инфор­ма­ции о том, как рабо­та­ют моз­ги (и о том, что про­ис­хо­дит, когда мы изме­ня­ем то, как они работают).

Всё это уже происходит.

И, откро­вен­но гово­ря, я попро­сту не вижу, как вопро­сы о «тоталь­ной загруз­ке созна­ния» или «циф­ро­вом бес­смер­тии» добав­ля­ют что-либо к насто­я­ще­му науч­но­му поис­ку дан­ных о моз­ге или его пла­стич­но­сти и потен­ци­а­ле. Эти вопро­сы опре­де­лён­но име­ют зна­че­ние, когда ста­но­вят­ся на служ­бу фило­со­фии или твор­че­ской лите­ра­ту­ры, но мне не кажет­ся, что литературное/эстетическое/философское зна­че­ние под­ра­зу­ме­ва­ет важ­ность (тем более «чрез­вы­чай­ную» важ­ность) для реаль­ной поли­ти­ки или вопро­сов финансирования.

Так что, думаю, пре­да­вать­ся твор­че­ским спе­ку­ля­ци­ям отно­си­тель­но загруз­ки или интер­фей­сов мозг-маши­на — это всё очень хоро­шо. И так­же, само собой, я пола­гаю, что про­сто заме­ча­тель­но реаль­но рабо­тать в таких обла­стях, как когни­тив­ная ней­ро­на­у­ка. Но пола­гать, буд­то «загруз­ка» обла­да­ет какой-то непо­сред­ствен­ной акту­аль­но­стью (поли­ти­че­ской, эко­но­ми­че­ской или какой бы то ни было ещё)?

Зови­те это «недо­стат­ком вооб­ра­же­ния», если хоти­те, но мне труд­но раз­гля­деть, на что ещё это может при­го­дить­ся, кро­ме как для фило­соф­ской бесе­ды на дру­же­ских посиделках.

Изна­чаль­но я так себе и пред­став­ля­ла суть транс­гу­ма­низ­ма — нечто вро­де фору­ма для людей, кото­рым нра­вит­ся ста­вить забав­ные мыс­лен­ные экс­пе­ри­мен­ты. Но теперь я даже и не знаю, что это такое, или чем он хочет быть, и изнут­ри меня про­сто всю пере­дёр­ги­ва­ет, когда вижу людей, столь пла­мен­но пыта­ю­щих­ся отсто­ять его в каче­стве идео­ло­гии.  В смыс­ле, да, я и сама могу вре­ме­на­ми при­ни­мать обо­ро­ни­тель­ную стой­ку (в част­но­сти, когда дело каса­ет­ся про­блем, свя­зан­ных с аутиз­мом), но, насколь­ко мне извест­но, никто не соби­ра­ет голо­са в обще­го­су­дар­ствен­ной кам­па­нии за то, что­бы «лечить» транс­гу­ма­ни­стов, даже если они сами не счи­та­ют себя «боль­ны­ми».

Отча­сти я начи­наю заду­мы­вать­ся, а не могут ли недав­ние и наи­бо­лее про­ти­во­ре­чи­вые «транс­гу­ма­ни­сти­че­ские ини­ци­а­ти­вы» быть резуль­та­том попы­ток неко­то­рых людей най­ти своё место в мире, при­чём те осо­зна­ют, что луч­шее, что они уме­ют, — это раз­гля­ды­вать клё­вые бле­стя­щие шту­ко­ви­ны и писать о них (или фило­соф­ство­вать о про­дви­ну­тых робо­тах и их воз­мож­ном пове­де­нии), — и исполь­зу­ют име­ю­щи­е­ся в их рас­по­ря­же­нии соци­о­эко­но­ми­че­ские сред­ства, что­бы сов­ме­стить свои увле­че­ния со сред­ства­ми дости­же­ния благосостояния.

На самом деле, я в неко­то­ром роде им даже сочув­ствую, но в то же вре­мя мне это видит­ся чем-то потен­ци­аль­но контр­про­дук­тив­ным, посколь­ку, хоть эти люди и испы­ты­ва­ют оче­вид­ное отвра­ще­ние к кор­по­ра­тив­ным «кры­си­ным бегам», они всё же могут непред­на­ме­рен­но поспо­соб­ство­вать укреп­ле­нию куль­ту­ры этих «кры­си­ных бегов».

Грег Иган написал:

Цита­та Майк­ла Аниссимова:

Грег и дру­гие, загуг­ли­те «seed AI LOGI», про­чи­тай­те пара­граф и ска­жи­те, кажет­ся ли вам это про­из­ве­де­ни­ем полоумного.

Этот раз­дел чер­но­ви­ка статьи{{Имеется в виду ста­тья Yudkowsky, Eliezer. 2007. “Levels of Organization in General Intelligence.” In Artificial General Intelligence, edited by Ben Goertzel and Cassio Pennachin, 389–501. Cognitive Technologies. Berlin: Springer. Doi:10.1007/ 978–3‑540–68677-4_12. Ори­ги­нал мож­но най­ти тут: https://intelligence.org/files/LOGI.pdf, крат­кий пере­сказ на рус­ском тут: https://ai-ru.livejournal.com/65292.html.}} Эли­е­зе­ра Юдковского{{Элиезер Юдков­ский (Eliezer Shlomo Yudkowsky) (род. 1979) — аме­ри­кан­ский тео­ре­тик искус­ствен­но­го интел­лек­та, раци­о­наль­но­го мыш­ле­ния, писа­тель, транс­гу­ма­нист. Соос­но­ва­тель Инсти­ту­та иссле­до­ва­ния машин­но­го интел­лек­та (Machinic Intelligence Research Institute, MIRI), автор извест­но­го фан­фи­ка на про­из­ве­де­ния Джо­ан Роулинг «Гар­ри Пот­тер и мето­ды раци­о­наль­но­го мыш­ле­ния».}} опре­де­лён­но не «про­из­ве­де­ние поло­ум­но­го». Он напи­сан пре­иму­ще­ствен­но взве­шен­ным язы­ком, и я бы даже риск­нул утвер­ждать, что око­ло 80% тек­ста абсо­лют­но бес­спор­ны — осо­бен­но когда раз­лич­ные утвер­жде­ния фор­му­ли­ру­ют­ся с долж­ным вни­ма­ни­ем к необ­хо­ди­мым пред­по­сыл­кам. Это не вели­кий оглу­ши­тель­ный ката­лог про­ро­честв, подан­ных как фак­ты, не тер­пя­щие сомне­ний; это «если я прав отно­си­тель­но X, и если про­изой­дёт Y, то весь­ма веро­ят­но, что со вре­ме­нем это при­ве­дёт к Z». Я опре­де­лён­но раз­де­ляю не все догад­ки и пред­по­ло­же­ния, кото­рые дела­ет здесь Юдков­ский, но по боль­шей части это абсо­лют­но логич­но, связ­но и доста­точ­но сдер­жан­но в фор­му­ли­ров­ках, учи­ты­вая сте­пень отда­лён­но­сти и неопре­де­лён­но­сти пред­ме­та рассуждений.

Что мне дей­стви­тель­но кажет­ся поло­уми­ем, так это когда люди берут бла­го­ра­зум­но осто­рож­ные спе­ку­ля­тив­ные отрыв­ки, вро­де это­го, и раз­ду­ва­ют их до набо­ра неко­ле­би­мых убеж­де­ний о буду­щем (а то и о буду­щем неиз­беж­ном). Отры­вок Юдков­ско­го нахо­дит­ся очень близ­ко к пре­де­лам того, что вооб­ще мож­но осмыс­лен­но ска­зать на эту тему в насто­я­щее вре­мя; любой, кто при­ни­ма­ет и про­воз­гла­ша­ет упо­мя­ну­тые здесь воз­мож­но­сти так, буд­то они явля­ют­ся дока­зан­ны­ми фак­та­ми, уже поте­рял связь с реальностью.

Гро­мад­ное коли­че­ство отлич­ной НФ (и, чест­но гово­ря, неко­то­рое коли­че­ство дерь­мо­вой и откро­вен­но вто­рич­ной НФ) напи­са­но [имен­но] о само­со­вер­шен­ству­ю­щих­ся ИИ, ста­но­вя­щих­ся бога­ми или пора­бо­ща­ю­щих чело­ве­че­ство. Лич­но мне видит­ся гораз­до более веро­ят­ным, что мы поро­дим тупых, но весь­ма доса­жда­ю­щих пакост­ни­ков, но это не зна­чит, что я не могу вос­хи­щать­ся «Пла­ме­нем над без­дной» как истин­ным шедев­ром вооб­ра­же­ния. И если люди хотят обсу­дить вполне реаль­ные рис­ки и досто­ин­ства даже самых край­них воз­мож­но­стей из тех, кото­рые упо­ми­на­ет Юдков­ский, вне зави­си­мо­сти от того, кажут­ся ли они лич­но мне прав­до­по­доб­ны­ми, это абсо­лют­но нор­маль­но, как по мне. Нико­гда не рано при­сту­пить к серьёз­но­му обсуж­де­нию эти­че­ских или прак­ти­че­ских аспек­тов раз­лич­ных сце­на­ри­ев, и если ни один из них не вопло­тит­ся в реаль­ность, участ­ни­ки обсуж­де­ния всё же полу­чат удо­воль­ствие [от само­го про­цес­са] и, мож­но наде­ять­ся, отто­чат свои мораль­ные навыки.

Но когда люди при­ни­ма­ют­ся изре­кать про­ро­че­ства в духе: «Сна­ча­ла про­изой­дёт X, затем Y, а потом Z, и вы, без­бож­ни­ки, ниче­го с этим не смо­же­те поде­лать, пото­му что мой боль­шой брат — гипер­ра­зум­ный ИИ — наде­рёт ваши тощие зад­ни­цы, если вы посме­е­те спо­рить со мной», — это не про­сто невме­ня­е­мые фан­та­зии о при­ро­де ИИ, осно­ван­ные на нуле­вых дока­за­тель­ствах, это ещё и тота­ли­тар­ная поли­ти­че­ская про­грам­ма, мас­ки­ру­ю­ща­я­ся под сво­е­го рода неиз­беж­ное след­ствие вооб­ра­жа­е­мых «зако­нов» исто­рии, эво­лю­ции, тео­рии игр, или же (до сих пор не суще­ству­ю­щей) тео­рии созна­ния. Это настоль­ко же инфан­тиль­но, как детер­ми­ни­сти­че­ские пред­ска­за­ния марк­си­стов, или биб­лей­ские про­ро­че­ства. То, что во всём этом есть спу­тан­ный клу­бок реаль­ных логи­че­ских нитей, на кото­рых под­ве­ше­на кро­хот­ная часть [кон­струк­ции], дела­ет [ситу­а­цию] ещё более неловкой.

Дэми­ен Сал­ли­ван ука­зы­ва­ет на неко­то­рые поли­ти­че­ские и орга­ни­за­ци­он­ные затруд­не­ния ваше­го пла­на; я мог бы доба­вить, со сво­ей сто­ро­ны, ещё несколь­ко, но пока что это кажет­ся излишним.

Грег Иган напи­сал:

Цита­та Ната­на Крэйвенса:

Этот веро­ва­тель­ный биз­нес{{Име­ет­ся в виду куль­ти­ви­ру­е­мая (транс­гу­ма­ни­ста­ми, футу­ро­ло­га­ми и тех­но­пред­при­ни­ма­те­ля­ми) вера в (ско­рое) созда­ние обще­го искус­ствен­но­го интел­лек­та (AGI). – прим. пер.}} созда­вал [раз­лич­ные] систе­мы и вне зави­си­мо­сти от науч­но­го пони­ма­ния, и, подо­зре­ваю, будет про­дол­жать это делать, пока вооб­ще всё, или [по край­ней мере] всё, что нам важ­но пони­мать, не будет охва­че­но с науч­ной или ана­ли­ти­че­ской точ­ки зрения.

Хоть я и раз­де­ляю убеж­де­ние, что науч­ное позна­ние про­дол­жит всё глуб­же схва­ты­вать суть вещей, но что пре­вра­ща­ет столь мно­гих транс­гу­ма­ни­стов в коми­че­скую паро­дию на науч­ных раци­о­на­ли­стов – это их неспо­соб­ность про­ве­сти раз­ли­чие меж­ду соб­ствен­ны­ми догад­ка­ми и инту­и­ци­я­ми, мне­ни­я­ми и пред­по­чте­ни­я­ми, поли­ти­че­ски­ми про­грам­ма­ми (и все­ми про­чи­ми веща­ми, на кото­рые они име­ют пол­ное пра­во) [с одной сто­ро­ны], и реаль­ны­ми дедук­тив­ны­ми умо­за­клю­че­ни­я­ми [с дру­гой]. Так­же они весь­ма склон­ны раз­ду­вать важ­ность отдель­ных, тща­тель­но ото­бран­ных, но не слиш­ком-то реле­вант­ных при­ме­ров и аналогий.

Цита­та Ната­на Крэйвенса:

В каче­стве при­ме­ра в под­держ­ку [ска­зан­но­го], исто­рик тех­но­ло­гий Джордж Базал­ла{{Джордж Базал­ла (George Basalla) (род. 1928) – аме­ри­кан­ский исто­рик нау­ки, про­фес­сор Уни­вер­си­те­та Дела­вэ­ра}}писал в кни­ге «Эво­лю­ция тех­но­ло­гии» (Evolution of Technology):

«К сере­дине 1980‑х ком­пью­тер­ный бум казал­ся не более, чем недол­го­веч­ной и, для неко­то­рых про­из­во­ди­те­лей ком­пью­те­ров, весь­ма доро­го­сто­я­щей при­чу­дой. Потре­би­те­ли, от кото­рых ожи­да­ли, что при помо­щи этих машин они будут вести финан­со­вую отчёт­ность, зани­мать­ся обра­зо­ва­ни­ем детей, пла­ни­ро­вать семей­ное буду­щее, в ито­ге попро­сту игра­ли на них в элек­трон­ные игры, а это заня­тие вско­ре поте­ря­ло в новизне, удо­воль­ствии и азар­те. В резуль­та­те устрой­ство, кото­рое про­чи­ли в пред­вест­ни­ки новой тех­но­ло­ги­че­ской эры, потер­пе­ло сокру­ши­тель­ный крах, при­вед­ший к банк­рот­ству мно­же­ство фирм, вло­жив­ших­ся в его разработку».

Но теперь-то нам виднее.

Кто-то когда-то сде­лал кон­сер­ва­тив­ный про­гноз насчёт исполь­зо­ва­ния домаш­них ком­пью­те­ров и ошиб­ся. Какой силой, по вашим пред­став­ле­ни­ям, это наде­ля­ет ваши аргу­мен­ты? Кро­ме того,

Цита­та Xuenay:

Или, при­во­дя более близ­кий поря­док вели­чин, точ­но так же, как соба­ка не спо­соб­на была бы понять, чем явля­ет­ся ком­пью­тер.{{Цити­ру­е­мый собе­сед­ник иллю­стри­ру­ет прин­ци­пи­аль­ную непред­ска­зу­е­мость силь­но­го искус­ствен­но­го интел­лек­та для чело­ве­ка – прим. перев.}}

Из того, что суще­ству­ют соба­ки и суще­ству­ют люди, нико­им обра­зом не сле­ду­ет суще­ство­ва­ние некой сущ­но­сти, кото­рая, в сколь­ко-то реле­вант­ном соот­вет­ствии, соот­но­сит­ся с чело­ве­ком так же, как чело­век соот­но­сит­ся с собакой.

Быст­рые про­цес­сы быст­рее мед­лен­ных про­цес­сов. Всё про­чее отно­си­тель­но точ­ной при­ро­ды и воз­мож­но­стей раз­лич­ных форм интел­лек­та толь­ко лишь предположения.

Люди име­ют пра­во выдви­гать пред­по­ло­же­ния, а дру­гие люди име­ют пра­во счи­тать эти пред­по­ло­же­ния неубе­ди­тель­ны­ми. Я воз­ра­жаю, толь­ко если в спе­ку­ля­тив­ных дис­кус­си­ях пере­ста­ют отда­вать отчёт, насколь­ко мно­го пред­по­ло­же­ний и мне­ний было выдви­ну­то, и пыта­ют­ся выдать [эти дис­кус­сии] за желез­но логич­ные умо­за­клю­че­ния. Я не рас­смат­ри­ваю в каче­стве поло­ум­но­го любо­го участ­ни­ка обсуж­де­ний сверх­ра­зум­но­го ИИ, кото­рый исто­ча­ет бого­по­доб­ную муд­рость и при­ве­дёт нас, свою паст­ву, в боже­ствен­ную уто­пию. Поло­ум­ным чело­ве­ка дела­ет попыт­ка утвер­ждать или при­тво­рять­ся, буд­то за утвер­жде­ни­я­ми о воз­мож­но­сти, неиз­беж­но­сти или жела­тель­но­сти тако­го исхо­да не сто­ит ника­ких непро­ве­рен­ных  предположений.

Грег Иган напи­сал:

Цита­та Xuenay:

Кажет­ся разум­ным пред­по­ло­же­ние, что эво­лю­ция ухва­ти­ла толь­ко лишь низ­ко вися­щий плод, когда созда­ва­ла чело­ве­че­ство, и что циф­ро­вое про­грамм­ное обес­пе­че­ние, спо­соб­ное с нуля пере­пи­сы­вать части сво­е­го кода, может забрать­ся куда выше.

Ско­рость и память изме­рить про­сто, но вот все осталь­ные пред­став­ле­ния об этом «выше» намно­го более спекулятивны.

При всех наших изъ­я­нах и при­чуд­ли­во спе­ци­фич­ных когни­тив­ных при­спо­со­би­тель­ных меха­низ­мах, мы всё же спо­соб­ны опе­ри­ро­вать широ­ким набо­ром абстракт­ных идей (т.е. совре­мен­ной мате­ма­ти­кой), и не суще­ству­ет стро­гих аргу­мен­тов в поль­зу суще­ство­ва­ния како­го-либо клас­са про­блем, кото­рые раз­ре­ши­мы для машин Тью­рин­га в общем слу­чае, но не для (доста­точ­но дол­го­жи­ву­щих и хоро­шо моти­ви­ро­ван­ных) людей, обла­да­ю­щих досту­пом к доста­точ­но боль­шим ком­пью­те­рам, содер­жа­щим толь­ко нера­зум­ное про­грамм­ное обес­пе­че­ние. Неко­то­рое коли­че­ство не слиш­ком зна­чи­тель­ных ней­раль­ных про­те­зов и/или био­ин­же­нер­ных вме­ша­тельств спо­со­бы вычи­стить мно­же­ство хит­ро­спле­те­ний и испра­вить неко­то­рые интер­фейс­ные «буты­лоч­ные гор­лыш­ки» (и, само собой, загруз­ка ещё боль­ше выров­ня­ла бы игро­вое поле).

Моя соб­ствен­ная догад­ка (кото­рая, конеч­но же, не явля­ет­ся несо­мнен­ным фак­том, но кото­рую я рас­смат­ри­ваю в каче­стве не менее веро­ят­ной, чем про­чие аль­тер­на­ти­вы) состо­ит в том, что не суще­ству­ет иерар­хии когни­тив­ных уни­вер­са­лов, точ­но так же, как нет ника­кой иерар­хии уни­вер­саль­ных машин Тью­рин­га. Либо систе­ма явля­ет­ся вычис­ли­тель­но уни­вер­саль­ной, либо нет; все воз­мож­ные реа­ли­за­ции машин Тью­рин­га отли­ча­ют­ся толь­ко ско­ро­стью и объ­ё­мом памя­ти. Мы можем быть вполне уве­ре­ны, что неко­то­рым вещам нико­гда не смог­ли бы научить бес­смерт­ную соба­ку; они попро­сту слиш­ком спе­ци­а­ли­зи­ро­ва­ны. Но люди пре­одо­ле­ли барьер, раз­де­ля­ю­щий спе­ци­а­ли­стов и уни­вер­са­лов, и никто до сих пор не про­де­мон­стри­ро­вал суще­ство­ва­ние како­го-либо более широ­ко­го класса.

Юдков­ский (оче­вид­но, вдох­нов­ля­ясь Вин­джем) спе­ку­ли­ру­ет отно­си­тель­но некой иерар­хии, но мне не кажет­ся, что он пред­ла­га­ет неоспо­ри­мый при­мер ИИ, спо­соб­но­го раз­ре­шить абсо­лют­но иной класс про­блем, неже­ли люди, воору­жён­ные ком­пью­те­ра­ми с сопо­ста­ви­мой с этим ИИ аппа­рат­ной мощью. Раз­ли­чие в так­то­вой часто­те само по себе может иметь очень боль­шое прак­ти­че­ское зна­че­ние при опре­де­лён­ных сце­на­ри­ях, и, конеч­но же, для про­грамм­но­го обес­пе­че­ния намно­го про­ще моди­фи­ци­ро­вать само себя, чем для орга­низ­ма, одна­ко же, насколь­ко бы фра­за «рекур­сив­ное само­улуч­ше­ние» ни соблаз­ня­ла чита­те­ля пред­став­лять экс­по­нен­ци­аль­ные пре­иму­ще­ства, воз­но­ся­щи­е­ся в стра­то­сфе­ру, нет ника­ких дока­за­тельств, что в целом экви­ва­лент­ный чело­ве­ку ИИ, опти­ми­зи­ро­вав­ший соб­ствен­ный код, не прой­дёт все­го лишь несколь­ко цик­лов улуч­ше­ния со всё убы­ва­ю­щей отда­чей, и лишь едва изме­нит­ся в ито­ге. (Если бы он пере­де­лы­вал соб­ствен­ное аппа­рат­ное обес­пе­че­ние, его успе­хи мог­ли бы ока­зать­ся намно­го луч­ше, но мы уже зани­ма­ем­ся «рекур­сив­ным улуч­ше­ни­ем» ком­пью­тер­но­го аппа­рат­но­го обес­пе­че­ния при помо­щи спе­ци­а­ли­зи­ро­ван­но­го нера­зум­но­го ПО).

Как бы то ни было, ваш под­ход отли­ча­ет­ся, и, как уже ска­зал, у меня нет прин­ци­пи­аль­ных воз­ра­же­ний, когда люди при­хо­дят к дру­гим выво­дам по этой про­бле­ма­ти­ке, поку­да они чест­но отда­ют отчёт, насколь­ко неопре­де­лён­ны­ми явля­ют­ся эти выводы.

Грег Иган напи­сал:

Цита­та Xuenay:

Я вовсе не удив­люсь, если чело­ве­че­ский мозг ока­жет­ся настоль­ко чер­тов­ски слож­ным и запу­тан­ным, что для того, что­бы по-насто­я­ще­му грок­нуть{{Грок­нуть (англ. grok) — нео­ло­гизм из рома­на Робер­та Хай­н­лай­на «Чужак в стране чужой», обо­зна­ча­ю­щий осо­бую фор­му пол­но­го и инту­и­тив­но­го пони­ма­ния}}, как он функ­ци­о­ни­ру­ет, потре­бу­ет­ся боль­ше памя­ти, чем есть в рас­по­ря­же­нии любо­го отдель­но взя­то­го человека.

Гла­го­лом «понять» обо­зна­ча­ют мно­же­ство раз­ных вещей, но одно из самых полез­ных [опре­де­ле­ний] это «иметь упро­ща­ю­щее пред­став­ле­ние о чём-либо». Мы можем пред­ска­зать мно­же­ство полез­ных вещей о пове­де­нии газов, не моде­ли­руя их инди­ви­ду­аль­ные сте­пе­ни сво­бо­ды, пото­му что в нашем рас­по­ря­же­нии име­ет­ся упро­ща­ю­щее пред­став­ле­ние о них в виде тер­мо­ди­на­ми­че­ской науки.

Но для очень слож­ных систем нет ника­ких гаран­тий, насколь­ко их мож­но будет упро­стить. Запро­сто может и вовсе не ока­зать­ся такой вещи, как «по-насто­я­ще­му грок­нуть» функ­ци­о­ни­ро­ва­ние моз­га, ни в каком смыс­ле сверх тех упро­ща­ю­щих пред­став­ле­ний, кото­ры­ми мы уже обла­да­ем, и тех, кото­рые появят­ся у нас в буду­щем. Рас­по­ла­гая доста­точ­но боль­шим ком­пью­те­ром, мы мог­ли бы про­мо­де­ли­ро­вать мозг, вплоть до уров­ня отдель­ных ней­ро­нов. При мень­ших ресур­сах, но более разум­ном под­хо­де, несо­мнен­но, най­дёт­ся несколь­ко более круп­но­зер­ни­стых моде­лей, кото­рые ока­жут­ся полез­ны­ми, и кото­рые будут одно­вре­мен­но выте­кать из наших упро­ща­ю­щих пред­став­ле­ний и улуч­шать их.

Но что же долж­но стать извест­но это­му сверх­ра­зум­но­му ИИ, или на что он дол­жен стать спо­соб­ным, когда он «сверх­пой­мёт» чело­ве­че­ский мозг? Ему при­дёт­ся иметь дело ров­но с той же фун­да­мен­таль­ной слож­но­стью; нет осно­ва­ний пред­по­ла­гать, буд­то суще­ству­ет какой-то трюк, кото­рый поз­во­лит про­из­ве­сти ради­каль­ную редук­цию про­бле­мы в том же духе, как тер­мо­ди­на­ми­ка поз­во­ля­ет нам решить про­бле­му газов. При усло­вии, что он может запу­стить модель моз­га на уровне ней­ро­нов, и мы тоже можем запу­стить модель на уровне ней­ро­нов, един­ствен­ное пре­иму­ще­ство, доступ­ное для ИИ, заклю­ча­ет­ся в том, что он мог бы выдви­нуть некое упро­ща­ю­щее пред­став­ле­ние, на осно­ве кото­ро­го мож­но кон­стру­и­ро­вать полез­ные круп­но­зер­ни­стые моде­ли, кото­рые мы [выдви­нуть] не спо­соб­ны. Но даже если он выиг­ра­ет эту гон­ку и обна­ру­жит полез­ные круп­но­зер­ни­стые моде­ли, что же за кол­дов­ской барьер запре­тит нам тоже обна­ру­жить их?

Если у тебя есть гигант­ская загру­жен­ная память, кото­рая поз­во­ля­ет сохра­нять инфор­ма­цию о мно­же­стве дета­лей слож­ной систе­мы одно­вре­мен­но, в прин­ци­пе, без раз­ни­цы, что ты можешь с эти­ми дета­ля­ми делать. Спо­соб­ность разу­ма син­те­зи­ро­вать или упро­стить мно­же­ство дета­лей в нечто более плот­но упа­ко­ван­ное, на самом деле, не зави­сит от какой-либо фор­мы одно­вре­мен­но­го досту­па к дан­ным в чём-то вро­де чело­ве­че­ской рабо­чей памя­ти. Прак­ти­че­ски каж­дую слож­ную мате­ма­ти­че­скую идею, кото­рую я пони­маю, я по-насто­я­ще­му пони­маю толь­ко в том смыс­ле, что спо­со­бен нака­ря­бать опре­де­лён­ные вещи на листе бума­ги, пока читаю учеб­ник. Вне вся­ких сомне­ний, неко­то­рые счаст­лив­цы обла­да­ют куда боль­шей рабо­чей памя­тью, чем я, но суть в том, что совре­мен­ные люди всё вре­мя син­те­зи­ру­ют поня­тия, слиш­ком слож­ные, что­бы пол­но­стью поме­стить­ся в их соб­ствен­ных био­ло­ги­че­ских разу­мах. И наобо­рот, ИИ с боль­шой рабо­чей памя­тью обла­да­ет… боль­шой рабо­чей памя­тью, и ему не тре­бу­ет­ся тянуть­ся за лист­ком бума­ги. А вот чем он не рас­по­ла­га­ет, так это вол­шеб­ной спо­соб­но­стью син­те­зи­ро­вать в этой рабо­чей памя­ти из чего угод­но вся­кие каче­ствен­но отлич­ные штуки.

Грег Иган напи­сал:

Цита­та Peco:

Чрез­вы­чай­но про­дви­ну­тый ИИ мог бы (тео­ре­ти­че­ски) пред­ска­зы­вать пове­де­ние боль­шин­ства людей, даже не делая ниче­го тако­го, чего не могут делать и сами люди.

Но к чему тут ИИ? Либо вы рас­по­ла­га­е­те началь­ны­ми дан­ны­ми, алго­рит­ма­ми и вычис­ли­тель­ны­ми ресур­са­ми для полез­ной пред­ска­за­тель­ной симу­ля­ции [впи­ши­те любой пред­мет, кото­рый вам хоте­лось бы про­си­му­ли­ро­вать], либо нет. A priori нет ника­ких при­чин, поче­му чело­век с досту­пом к необ­хо­ди­мым (не обла­да­ю­щим разу­мом) вычис­ли­тель­ным ресур­сам ока­зал­ся бы огра­ни­чен срав­ни­тель­но более узким клас­сом систем в реаль­ном вре­ме­ни, чем гипо­те­ти­че­ский ИИ, рас­по­ла­га­ю­щий теми же ресурсами.

И на слу­чай, если вы про­пу­сти­ли, я мно­го­крат­но при­зна­вал тот оче­вид­ный момент, что быст­рые про­цес­сы быст­рее, чем мед­лен­ные про­цес­сы. Пози­ция, кото­рую я оспа­ри­ваю, состо­ит в том, буд­то суще­ству­ют каче­ствен­ные отли­чия в том, что спо­со­бен понять ИИ, кото­рые не зави­сят от ско­ро­сти и объ­ё­ма хра­ни­ли­ща, так что такой ИИ обла­дал бы пре­иму­ще­ством перед загру­жен­ным чело­ве­че­ским созна­ни­ем на доста­точ­но быст­ром аппа­рат­ном обеспечении.

Цита­та Peco:

Так­же вам сто­ит пораз­мыс­лить над неко­то­ры­ми веща­ми, кото­рые [при­дёт­ся] пол­но­стью уме­щать в голо­ве, или исполь­зо­вать очень огра­ни­чен­ную память (вро­де зада­чи понять запу­тан­ный и чрез­вы­чай­но слож­ный спа­гет­ти-код{{Спа­гет­ти-код — пло­хо спро­ек­ти­ро­ван­ная, сла­бо струк­ту­ри­ро­ван­ная, запу­тан­ная и труд­ная для пони­ма­ния про­грам­ма, осо­бен­но содер­жа­щая мно­го опе­ра­то­ров GOTO (осо­бен­но пере­хо­дов назад), исклю­че­ний и дру­гих кон­струк­ций, ухуд­ша­ю­щих струк­ту­ри­ро­ван­ность. Самый рас­про­стра­нён­ный анти­паттерн про­грам­ми­ро­ва­ния. Спа­гет­ти-код назван так, пото­му что ход выпол­не­ния про­грам­мы похож на мис­ку спа­гет­ти, то есть изви­ли­стый и запу­тан­ный.}}, кото­рый нель­зя разо­брать по частям).

Пони­ма­ние – это не мисти­че­ский неде­ли­мый про­цесс, кото­рый про­ис­хо­дит посред­ством сверхъ­есте­ствен­ных гешталь­тов, раз­лич­ных по раз­ме­ру для раз­ных типов раз­умов – и менее все­го такое мож­но ска­зать о пони­ма­нии кода. Либо алго­ритм мож­но фак­то­ри­зи­ро­вать, сжать, или же аппрок­си­ми­ро­вать раз­лич­ны­ми спо­со­ба­ми, либо нет. Если боль­шой кусок кода невоз­мож­но полез­ным обра­зом пере­пи­сать каким-то из этих спо­со­бов (будь то в резуль­та­те толь­ко лишь чело­ве­че­ской про­вер­ки, либо же с исполь­зо­ва­ни­ем раз­лич­ных нера­зум­ных про­грамм­ных средств), то всё, что тут мож­но поде­лать (что для людей, что для ИИ), что­бы «понять», что же он дела­ет, — это запу­стить его, пусть и в сопро­вож­де­нии средств и огра­ни­че­ний, кото­рые помо­гут выудить неко­то­рую полез­ную инфор­ма­цию эмпи­ри­че­ски, по ходу процесса.

Грег Иган напи­сал:

Цита­та Peco:

Толь­ко некто с намно­го боль­шей памятью/интеллектом, чем у людей, спо­со­бен создать чрез­вы­чай­но слож­ный и эффек­тив­ный (если не было спо­со­ба упро­стить его), кото­рый никто не может запом­нить и кото­рый не может дать сбой.

Что застав­ля­ет вас вооб­ра­жать, буд­то для созда­ния эффек­тив­ных несжи­ма­е­мых алго­рит­мов суще­ству­ют некие тех­ни­ки, доступ­ные для ИИ, но не доступ­ные для людей, рас­по­ла­га­ю­щих не обла­да­ю­щи­ми разу­мом про­грамм­ны­ми сред­ства­ми? (На самом деле, я нахо­жу мало­ве­ро­ят­ным, что абсо­лют­но несжи­ма­е­мые кус­ки кода спо­соб­ны на что-то более полез­ное, чем гене­ра­ция слу­чай­ных чисел, но с этой про­бле­мой нам возить­ся ни к чему, если спор идёт о глав­ном пунк­те [исход­но­го высказывания].)

Это какой-то стран­ный пред­рас­су­док каса­тель­но пред­по­ла­га­е­мо­го зна­че­ния имен­но «рабо­чей памя­ти», в про­ти­во­по­лож­ность всем осталь­ным видам хра­не­ния инфор­ма­ции. Одно лишь пси­хо­ло­ги­че­ское раз­ли­чие, кото­рые мы про­во­дим меж­ду тем, что мы можем удер­жать в соб­ствен­ном уме без при­ме­не­ния спе­ци­аль­ных средств, и тем, что удер­жать не можем, вовсе не озна­ча­ет, что уве­ли­че­ние ресур­сов рабо­чей памя­ти созда­ёт некое ради­каль­ное каче­ствен­ное отли­чие (в про­ти­во­по­лож­ность оче­вид­ным пре­иму­ще­ствам, кото­рые даёт ско­рость [обра­бот­ки]).

Если зада­чу нель­зя раз­ло­жить на извест­ные более эле­мен­тар­ные опе­ра­ции, то каким же кол­дун­ством дол­жен овла­деть ИИ, что­бы решать такие зада­чи? У него может быть доступ к биб­лио­те­ке извест­ных под­за­дач – и такой же доступ может быть у чело­ве­ка с его про­грамм­ны­ми сред­ства­ми – но если все мень­шие зада­чи нере­ле­вант­ны, соглас­но исход­но­му пред­по­ло­же­нию, что же в точ­но­сти вы ждё­те от ИИ? Пред­по­ла­гать, буд­то про­сто по при­чине нали­чия боль­шей рабо­чей памя­ти ИИ спо­со­бен каким-то обра­зом загло­тить про­бле­му одним кус­ком и «про­сто решить её» это чистый мисти­цизм (кото­рый не так уж дале­ко ушёл от того рода недо­по­ни­ма­ния чело­ве­че­ской инту­и­ции, соглас­но кото­ро­му неко­то­рые люди утвер­жда­ют, буд­то маши­ны нико­гда не будут спо­соб­ны мыс­лить). Какой бы под­ход, поз­во­ля­ю­щий ИИ решать нераз­ло­жи­мые зада­чи, вы ни посту­ли­ро­ва­ли, бре­мя дока­за­тель­ства, что то же нель­зя про­де­лать при помо­щи нера­зум­ных ору­дий в чело­ве­че­ских руках, лежит на вас.

Peco напи­сал:

Грег, веро­ят­но, вы побе­ди­ли, но;

А если про­сто симу­ли­ро­вать то, как мыс­лят люди, толь­ко луч­ше, быст­рее и с боль­шей рабо­чей памятью.

Peco напи­сал:

У меня не было вре­ме­ни напи­сать [доста­точ­но] длин­ный ком­мент, так что добав­лю ещё.

Даже если люди тео­ре­ти­че­ски спо­соб­ны решить всё, что спо­соб­на решить и уни­вер­саль­ная маши­на Тью­рин­га, это не озна­ча­ет, что они это решат. (Это может быть неэко­но­мич­но.) Иметь доступ к сохра­нён­ной инфор­ма­ции не то же самое, что пони­мать её – не думаю, что вы бы смог­ли объ­яс­нить про­из­воль­но­му чис­лу веч­но 3‑хлетних детей (обла­да­ю­щих общим интел­лек­том и воз­мож­но­стью сохра­нять инфор­ма­цию на ком­пью­те­рах) что-нибудь очень слож­ное, вро­де кван­то­вой меха­ни­ки, сколь­ко бы вре­ме­ни вы ни потратили.

Грег Иган напи­сал:

Peco: «веч­но 3‑хлетнему» пона­до­би­лось бы еже­днев­но сти­рать память, что­бы он не пре­вра­тил­ся в 4‑хлетнего. Суще­ству­ют люди, достиг­шие зре­ло­сти, кото­рых нестро­го мож­но опи­сать как име­ю­щих «посто­ян­ный мен­таль­ный воз­раст 3 [года]», но частью обыч­но­го чело­ве­че­ско­го интел­лек­та явля­ет­ся прин­ци­пи­аль­ная спо­соб­ность про­дол­жать обра­зо­ва­ние неогра­ни­чен­но долго.

Цита­та Peco:

Иметь доступ к сохра­нён­ной инфор­ма­ции не то же самое, что пони­мать её

Без шуток. Но до сих пор вы не пред­ло­жи­ли ника­ко­го встреч­но­го разум­но­го опре­де­ле­ния, что же такое пони­ма­ние, или же поче­му ИИ может пони­мать что-либо, что чело­век (с хоро­шим набо­ром инстру­мен­тов в рас­по­ря­же­нии) не спо­со­бен. Вы про­дол­жа­е­те повто­рять, как закли­на­ние, фра­зу «рабо­чая память», буд­то вы убе­ди­ли само­го себя, что это ключ ко все­му, но всё ещё не пред­ло­жи­ли ниче­го в под­держ­ку этого.

«Пони­ма­ние» нестро­гий тер­мин, не име­ю­щий точ­но­го тех­ни­че­ско­го зна­че­ния, но в чис­ле неко­то­рых полез­ных опре­де­ле­ний «пони­ма­ния X» сле­ду­ю­щие: обла­да­ние упро­ща­ю­щи­ми пред­став­ле­ни­я­ми об X; спо­соб­ность видеть свя­зи меж­ду X и дру­ги­ми систе­ма­ми; уме­ние под­ме­чать обоб­ще­ния; неко­то­рая воз­мож­ность фор­му­ли­ро­вать при­бли­зи­тель­ные предсказания.

Соглас­но этим опре­де­ле­ни­ям, суще­ству­ют тыся­чи поня­тий и систем, кото­рые я пони­маю, но не могу при этом пол­но­стью удер­жать в соб­ствен­ной рабо­чей памя­ти: мате­ма­ти­че­ские тео­ре­мы, боль­шие фраг­мен­ты про­грамм, кото­рые я напи­сал и т.д.  Я опре­де­лён­но не спо­со­бен удер­жи­вать в рабо­чей памя­ти все важ­ные фак­ты из кван­то­вой меха­ни­ки; воз­мож­но, у меня полу­чи­лось бы уме­стить там набор акси­ом, но в любом слу­чае такой факт не име­ет ниче­го обще­го со спо­соб­но­стью вычис­лить пове­де­ние кван­то­вых систем или раз­вить опыт или инту­и­ции отно­си­тель­но них. Всё это нахо­дит­ся в моей дол­го­вре­мен­ной памя­ти, а так­же в замет­ках, кото­рые я делал, кни­гах, кото­рые у меня есть, ком­пью­тер­ных про­грам­мах, кото­рые я написал.

Обла­да­ние боль­шей рабо­чей памя­тью может быть весь­ма полез­ным. Я опре­де­лён­но не пыта­юсь дока­зать, что при усло­вии рав­но­го аппа­рат­но­го обес­пе­че­ния не суще­ству­ет когни­тив­ных стра­те­гий, отлич­ных от чело­ве­че­ской, кото­рые нес­ли бы опре­де­лён­ные пре­иму­ще­ства; уве­рен, таких [вари­ан­тов] много.

Но вы до сих пор не ука­за­ли ни одной спе­ци­фи­че­ской систе­мы, не объ­яс­ни­ли, что име­е­те в виду под «пони­ма­ни­ем», и не пояс­ни­ли, поче­му ИИ может сде­лать что-либо, а загру­жен­ный чело­век с досту­пом к неко­то­рым допол­ни­тель­ным вычис­ли­тель­ным мощ­но­стям – нет.

Peco напи­сал:

Цита­та Гре­га Игана:

Но вы до сих пор не ука­за­ли ни одной спе­ци­фи­че­ской систе­мы, не объ­яс­ни­ли, что име­е­те в виду под «пони­ма­ни­ем», и не пояс­ни­ли, поче­му ИИ может сде­лать что-либо, а загру­жен­ный чело­век с досту­пом к неко­то­рым допол­ни­тель­ным вычис­ли­тель­ным мощ­но­стям – нет.

Могу я исполь­зо­вать [при­мер]  очень тупо­го чело­ве­ка (кото­рый всё же обла­да­ет общим интеллектом)?

Если бы вы загру­зи­ли взрос­ло­го с посто­ян­ным мен­таль­ным воз­рас­том 3, кото­рый зна­ет толь­ко те вещи, кото­рые извест­ны боль­шин­ству 3‑хлетних, он уме­ет читать, поль­зо­вать­ся Гуг­лом, сохра­нять дан­ные на ком­пью­тер, а так­же зна­ет син­так­сис и стан­дарт­ные биб­лио­те­ки язы­ка про­грам­ми­ро­ва­ния, то не думаю, что он ока­зал­ся бы спо­со­бен запро­грам­ми­ро­вать ком­пью­тер для реше­ния про­стей­шей мате­ма­ти­че­ской зада­чи (вро­де квад­рат­но­го урав­не­ния). Вам же даже ИИ не нужен, что­бы сде­лать это быстро.

Грег Иган напи­сал:

Peco, если вы хоти­те заго­то­вить конеч­ный спи­сок вещей, кото­рые кому-то извест­ны, и объ­явить, что он слиш­ком туп, что­бы научить­ся чему-то ново­му… тогда, соглас­но гипо­те­зе, тот ниче­му ново­му и не научит­ся. Не знаю, что, на ваш взгляд, долж­но из это­го сле­до­вать, но это не име­ет ни малей­ше­го отно­ше­ния к моим утверждениям.

Pecoнапи­сал:

Цита­та Гре­га Игана:

Peco, если вы хоти­те заго­то­вить конеч­ный спи­сок вещей, кото­рые кому-то извест­ны, и объ­явить, что он слиш­ком туп, что­бы научить­ся чему-то ново­му… тогда, соглас­но гипо­те­зе, тот ниче­му ново­му и не научится.

Они могут учить­ся новым вещам (вро­де рас­ши­ре­ния сло­ва­ря, сло­же­нию и мно­го чему ещё). Думаю, они не были бы спо­соб­ны учить­ся чему-то очень слож­но­му, но в прин­ци­пе мог­ли бы.

Дэми­ен Сал­ли­ван{{Дэми­ен Сал­ли­ван (Damien Sullivan) – транс­гу­ма­нист, автор тема­ти­че­ско­го сай­та «Mindstalk»: https://mindstalk.net/me/}}напи­сал:

Что ж, аргу­мент бази­ру­ет­ся на том, что люди явля­ют­ся Тью­ринг-пол­ны­ми, или LBA-подобными{{LBA (англ. Logical block addressing) — стан­дар­ти­зо­ван­ный меха­низм адре­са­ции и досту­па к бло­ку дан­ных на блоч­ном устрой­стве (жёст­ком или опти­че­ском дис­ке, твер­до­тель­ном нако­пи­те­ле), при кото­ром систем­но­му кон­трол­ле­ру нет необ­хо­ди­мо­сти учи­ты­вать спе­ци­фи­ку нако­пи­те­ля (напри­мер, гео­мет­рию жёст­ко­го дис­ка — коли­че­ство цилин­дров, голо­вок, сек­то­ров на дорож­ке, как это тре­бо­ва­лось в ран­них схе­мах адре­са­ции, таких как CHS и Large). В част­но­сти, совре­мен­ные IDE-кон­трол­ле­ры в каче­стве основ­но­го режи­ма транс­ля­ции адре­са исполь­зу­ют LBA, а инфор­ма­ция о под­держ­ке LBA содер­жит­ся в иден­ти­фи­ка­ци­он­ной инфор­ма­ции нако­пи­те­лей}}, или чем-то в этом духе. Кто-то вро­де «веч­но 3‑хлетних», или даже нор­маль­ных людей, кото­рые про­сто не оси­ли­ли логи­ку, про­грам­ми­ро­ва­ние или уро­ки алгеб­ры, могут аргу­мент обру­шить. Или про­сто про­де­мон­стри­ро­вать, что спо­соб­ность осво­ить язык ещё не дела­ет тебя таким уж уни­вер­са­лом, а чело­ве­че­ская попу­ля­ция рас­се­че­на раз­ры­вом Тьюринга.

Дру­гой вызов, о кото­ром мне поду­ма­лось, и кото­рый, судя по неко­то­рым вашим рас­ска­зам, вы, Грег, воз­мож­но, захо­ти­те про­ком­мен­ти­ро­вать, это аутизм. Или цве­то­вая сле­по­та. Аути­сты нико­гда не науча­ют­ся соци­аль­но­му вза­и­мо­дей­ствию, как нор­маль­ные люди. OTOH{{OTOH (абб. от англ. “On the other hand”) – с дру­гой сто­ро­ны, англо­сфер­ный интер­нет-сленг.}}, [при этом] те из них, кто наи­бо­лее высо­ко­функ­ци­о­на­лен, учат­ся ими­ти­ро­вать его тем или иным обра­зом – изу­чая выра­же­ния лиц и соци­а­ли­зи­ру­ясь более слож­ным путём. И мож­но себе пред­ста­вить сопро­цес­со­ры (имплан­ты или носи­мые устрой­ства), кото­рые при­кры­ва­ют это сла­бое место, снаб­жа­ют выра­же­ния лиц анно­та­ци­я­ми, рас­кры­ва­ю­щи­ми их содер­жа­ние и допол­ня­ю­щие под­хо­дя­щим откли­ком, или же вещи – их обще­при­ня­тым цве­том, что­бы ском­пен­си­ро­вать дефек­ты в есте­ствен­ных сопро­цес­со­рах чело­ве­ка (или его чув­ствах, думаю, при цве­то­вой сле­по­те дело в недо­стат­ке кол­бо­чек, хотя кор­текс, воз­мож­но, адап­ти­ро­вал­ся бы к омо­ла­жи­ва­ю­щим вмешательствам).

Не уве­рен, что имен­но это дока­зы­ва­ет, и дока­зы­ва­ет ли что-либо вооб­ще. У нас доволь­но мно­го вещей, вро­де обра­бот­ки [выра­же­ний] лиц, отсут­ствие кото­рых труд­но или вовсе невоз­мож­но ком­пен­си­ро­вать сей­час, но кото­рые орто­го­наль­ны «обще­му интел­лек­ту». OTOH, вари­ант «рас­ши­рен­ные люди мог­ли бы кон­ку­ри­ро­вать с ИИ» не опи­ра­ет­ся на то, что люди огра­ни­че­ны вза­и­мо­дей­стви­ем с листоч­ка­ми бума­ги; если разум­ный ИИ спо­со­бен научить­ся обра­ба­ты­вать лица, то сопроц – или, в худ­шем слу­чае, укро­щён­ный ИИ – может помочь в этом человеку.

Грег Иган напи­сал:

Цита­та Peco:

Думаю, они не были бы спо­соб­ны учить­ся чему-то очень слож­но­му, но в прин­ци­пе мог­ли бы.

Спектр раз­умов, кото­рые заслу­жи­ва­ют назы­вать­ся чело­ве­че­ски­ми, опре­де­лён­но вклю­ча­ет и людей, кото­рые спо­соб­ны научить­ся неко­то­ро­му коли­че­ству вещей и затем толь­ко лишь асимп­то­ти­че­ски при­бли­жать­ся к неко­му пла­то. Если рас­смат­ри­вать спи­сок воз­мож­ных нару­ше­ний, то не при­хо­дит­ся удив­лять­ся, что будут и край­ние слу­чаи, нахо­дя­щи­е­ся на гра­ни­це когни­тив­но­го универсализма.

Но каким обра­зом это помо­га­ет нам про­дви­нуть­ся даль­ше всех этих неубе­ди­тель­ных аргу­мен­тов отно­си­тель­но (собаки:люди) :: (люди:ИИ)?

Мно­гие здо­ро­вые люди (воз­мож­но, боль­шин­ство из них) так­же выхо­дят на пла­то, но при­чи­ны это­го обыч­но в моти­ва­ци­он­ных или соци­о­эко­но­ми­че­ских обсто­я­тель­ствах, неже­ли в чём-то внут­ренне при­су­щем их когни­тив­ной структуре.

Я опре­де­лён­но не пре­тен­дую на неопро­вер­жи­мое дока­за­тель­ство отсут­ствия пла­то для здо­ро­во­го, моти­ви­ро­ван­но­го бес­смерт­но­го чело­ве­ка с рас­ши­ря­е­мы­ми вспо­мо­га­тель­ны­ми сред­ства­ми в рас­по­ря­же­нии, но и вам не удаст­ся убе­дить меня в суще­ство­ва­нии это­го пла­то про­сто пото­му, что оно суще­ству­ет для неко­то­рых людей с огра­ни­чен­ны­ми возможностями.

Грег Иган напи­сал:

Дэми­ен:

Я бы не хотел чрез­мер­но напи­рать на ана­ло­гию с пол­но­той по Тью­рин­гу; я не думаю, что свой­ство при­над­леж­но­сти к когни­тив­ным уни­вер­са­лам настоль­ко точ­ная шту­ка. Воз­мож­но ли всех инди­ви­дов без остат­ка клас­си­фи­ци­ро­вать либо как име­ю­щих, либо как не име­ю­щих спо­соб­ность к неопре­де­лён­но рас­ши­ря­е­мо­му обу­че­нию, не зави­ся­щую от их вку­сов, пер­со­наль­ных целей, соци­аль­ной сре­ды и так далее? Сомне­ва­юсь. Мень­шин­ство людей будет явно огра­ни­че­но дет­ским уров­нем раз­ви­тия интел­лек­ту­аль­ной жиз­ни, так­же будет дру­гое мень­шин­ство – для кото­рых толь­ко небо пре­дел, но вот что каса­ет­ся нас в основ­ной мас­се меж­ду ними, кто знает?

Мне не вполне ясно, что вы пред­ла­га­е­те, рас­смат­ри­вая слу­чай  аутиз­ма. Изу­че­ние ино­стран­но­го язы­ка – мучи­тель­ная борь­ба для меня, но если я моти­ви­ро­ван и настой­чив, то всё рав­но могу про­грес­си­ро­вать, и если для неко­то­рых людей обыч­ные соци­аль­ные зна­ки столь же слож­ны в изу­че­нии (или диф­фе­рен­ци­аль­ная гео­мет­рия, или что-либо ещё), то даже не знаю, что ещё к это­му мож­но доба­вить, поми­мо неоспо­ри­мо­го фак­та, что неко­то­рые спе­ци­фи­че­ские навы­ки все­гда доста­ют­ся одним людям труд­нее, чем дру­гим. Но не вижу, что­бы это ока­зы­ва­ло какое-то вли­я­ние на утвер­жде­ние о том, что ИИ спо­со­бен пони­мать вещи, не доступ­ные нико­му из людей.

Russell Blackford
Рас­сел Блэк­форд

Австра­лий­ский фило­соф, пра­во­вед, лите­ра­тур­ный кри­тик и писа­тель. Автор тру­дов по фило­соф­ским про­бле­мам моди­фи­ка­ции чело­ве­ка и морали.

metamagician3000.blogspot.com
Greg Egan
Грег Иган

Австра­лий­ский писа­тель, рабо­та­ю­щий в жан­ре «твёр­дой» науч­ной фан­та­сти­ки. Основ­ная про­бле­ма­ти­ка: моди­фи­ка­ции чело­ве­ка, эпи­сте­ми­че­ские пер­спек­ти­вы буду­ще­го. Автор рома­нов «Город пере­ста­но­вок», «Диас­по­ра», «Отча­я­ние» и др.

www.gregegan.net/

Последние посты

Архивы

Категории