Экзистенциальные технологии

Если бы аст­ро­но­мы-про­фес­си­о­на­лы посто­ян­но и ощу­ти­мо пред­став­ля­ли себе чудо­вищ­ную вели­чи­ну кос­ми­че­ских рас­сто­я­ний и интер­ва­лов вре­ме­ни эво­лю­ции небес­ных све­тил, вряд ли они мог­ли успеш­но раз­ви­вать нау­ку, кото­рой посвя­ти­ли свою жизнь. При­выч­ные нам с дет­ства про­стран­ствен­но-вре­мен­ные мас­шта­бы настоль­ко ничтож­ны по срав­не­нию с кос­ми­че­ски­ми, что когда это дохо­дит до созна­ния, то бук­валь­но захва­ты­ва­ет дух.

И. Шклов­ский, «Все­лен­ная, жизнь, разум», 1962

Кто кем пове­ле­ва­ет? Тех­но­ло­гия нами или же мы — ею? Она ли ведет нас куда ей взду­ма­ет­ся, хоть бы и навстре­чу гибе­ли, или же мы можем заста­вить ее поко­рить­ся нашим стрем­ле­ни­ям? И если не сама тех­но­ло­ги­че­ская мысль опре­де­ля­ет эти стрем­ле­ния, то что же? Все­гда ли так обсто­ит дело или же само отно­ше­ние «чело­ве­че­ство — тех­но­ло­гия» меня­ет­ся с ходом исто­рии? А если так, то к чему стре­мит­ся эта неиз­вест­ная величина?

Ста­ни­слав Лем, «Сум­ма технологии»

В нача­ле 1960‑х годов поль­ский писа­тель Ста­ни­слав Лем напи­сал «Сум­му тех­но­ло­гии» — 600-стра­нич­ный футу­ро­ло­ги­че­ский труд, общая цель кото­ро­го заклю­ча­лась в том, что­бы «ука­зать общие воз­мож­но­сти... пото­му что они неко­то­рым спо­со­бом опре­де­ля­ют образ буду­ще­го». Опи­са­ние широ­ких тен­ден­ций тех­но­ло­гии, а не про­сто уга­ды­ва­ние того, какие футу­ри­сти­че­ские инстру­мен­ты могут появить­ся, — зада­ча не из лег­ких. В отсут­ствие доста­точ­ной тео­рии тех­но­ло­ги­че­ских изме­не­ний мы часто бес­по­мощ­но про­еци­ру­ем наше нетро­ну­тое насто­я­щее в буду­щее¹. «Чего ждал от зем­но­го или вне­зем­но­го буду­ще­го оби­та­тель пещер из камен­но­го века? — вопро­ша­ет Лем, — огром­ных, вели­ко­леп­но обто­чен­ных крем­ней!». В «Голо­се Гос­по­да», кото­рый во мно­гих аспек­тах явля­ет­ся худо­же­ствен­ной новел­ли­за­ци­ей «Сум­мы тех­но­ло­гии», один из пер­со­на­жей жалу­ет­ся, что подоб­ные линей­ные пред­став­ле­ния о буду­щем «разо­ча­ро­вы­ва­ют сво­ей одно­род­но­стью». Если мы хотим уви­деть какой-либо «про­гресс» на этом фрон­те, про­дол­жа­ет он, он дол­жен быть «эпи­сте­ми­че­ским» и лишить нас «трю­из­мов, обще­из­вест­ных истин и сте­рео­ти­пов», кото­рые слиш­ком часто быва­ют «доста­точ­но при­укра­ше­ны и сде­ла­ны удо­бо­ва­ри­мы­ми, что­бы погру­зить нас в без­опас­ное изум­ле­ние, в то вре­мя как мы оста­ем­ся в целом непо­ко­ле­би­мы­ми в нашей лич­ной жиз­нен­ной фило­со­фии». Если мы дей­стви­тель­но стре­мим­ся загля­нуть за зана­вес буду­ще­го мира, мы долж­ны мыс­лить так, что­бы осво­бо­дить­ся от сво­их былых установок.

Для такой пуга­ю­щей зада­чи «Сум­ма тех­но­ло­гии» явля­ет­ся достой­ным собе­сед­ни­ком. На поверх­но­сти кни­га кажет­ся лишь симп­то­мом интел­лек­ту­аль­но­го воз­буж­де­ния 1960‑х годов, объ­еди­няя есте­ствен­ные нау­ки и зарож­да­ю­щу­ю­ся область кибер­не­ти­ки в рам­ках двух эво­лю­ций — при­род­ной и тех­но­ло­ги­че­ской, — кото­рые идут парал­лель­но, пере­кры­ва­ют­ся и рас­хо­дят­ся. Хотя сам Лем опи­сы­вал «Сум­му» как «ужас­ный текст, пол­ный позёр­ства», как буд­то сму­щен­но осо­зна­вая, что взял на себя непо­мер­ную зада­чу, био­фи­зик Питер Бут­ко счи­та­ет её рав­ной таким при­знан­ным кни­гам по эво­лю­ци­он­ной тео­рии и слож­но­сти, как «Эго­и­стич­ный ген» Ричар­да Докин­за (1976) или «Гёдель, Эшер, Бах» Дугла­са Хофштад­те­ра (1979). Он отме­ча­ет, что имен­но в «Сум­ме» впер­вые были все­сто­ронне рас­смот­ре­ны темы, сде­лав­шие эти после­ду­ю­щие кни­ги столь вли­я­тель­ны­ми и извест­ны­ми. Но коп­нём глуб­же — это более инте­рес­но — и «Сум­ма тех­но­ло­гии» пред­став­ля­ет собой свое­об­раз­ную прит­чу о мора­ли с дву­смыс­лен­ной пози­ци­ей отно­си­тель­но того, как нам ори­ен­ти­ро­вать­ся в непред­ска­зу­е­мой силе тех­но­ло­ги­че­ских изме­не­ний. Как футу­ро­ло­ги­че­ский труд, её глав­ная цель — обсуж­дать, каким буду­щее может быть, а не обя­за­тель­но, каким оно долж­но быть. На самом деле, из-за его непо­ко­ле­би­мо­го ана­ли­за тех­но­ло­гии как силы, кото­рая одно­вре­мен­но слу­жит чело­ве­че­ской мора­ли и бро­са­ет ей вызов, рабо­ты Лема часто ста­но­ви­лись бла­го­дат­ной поч­вой для тех­но­фо­бов. Он был далек от роли соци­аль­но вовле­чен­но­го кри­ти­ка тех­но­ло­гий, заяв­ляя: «Я не верю клят­вам или заве­ре­ни­ям со ссыл­кой на так назы­ва­е­мый гума­низм. Един­ствен­ным ору­жи­ем про­тив одной тех­но­ло­гии явля­ет­ся дру­гая тех­но­ло­гия». Тем не менее, он не был ни тех­но-уто­пи­стом, ни наив­ным тех­но­кра­том, ото­рван­ным от эти­че­ских и фило­соф­ских вопро­сов. «Био­э­во­лю­ция явля­ет­ся, — пишет он, — вне вся­ко­го сомне­ния, про­цес­сом вне­мо­раль­ным, чего нель­зя ска­зать об эво­лю­ции технологической».

Какой же долж­на быть адек­ват­ная футу­ро­ло­гия, охва­ты­ва­ю­щая и меха­низ­мы, и мораль­ность тех­но­ло­гий? Если я обра­ща­юсь к «Сум­ме тех­но­ло­гии», то не толь­ко пото­му, что это недо­оце­нен­ный исто­ри­че­ский источ­ник, чей пере­крест­ный ана­лиз био­ло­ги­че­ских наук и вычис­ле­ний резо­ни­ру­ет с сего­дняш­ним интел­лек­ту­аль­ным кли­ма­том. Ско­рее, с её помо­щью мы можем под­верг­нуть сомне­нию трю­изм о том, что мы можем кон­тро­ли­ро­вать тех­но­ло­гию и что её раз­ви­тие стре­мит­ся к зара­нее опре­де­лен­ным и посто­ян­но улуч­ша­ю­щим­ся фор­мам. Чело­ве­че­ская дея­тель­ность, гово­ря сло­ва­ми Лема, дей­стви­тель­но может «открыть новую гла­ву в [исто­рии] Технологии».

Чело­ве­че­ские тела и умы — это уни­каль­но бла­го­дат­ная поч­ва для уско­рен­ных меха­низ­мов тех­но­ло­ги­че­ско­го взле­та, не име­ю­щая рав­ных сре­ди дру­гих видов на пла­не­те. Наша спо­соб­ность спо­соб­ство­вать тех­но­ло­ги­че­ским изме­не­ни­ям неоспо­ри­ма. Одна­ко оста­ет­ся вопрос: явля­ем­ся ли мы дири­жё­ра­ми это­го про­цес­са или же его инстру­мен­та­ми? Если мы фор­ми­ру­ем его, видим ли мы, куда он направ­лен? Что, если чело­ве­че­ство — лишь одна гла­ва² в исто­рии тех­но­ло­гии, исто­рии, кото­рая не явля­ет­ся линей­ной и не впи­сы­ва­ет­ся в тра­ди­ци­он­ные мораль­ные рам­ки? Эти вопро­сы выхо­дят за рам­ки того, хоро­ши или пло­хи опре­де­лен­ные тех­но­ло­гии. Тех­но­ло­гия — это не про­сто ути­ли­тар­ность. Как экзи­стен­ци­аль­ный про­цесс, она меня­ет циви­ли­за­ци­он­ную и эво­лю­ци­он­ную тра­ек­то­рию наше­го вида.

Если мы дума­ем о тех­но­ло­гии как об экзи­стен­ци­аль­ной зада­че, её нель­зя оце­ни­вать в рам­ках про­сто­го мора­ли­за­тор­ства. Кон­цеп­ция экзи­стен­ци­аль­ных тех­но­ло­гий, пред­ла­га­е­мая в этом эссе, опе­ри­ру­ет огром­ны­ми вре­мен­ны­ми мас­шта­ба­ми и усколь­за­ет от при­выч­ных эти­че­ских кате­го­рий. Вме­сто того что­бы дви­гать нас к «луч­ше­му миру» в пря­мо­ли­ней­ном смыс­ле, они порож­да­ют отчуж­да­ю­щие или тур­бу­лент­ные изме­не­ния на пре­де­ле наше­го пони­ма­ния. «Сум­ма тех­но­ло­гии» с её устой­чи­вым инте­ре­сом к тео­рии эво­лю­ции и дол­го­сроч­но­му про­гно­зи­ро­ва­нию ста­но­вит­ся убе­ди­тель­ной лин­зой для осмыс­ле­ния этой идеи.

1
Две эволюции и аморальность глубокого времени

Исто­рию наше­го вида при­ня­то про­сле­жи­вать через создан­ные нами инстру­мен­ты. Аграр­ная рево­лю­ция нача­лась с древ­них ана­то­лий­ских мето­дов зем­ле­де­лия, месо­по­там­ских ирри­га­ци­он­ных систем и еги­пет­ских плу­гов. В Сред­не­ве­ко­вье воен­ное дело пре­об­ра­зи­лось бла­го­да­ря выплав­ке желе­за в Запад­ной Афри­ке, а нау­ки пере­ро­ди­лись под вли­я­ни­ем алгеб­ры и аст­ро­но­мии ислам­ско­го мира. Тор­гов­ля про­цве­та­ла бла­го­да­ря изоб­ре­те­нию ком­па­са в Китае. Опти­че­ские лин­зы, печат­ный ста­нок и порох опре­де­ли­ли облик Ренес­сан­са во всем мире, а поз­же паро­вые дви­га­те­ли, фото­ап­па­ра­ты и тек­стиль­ные стан­ки воз­ве­сти­ли о про­мыш­лен­ной рево­лю­ции. Эта при­выч­ная исто­рия под­во­дит нас к сего­дняш­не­му дню с его элек­три­че­ством, энер­ге­ти­че­ской инфра­струк­ту­рой, авто­мо­би­ля­ми, заво­да­ми и ком­пью­те­ра­ми. Фоку­си­ру­ясь ско­рее на тен­ден­ци­ях, чем на кон­крет­ных инстру­мен­тах, Лем пред­ла­га­ет мно­же­ство тра­ек­то­рий буду­ще­го, а имен­но осво­е­ние кос­мо­са и пер­вый кон­такт с вне­зем­ным разу­мом; интел­лек­тро­ни­ку — кон­стру­и­ро­ва­ние разу­ма; изме­ня­ю­ще­е­ся отно­ше­ние меж­ду нау­кой и рели­ги­ей с пози­ции вычис­ли­тель­ной тео­рии; воз­мож­ность струк­ту­ри­ро­ва­ния эво­лю­ци­о­ни­ру­ю­ще­го отно­ше­ния меж­ду хао­сом и инфор­ма­ци­ей; фан­то­ма­ти­ку и кос­мо­го­ни­че­ское про­ек­ти­ро­ва­ние — созда­ние существ и миров в вир­ту­аль­ных реаль­но­стях или симу­ля­ци­ях; цере­бро­ма­ти­ку — тех­но­ло­ги­че­ское мани­пу­ли­ро­ва­ние мыс­ля­ми, убеж­де­ни­я­ми и чер­та­ми харак­те­ра; теле­так­сию и фан­то­пли­ка­цию — прак­ти­ки кло­ни­ро­ва­ния и раз­де­ле­ния созна­ния; раз­лич­ные мето­ды авто­ма­ти­за­ция про­из­вод­ства науч­ных и мета­фи­зи­че­ских зна­ний; созда­ние син­те­ти­че­ско­го и осо­знан­но­го язы­ка; био­тех­но­ло­гии, кибор­ги­за­ция; и, нако­нец, тех­но­ло­гии, вли­я­ю­щие на любовь, гене­ти­ку и репро­дук­цию. Эти кон­цеп­ты и прак­ти­ки иссле­ду­ют­ся в тек­сте как деталь­но, так и не очень (и доволь­но неод­но­род­но), но каж­дое из них заслу­жи­ва­ет отдель­но­го эссе.

Хотя зада­ча футу­ро­ло­гии — наме­чать кон­ту­ры буду­ще­го, Лем начи­на­ет «Сум­му тех­но­ло­гии» с пере­чис­ле­ния мно­го­чис­лен­ных труд­но­стей тако­го про­гно­зи­ро­ва­ния. Нам, напри­мер, крайне слож­но опре­де­лить, как дол­го про­длит­ся кон­крет­ная тех­но­ло­ги­че­ская тен­ден­ция, в то вре­мя как судь­бо­нос­ные откры­тия часто совер­ша­ют­ся слу­чай­но, а не пред­на­ме­рен­но. Нам так­же труд­но кон­тро­ли­ро­вать дол­го­сроч­ные послед­ствия наших замыс­лов: каж­дое изоб­ре­те­ние обо­ю­до­ост­ро и пере­рас­та­ет свои началь­ные усло­вия. При­зна­вая эти труд­но­сти, Лем спра­ши­ва­ет: «Но рас­суж­дать о буду­щих розах — не есть ли это заня­тие по мень­шей мере неумест­ное для чело­ве­ка, зате­рян­но­го в гото­вой вспых­нуть пожа­ром чаще совре­мен­но­сти?». На про­тя­же­нии всей кни­ги он борет­ся с осо­зна­ни­ем того, что науч­но обос­но­ван­ная тео­рия тех­но­ло­ги­че­ско­го раз­ви­тия долж­на быть тео­ри­ей все­го. Тех­но­ло­гия рас­кры­ва­ет­ся внут­ри «при­ро­ды» и кос­мо­са, наря­ду с чело­ве­че­ской исто­ри­ей и циви­ли­за­ци­ей. Когда мы начи­на­ем иссле­до­вать гра­ни­цы меж­ду эти­ми тер­ми­на­ми, они раз­мы­ва­ют­ся, побуж­дая нас искать рам­ки, кото­рые мог­ли бы объ­яс­нить их как еди­ное целое. Тех­но­ло­гия дей­стви­тель­но кажет­ся нам неот­де­ли­мой от её вопло­ще­ния в кон­крет­ных объ­ек­тах, подоб­но эво­лю­ции, о кото­рой мож­но судить по её про­яв­ле­ни­ям в отдель­ных орга­низ­мах и эко­си­сте­мах. Одна­ко, если у нас есть все­объ­ем­лю­щие тео­рии эво­лю­ции, то в слу­чае с тех­но­ло­ги­ей мы «за леса­ми не видим дере­вьев». Нам, по сути, не хва­та­ет тру­да, подоб­но­го дар­ви­нов­ско­му «Про­ис­хож­де­нию видов», — тео­рии, кото­рая объ­яс­ни­ла бы, как тех­но­ло­гия порож­да­ет спе­ци­фи­че­ские вещи в мире и поче­му одни из них суще­ству­ют, а дру­гие — нет³.

Связь меж­ду тех­но­ло­ги­ей и эво­лю­ци­ей — одна из самых обсуж­да­е­мых тем в иссле­до­ва­ни­ях «Сум­мы тех­но­ло­гии». Для фор­му­ли­ро­ва­ния тео­рии экзи­стен­ци­аль­ных тех­но­ло­гий под­черк­нем: Лема при­вле­ка­ла идея того, что эво­лю­ция (поэ­тич­но опи­сан­ная Ричар­дом Докин­зом как «сле­пой часов­щик») явля­ет­ся без­лич­ным кон­струк­то­ром, что дела­ет её дости­же­ния ещё более впе­чат­ля­ю­щи­ми. Лем опи­сы­ва­ет клет­ку как «сле­по­го кон­струк­то­ра, дей­ству­ю­ще­го мето­дом «проб и оши­бок»... поэто­му тем более уди­ви­тель­на та «исход­ная даль­но­вид­ность», кото­рую она про­яви­ла». В отли­чие от клет­ки, чело­ве­че­ская даль­но­вид­ность слиш­ком часто душит­ся мыс­лью, кото­рая не может не апел­ли­ро­вать к субъ­ек­тив­но­сти. Заклю­чи­тель­ный абзац «Сум­мы тех­но­ло­гии» пре­крас­но пере­да­ет это раз­ли­чие меж­ду чело­ве­че­ской уве­рен­но­стью и несо­зна­тель­ны­ми замыс­ла­ми эволюции:

Из два­дца­ти ами­но­кис­лот­ных букв При­ро­да постро­и­ла язык «в чистом виде», на кото­ром выра­жа­ют­ся — при ничтож­ной пере­ста­нов­ке нук­лео­тид­ных сло­гов — фаги, виру­сы, бак­те­рии, а так­же тиран­но­зав­ры, тер­ми­ты, колиб­ри, леса и наро­ды, если толь­ко в рас­по­ря­же­нии име­ет­ся доста­точ­но вре­ме­ни. Этот язык, столь атео­ре­тич­ный, пред­вос­хи­ща­ет не толь­ко усло­вия на дне оке­а­нов и на гор­ных высо­тах, но и кван­то­вую при­ро­ду све­та, тер­мо­ди­на­ми­ку, элек­тро­хи­мию, эхо­ло­ка­цию, гид­ро­ста­ти­ку и бог весть что еще, чего мы пока не зна­ем! Он дела­ет все это лишь «прак­ти­че­ски», посколь­ку, все созда­вая, ниче­го не пони­ма­ет. Но насколь­ко его нера­зум­ность про­из­во­ди­тель­нее нашей муд­ро­сти! Он дела­ет это нена­деж­но, он — рас­то­чи­тель­ный вла­де­тель син­те­ти­че­ских утвер­жде­ний о свой­ствах мира, так как зна­ет его ста­ти­сти­че­скую при­ро­ду и дей­ству­ет в соот­вет­ствии с ней. Он не обра­ща­ет вни­ма­ния на еди­нич­ные утвер­жде­ния — для него име­ет вес лишь сово­куп­ность выска­зы­ва­ний, сде­лан­ных за мил­ли­ар­ды лет. Дей­стви­тель­но, сто­ит научить­ся тако­му язы­ку — язы­ку, кото­рый созда­ет фило­со­фов, в то вре­мя как наш язык — толь­ко философию.

Одна­ко имен­но это раз­ли­чие дела­ет людей мораль­но ответ­ствен­ны­ми, в то вре­мя как эво­лю­ция «эмпи­ри­че­ские при­е­мы кото­рой, отни­мав­шие мил­ли­о­ны лет, погло­ща­ли гека­том­бы жертв», посто­ян­но про­ве­ря­ет, что рабо­та­ет, а что нет, не имея ника­кой конеч­ной цели. Там, где эво­лю­ция может, не заду­мы­ва­ясь, уни­что­жить целые попу­ля­ции или обречь на ужас­ные стра­да­ния срод­ни пыт­кам, люди не могут делать вид, что подоб­ные реше­ния (убий­ства целых видов или дли­тель­ные при­чи­не­ния стра­да­ний) будучи совер­шён­ны­ми людь­ми, не будут нести мораль­но­го веса:

Нель­зя одно­вре­мен­но совер­шать откры­тия и ста­рать­ся уйти от ответ­ствен­но­сти за их послед­ствия. Резуль­та­ты тако­го пове­де­ния, хотя и в дру­гих, не био­ло­ги­че­ских обла­стях, нам извест­ны. Они пла­чев­ны. Напрас­но уче­ный ста­ра­ет­ся сузить свою рабо­ту так, что­бы она носи­ла харак­тер добы­ва­ния инфор­ма­ции, отго­ро­жен­но­го сте­ной от про­бле­ма­ти­ки ее исполь­зо­ва­ния. Эво­лю­ция, как мы это уже explicite и implicitе ука­зы­ва-ли, дей­ству­ет бес­по­щад­но. Чело­век, посте­пен­но позна­вая ее кон­струк­тор­ские функ­ции, не может при­тво­рять­ся, буд­то он накап­ли­ва­ет исклю­чи­тель­но тео­ре­ти­че­ские зна­ния. Тот, кто позна­ет резуль­та­ты реше­ний, кто полу­ча­ет пол­но­мо­чия при­ни­мать их, будет нести бре­мя ответ­ствен­но­сти, — бре­мя, с кото­рым Эво­лю­ция как без­лич­ный кон­струк­тор так лег­ко справ­ля­лась, ибо оно для нее не существовало.

Вот поче­му вопрос тех­но­ло­гии и её роли в дра­ме суще­ство­ва­ния ста­но­вит­ся столь акту­аль­ным. Под­чи­не­на ли она мораль­но­му дей­ствию чело­ве­ка или без­дум­ным замыс­лам эво­лю­ции? Уильям Макас­килл в кни­ге «Что мы долж­ны буду­ще­му», одной из самых попу­ляр­ных и вли­я­тель­ных книг о дол­го­вре­мен­ных тра­ек­то­ри­ях тех­но­ло­гий, высту­па­ет за пер­вое. Его фило­со­фия «лонг­тер­миз­ма» (long-termism) при­зы­ва­ет нас не толь­ко оки­нуть взгля­дом тыся­че­ле­тия и пред­ста­вить мир 500 мил­ли­о­нов лет в буду­щем, но и опер­со­ни­фи­ци­ро­вать его, пред­ста­вив каж­до­го, на кого могут повли­ять наши дей­ствия в насто­я­щем. Она опи­сы­ва­ет совре­мен­ных людей как «небла­го­ра­зум­ных под­рост­ков», кото­рые ещё не научи­лись делать аль­тру­и­сти­че­ский выбор, кото­рый пой­дёт на бла­го нас в буду­щем и при­зы­ва­ет нас дей­ство­вать долж­ным обра­зом сей­час во бла­го гря­ду­щих поко­ле­ний. В таком нар­ра­ти­ве в наших силах вли­ять на буду­щие собы­тия и эти­ку, и тех­ни­че­ский про­гресс по умол­ча­нию дол­жен делать мир луч­ше. Пред­по­ло­же­ние о том, что мы уже можем видеть, какие тех­но­ло­гии име­ют хоро­шие или пло­хие послед­ствия для циви­ли­за­ции, и нам про­сто нуж­но решить, по како­му пути мы хоте­ли бы пой­ти, лежит сего­дня в осно­ве мно­гих авто­ри­тет­ных пред­став­ле­ний — от кри­ти­ки тех­но­ло­гий как эссен­ци­аль­но вред­ных до уто­пи­че­ских вооб­ра­же­ний тех­ни­че­ских реше­ний соци­аль­ных недугов.

Тем не менее, опи­ра­ясь на «Сум­му тех­но­ло­гии», мы можем сфор­му­ли­ро­вать иную пер­спек­ти­ву, при этом не отка­зы­ва­ясь от зада­чи дол­го­сроч­но­го тех­но­ло­ги­че­ско­го про­гно­зи­ро­ва­ния. Нач­нем с того, что, хотя фор­мы жиз­ни на этой пла­не­те через 500 мил­ли­о­нов лет могут дей­ство­вать в соот­вет­ствии с инстру­мен­таль­ны­ми цен­но­стя­ми, таки­ми как эффек­тив­ность, при­спо­соб­ля­е­мость и стра­те­ги­че­ское выжи­ва­ние, вполне веро­ят­но, что они не будут раз­де­лять наши нынеш­ние мораль­ные или эти­че­ские обя­за­тель­ства⁴. Хотя на пер­вый взгляд мы можем думать дале­ко напе­ред, мы оста­ем­ся под­ве­шен­ны­ми в вели­кой пусто­те, пото­му что насто­я­щий футу­ризм не может пред­вос­хи­тить соб­ствен­ную эти­ку. Учи­ты­вая неопре­де­лен­ные тра­ек­то­рии эво­лю­ции на таких дли­тель­ных про­ме­жут­ках вре­ме­ни, невоз­мож­но пред­ска­зать общую мораль или наме­тить, какие реше­ния явля­ют­ся пра­виль­ны­ми, даже на гораз­до мень­ших масштабах:

Все это озна­ча­ет, что нет вне­исто­ри­че­ской мора­ли. Раз­лич­ны лишь мас­шта­бы дли­тель­но­сти явле­ний; в кон­це кон­цов даже гор­ные хреб­ты рушат­ся, обра­ща­ясь в песок, ибо таков мир. Чело­век, суще­ство, живу­щее недол­го, охот­но поль­зу­ет­ся поня­ти­ем «веч­ность». Веч­ны­ми долж­ны быть опре­де­лен­ные духов­ные цен­но­сти, вели­кие про­из­ве­де­ния искус­ства, мораль­ные систе­мы. Не будем, одна­ко, обма­ны­вать себя: и они смерт­ны. Это не озна­ча­ет заме­ну поряд­ка хао­сом или внут­рен­ней убеж­ден­но­сти — без­раз­ли­чи­ем. Мораль изме­ня­ет­ся посте­пен­но, но она изме­ня­ет­ся, и имен­но поэто­му тем труд­нее сопо­став­лять друг с дру­гом два эти­че­ских кодек­са, чем боль­шее вре­мя их раз­де­ля­ет. Мы близ­ки шуме­рам, но мораль чело­ве­ка куль­ту­ры левал­луа потряс­ла бы нас.

Еще более услож­няя ситу­а­цию, Лем заме­ча­ет, что чело­ве­че­ская воля не подоб­на боже­ствен­ной — мы не можем про­сто ска­зать «Да будет свет!» и ожи­дать, что реаль­ность будет соот­вет­ство­вать наше­му замыс­лу. Мы можем верить, что мораль­ное дей­ствие в насто­я­щем при­во­дит к хоро­шим резуль­та­там в буду­щем, но нет ника­ких неоспо­ри­мых дока­за­тельств для подоб­ных рас­че­тов. Глав­ная ого­вор­ка заклю­ча­ет­ся в том, что мы не кон­тро­ли­ру­ем резуль­та­ты наших реше­ний и замыс­лов, а ско­рее рабо­та­ем наря­ду с эмер­джент­ны­ми явле­ни­я­ми и струк­ту­ра­ми, кото­рые пони­ма­ем не пол­но­стью⁵: «Вся­кая циви­ли­за­ция вклю­ча­ет и то, к чему обще­ство стре­ми­лось, и то, чего никто не замыш­лял… Циви­ли­за­ция дей­ству­ет не так, как хочет, а так, как долж­на». При­зна­ние того, что мы не зна­ем исхо­да пред­при­ни­ма­е­мых нами дей­ствий или что у нас нет гаран­тии того, что бла­гие наме­ре­ния при­ве­дут к бла­гим послед­стви­ям, кажет­ся одно­вре­мен­но и оче­вид­ным, и бес­смыс­лен­ным. Собы­тия, кото­рые кажут­ся нам ужа­са­ю­щи­ми в насто­я­щем, могут при­не­сти пара­док­саль­но полез­ные резуль­та­ты в буду­щем, или наобо­рот. Клас­си­че­ским при­ме­ром «непра­виль­но­го» мораль­но­го замыс­ла явля­ет­ся наблю­де­ние Мак­са Вебе­ра⁶ над про­те­стант­ским аске­тиз­мом: ран­ние хри­сти­ане копи­ли день­ги, что­бы отка­зать­ся от мате­ри­аль­ных изли­шеств, одна­ко имен­но это пове­де­ние созда­ло усло­вия (накоп­ле­ние капи­та­ла, инве­сти­ции, тру­до­вые струк­ту­ры), поро­див­шие потре­би­тель­ский капи­та­лизм. То, что начи­на­лось как мораль­ная прак­ти­ка, направ­лен­ная про­тив мира, фак­ти­че­ски запу­сти­ло мир, опре­де­ля­е­мый тем самым мате­ри­а­лиз­мом, кото­ро­му она стре­ми­лась про­ти­во­сто­ять. В этом смыс­ле дрейф цен­но­стей явля­ет­ся не толь­ко исто­ри­че­ским курье­зом, но и зако­но­мер­но­стью, часто ката­ли­зи­ру­е­мой или уско­ря­е­мой технологиями.

По мне­нию Лема, неко­то­рые обла­сти иссле­до­ва­ния могут по край­ней мере осо­знать это огра­ни­че­ние: «Мате­ма­ти­ки пре­крас­но зна­ют, что не зна­ют, что дела­ют. Весь­ма ком­пе­тент­ное лицо, а имен­но Бер­тран Рас­сел, ска­зал: «Мате­ма­ти­ка может быть опре­де­ле­на как док­три­на, в кото­рой мы нико­гда не зна­ем, ни о чем гово­рим, ни того, вер­но ли то, что мы гово­рим»». Это долж­но бро­сить вызов попу­ляр­но­му пред­став­ле­нию об изоб­ре­та­те­ле как о «чело­ве­ке, кото­ро­му для дости­же­ния цели не нуж­но ниче­го, кро­ме искры божьей, здра­во­го смыс­ла, тер­пе­ния, кле­щей и молот­ка». Тем не менее, столь­ко уси­лий тра­тит­ся на тща­тель­ное фор­му­ли­ро­ва­ние жела­ний — опи­са­ние того, что долж­но про­изой­ти и каки­ми вещи долж­ны быть, — что лег­ко забыть о том, как каж­дое дей­ствие порож­да­ет некон­тро­ли­ру­е­мые слу­чай­но­сти. Все­гда дей­ству­ют силы, отлич­ные от чело­ве­че­ско­го наме­ре­ния, и даже если тех­но­ло­гия дви­жет­ся впе­ред к какой-то теле­о­ло­ги­че­ской цели (напри­мер, авто­ма­ти­за­ции), мы дви­жем­ся рядом с ней, как кро­ты в тем­но­те, про­ры­вая по одно­му шагу за раз. Люди рабо­та­ют в тан­де­ме с непол­ным сво­дом зна­ний, пото­му что как наши внут­рен­ние моти­вы, так и сам мир оста­ют­ся непо­сти­жи­мы­ми: «С нас доста­точ­но и того, что чело­век, что бы он ни делал, почти нико­гда не зна­ет, что имен­но он дела­ет, во вся­ком слу­чае, не зна­ет до конца».

2
Морально непрозрачный поиск: функциональные и экзистенциальные технологии

Учи­ты­вая эту врож­ден­ную непо­зна­ва­е­мость как нас самих, так и мира, как мы можем раз­мыш­лять о глу­бо­ком, немыс­ли­мом буду­щем тех­но­ло­гий и выра­бо­тать мораль­ную ори­ен­та­цию по отно­ше­нию к ним? Сра­зу про­яс­ним: «Сум­ма тех­но­ло­гии» не отвер­га­ет ути­ли­та­ризм, но опи­сы­ва­ет его лишь как одну из кате­го­рий чело­ве­че­ской тех­но­ло­ги­че­ской дея­тель­но­сти. Кни­га затра­ги­ва­ет общие эти­че­ские про­бле­мы, такие как пере­кла­ды­ва­ние слиш­ком боль­шой ответ­ствен­но­сти на маши­ны (крип­то­кра­тия), чело­ве­че­ские стра­да­ния в усло­ви­ях эко­но­ми­че­ской и поли­ти­че­ской неспра­вед­ли­во­сти, изли­ше­ства потре­би­тель­ской куль­ту­ры или то, как лег­ко наш разум ста­но­вит­ся жерт­вой предубеж­де­ний. Исполь­зо­ва­ние тех­но­ло­гий для обес­пе­че­ния жильем и без­опас­но­стью, напри­мер, явля­ет­ся «обя­за­тель­ной…  под­го­тов­кой к экза­ме­ну на зре­лость; это нача­ло, а не конец». Дости­же­ние ути­ли­тар­ных целей — это про­сто то, на что долж­на быть спо­соб­на зре­лая циви­ли­за­ция. Каки­ми бы слож­ны­ми и насущ­ны­ми ни были зада­чи изме­не­ния окру­жа­ю­щей сре­ды на бла­го чело­ве­че­ства и био­сфе­ры или под­дер­жа­ния пла­не­тар­но­го гомео­ста­за, они оста­ют­ся вопро­са­ми ран­не­го эта­па раз­ви­тия юной циви­ли­за­ции. Они каса­ют­ся само­го наше­го выжи­ва­ния, и без их реше­ния мы оста­ем­ся столь же бес­по­мощ­ны­ми, как и наши самые дале­кие предки:

Гомео­ста­ти­че­ская дея­тель­ность чело­ве­ка, в кото­рой он поль­зу­ет­ся тех­но­ло­ги­я­ми как свое­об­раз­ны­ми орга­на­ми, сде­ла­ла его хозя­и­ном Зем­ли, могу­ще­ствен­ным, увы, лишь в гла­зах апо­ло­ге­та, коим он сам и явля­ет­ся. А перед лицом кли­ма­ти­че­ских ката­клиз­мов, зем­ле­тря­се­ний и ред­кой, но реаль­ной угро­зы паде­ния гигант­ских метео­ри­тов чело­век, по суще­ству, столь же бес­по­мо­щен, как и в послед­нем лед­ни­ко­вом пери­о­де. Бес­спор­но, он создал тех­ни­ку ока­за­ния помо­щи жерт­вам тех или иных сти­хий­ных бед­ствий. Неко­то­рые из бед­ствий он уме­ет, хотя и неточ­но, пред­ви­деть. Одна­ко до гомео­ста­за в мас­шта­бах пла­не­ты ему еще дале­ко — не гово­ря уже о гомео­ста­зе в звезд­ных масштабах! 

Может быть, высо­ко­раз­ви­тая циви­ли­за­ция — это вовсе не огром­ная энер­гия, а наи­луч­шее регулирование?

И все же, если наша тео­рия экзи­стен­ци­аль­ных тех­но­ло­гий и опи­ра­ет­ся на какой-то кон­крет­ный пас­саж в «Сум­ме тех­но­ло­гии», то это тот, где отно­ше­ния меж­ду мора­лью и тех­но­ло­ги­ей гораз­до более стран­ны. В самом нача­ле вве­де­ния Лем мимо­хо­дом выска­зы­ва­ет идею огром­но­го потен­ци­а­ла, кото­рую мож­но про­пу­стить, если моргнуть:

Может ли воз­ник­нуть, пусть в самом отда­лен­ном буду­щем, тех­но­ло­гия управ­ле­ния внут­ризвезд­ны­ми про­цес­са­ми на рас­сто­я­нии, при кото­рой суще­ства, исче­за­ю­ще малые по срав­не­нию с мас­сой Солн­ца, ста­нут пове­ле­вать его мил­ли­ар­до­лет­ним пожа­ром? Мне кажет­ся, это воз­мож­но. Я гово­рю так не для вос­хва­ле­ния чело­ве­че­ско­го гения — он и без меня доста­точ­но про­слав­ля­ем, — а наобо­рот, что­бы создать кон­траст. Ведь пока — за всю свою исто­рию — чело­век не уве­ли­чил­ся в раз­ме­рах. Воз­рос­ли лишь его воз­мож­но­сти чинить дру­гим доб­ро или зло.

Эта фра­за — «jak dotąd, człowiek nie wyogromniał» (до сих пор чело­век не стал «огромным»/не дорос до вели­чия) — в поль­ском ори­ги­на­ле окра­ше­на мораль­ной ори­ен­та­ци­ей. Гла­гол озна­ча­ет «вырас­ти в раз­ме­ре», но не в смыс­ле при­об­ре­те­ния боль­шей вла­сти, а ско­рее в смыс­ле ста­нов­ле­ния бла­го­род­ным и достой­ным сво­е­го пред­на­зна­че­ния. «Чело­век не уве­ли­чил­ся в раз­ме­рах. Воз­рос­ли лишь его воз­мож­но­сти чинить дру­гим доб­ро или зло». Хотя Лем не воз­вра­ща­ет­ся к этой мыс­ли, давай­те задер­жим­ся здесь подольше.

Как может быть так, что тех­но­ло­гии, кото­рые застав­ля­ют людей рас­ти, дела­ют нас бла­го­род­ны­ми, — это не те тех­но­ло­гии, кото­рые мы исполь­зу­ем, что­бы при­чи­нять доб­ро или вред друг дру­гу? Более оче­вид­ным аргу­мен­том было бы то, что люди ста­но­вят­ся бла­го­род­ны­ми имен­но через тех­но­ло­гии, уве­ли­чи­ва­ю­щие спо­соб­ность тво­рить доб­ро и зло. Одна­ко идея о том, что может суще­ство­вать мораль­но непро­зрач­ное, но бла­го­род­ное стрем­ле­ние к тех­но­ло­гии, — это то место, где мы можем начать раз­ра­ба­ты­вать кон­цеп­цию экзи­стен­ци­аль­ной тех­но­ло­гии. Высо­кая мораль­ная непро­зрач­ность — высо­кая экзи­стен­ци­аль­ная отдача.

Давай­те назо­вем тех­но­ло­гии, кото­рые каса­ют­ся в основ­ном меж­лич­ност­ных отно­ше­ний меж­ду людь­ми и про­зрач­но уве­ли­чи­ва­ют нашу спо­соб­ность тво­рить доб­ро и зло, функ­ци­о­наль­ны­ми. Мы исполь­зу­ем их на дру­гих людях, что­бы либо навре­дить им, либо помочь. Мы совер­ша­ем как вели­кие, так и ужас­ные вещи с помо­щью лекарств, ору­жия, средств мас­со­вой инфор­ма­ции, систем мони­то­рин­га и транс­пор­та, стро­и­тель­ных мате­ри­а­лов или энер­ге­ти­че­ских инфра­струк­тур, кото­рые так­же дела­ют воз­мож­ны­ми вычис­ле­ния. Без этих функ­ци­о­наль­ных тех­но­ло­гий не суще­ству­ет чело­ве­че­ской циви­ли­за­ции в нашем пони­ма­нии; они так­же слу­жат осно­вой для суще­ство­ва­ния дру­гих типов тех­но­ло­гий. Экзи­стен­ци­аль­ные тех­но­ло­гии, напро­тив, каса­ют­ся циви­ли­за­ции, какой мы ее еще не зна­ем. Изме­няя эво­лю­ци­он­ные тра­ек­то­рии, они опре­де­ля­ют не толь­ко то, хоро­шо ли мы живем или про­дол­жа­ем выжи­вать на этой пла­не­те, но и то, в каче­стве кого мы живем и выжи­ва­ем, и мож­но ли это вооб­ще назы­вать сло­вом «мы». Они могут не впи­сы­вать­ся в наши нынеш­ние мораль­ные кате­го­рии⁷, пото­му что их спо­соб­ность раз­ру­шать наши базо­вые циви­ли­за­ци­он­ные иде­а­лы настоль­ко вели­ка, что несет риск их пол­ной отме­ны. Язык, как уст­ный, так и пись­мен­ный, явля­ет­ся наи­бо­лее ярким при­ме­ром экзи­стен­ци­аль­ной тех­но­ло­гии, изме­нив­шей всё в пони­ма­нии само­сти, мыш­ле­ния и памя­ти. Явля­ет­ся ли тех­но­ло­гия функ­ци­о­наль­ной или экзи­стен­ци­аль­ной, мож­но уви­деть толь­ко ретро­спек­тив­но или на про­тя­же­нии тыся­че­ле­тий. Одно так­же может быть вло­же­но в дру­гое — воз­мож­но, это зави­сит от пер­спек­ти­вы. По мере того как мы раз­ра­ба­ты­ва­ем тех­но­ло­гии, кото­рые кажут­ся обы­ден­ны­ми и создан­ны­ми «для нас», их дол­го­сроч­ные послед­ствия могут отчуж­дать нас от того опре­де­ле­ния чело­веч­но­сти, кото­рое ранее было нам свой­ствен­но или каза­лось есте­ствен­ным. Иде­а­лы, столь проч­ные, что у нас, воз­мож­но, даже нет для них назва­ний, могут про­сто испариться.

3
Экзистенциальные инструменты для ума и тела

Пере­чи­ты­ва­ние «Сум­мы тех­но­ло­гии» или любой футу­ро­ло­ги­че­ской рабо­ты через подоб­ную приз­му — зада­ча отча­сти про­из­воль­ная. Кни­га пред­став­ля­ет мно­го­чис­лен­ные гипо­те­зы о тра­ек­то­ри­ях буду­щих тех­но­ло­гий, неко­то­рые из кото­рых иссле­до­ва­ны деталь­но, дру­гие лишь упо­мя­ну­ты вскользь. Давай­те сосре­до­то­чим­ся на том, где потен­ци­ал тех­но­ло­гий отчуж­дать нас и нару­шать дол­го­сроч­ные эво­лю­ци­он­ные тра­ек­то­рии выра­жен наи­бо­лее ярко: во-пер­вых, в эпи­сте­мо­ло­гии (как мы позна­ем мир), и во-вто­рых, в онто­ло­гии (что суще­ству­ет в мире).

Пер­вая кате­го­рия каса­ет­ся эпи­сте­мо­ло­гии, нау­ки и зна­ния, а так­же абстракт­ных воз­мож­но­стей чело­ве­че­ской циви­ли­за­ции, направ­лен­ных преж­де все­го на обес­пе­че­ние даль­ней­ше­го раз­ви­тия нау­ки и тех­ни­ки. Зна­ние пред­став­ля­ет­ся нам, пишет Лем, как вели­че­ствен­ный, пре­крас­ный храм, кото­рый чело­ве­че­ство совер­шен­ство­ва­ло кир­пи­чик за кир­пи­чи­ком. Лишь кое-где, раз­бро­сан­ные по сто­лам, как лист­ки бума­ги, лежат еще не решен­ные загад­ки, к кото­рым мы наме­ре­ны разум­но под­сту­пить­ся в буду­щем. «Мы поки­да­ем сей храм с уве­рен­но­стью, что эти загад­ки рано или позд­но будут реше­ны… у нас даже не мельк­нет и мыс­ли, что реше­ние этих голо­во­ло­мок может при­ве­сти к раз­ру­ше­нию поло­ви­ны зда­ния». Одна­ко, подоб­но эво­лю­ции, зна­ние не про­грес­си­ру­ет пред­ска­зу­е­мым и линей­ным обра­зом, а дви­жет­ся через утра­ты, регрес­сии и извер­же­ния. Одной из глав­ных забот Лема — тем, что он рас­смат­ри­вал как экзи­стен­ци­аль­ный риск, — было то, что чело­ве­че­ская циви­ли­за­ция может не спра­вить­ся с огром­ным объ­е­мом инфор­ма­ции, откры­ва­е­мой нау­кой. Он опа­сал­ся, что мы ока­жем­ся неспо­соб­ны эффек­тив­но син­те­зи­ро­вать ее, что при­ве­дет к пла­то и после­ду­ю­ще­му упад­ку со вре­ме­нем. Он пред­ска­зы­вал, что буду­щее при­не­сет мас­штаб­ное замед­ле­ние откры­тий, а затем застой, когда нау­ка рас­ко­лет­ся на мик­ро­ско­пи­че­ские «пузы­ри филь­тров», изо­ли­ро­ван­ные интел­лек­ту­аль­ные сооб­ще­ства, кото­рые под­креп­ля­ют свои соб­ствен­ные пред­по­ло­же­ния, будучи неспо­соб­ны­ми создать связ­ный кор­пус знаний.

Эти embarras de richesse, эту лави­ну инфор­ма­ции, обру­шен­ную на чело­ве­ка алч­но­стью его позна­ния, необ­хо­ди­мо обуз­дать. Мы долж­ны научить­ся регу­ли­ро­вать даже про­гресс нау­ки, ина­че слу­чай­ность оче­ред­ных эта­пов раз­ви­тия будет воз­рас­тать. Выиг­рыш — то есть вне­зап­но откры­ва­ю­щи­е­ся про­сто­ры для новых бли­ста­тель­ных дей­ствий — будет охва­ты­вать нас сво­ей бес­пре­дель­но­стью, не поз­во­ляя уви­деть иные воз­мож­но­сти, кто зна­ет — не более ли цен­ные в отда­лен­ной пер­спек­ти­ве. Речь идет о том, что­бы циви­ли­за­ция обре­ла сво­бо­ду стра­те­ги­че­ско­го манев­ри­ро­ва­ния в сво­ем раз­ви­тии, что­бы она мог­ла опре­де­лять свои пути.

Лем пред­по­ла­га­ет, что про­гресс нау­ки и тех­ни­ки может зави­сеть от их отсо­еди­не­ния от чело­ве­че­ско­го пони­ма­ния. В двух корот­ких пас­са­жах он упо­ми­на­ет «гно­сти­че­скую машину»:

Одна­ко мы зна­ем, по край­ней мере в гру­бых чер­тах, что долж­на уметь такая «гно­сти­че­ская» маши­на: для созда­ния тео­рии слож­ных систем она долж­на учи­ты­вать огром­ное коли­че­ство пара­мет­ров — такое коли­че­ство, с кото­рым алго­рит­мы совре­мен­ной нау­ки спра­вить­ся не могут.… Итак, на выхо­де «гно­сти­че­ско­го твор­ца» мы полу­ча­ем тео­рию, зако­ди­ро­ван­ную, ска­жем, в виде целой систе­мы урав­не­ний. Смо­гут ли люди как-либо под­сту­пить­ся к этим уравнениям?

То, в какой мере мате­рия нахо­дит­ся под кон­тро­лем чело­ве­ка, — это, при­зна­ем, вопрос пер­спек­ти­вы. То, что чело­век уме­ет пла­вать, не озна­ча­ет, что он может пере­плыть оке­ан сам по себе без кораб­ля, не гово­ря уже об ана­ло­гич­ной ситу­а­ции с реак­тив­ны­ми само­ле­та­ми и кос­ми­че­ски­ми раке­та­ми. Подоб­ная эво­лю­ция сей­час про­ис­хо­дит, в неко­то­ром роде парал­лель­но, во все­лен­ной инфор­ма­ции. Чело­век может напра­вить гно­сти­че­скую маши­ну на про­бле­му, кото­рую он — или его потом­ки — со вре­ме­нем смо­жет решить само­сто­я­тель­но, но в ходе сво­ей рабо­ты маши­на может открыть ему гла­за на про­бле­мы, о кото­рых он даже не подо­зре­вал. В конеч­ном сче­те, у кого здесь инициатива?

Сле­дуя тер­ми­но­ло­гии само­го Лема, мы можем назвать эти тех­но­ло­гии гно­сти­че­ски­ми. Их цель — авто­ма­ти­за­ция нау­ки через хотя бы частич­ное отстра­не­ние от чело­ве­че­ско­го позна­ния⁸. Это непро­стая зада­ча, пото­му что она тре­бу­ет от нас пони­ма­ния того, как функ­ци­о­ни­ру­ет нау­ка, что так­же явля­ет­ся одной из глав­ных тем твор­че­ства Лема. Он пред­ска­зы­ва­ет, что уче­ные будут все чаще пола­гать­ся на гно­сти­че­ские тех­но­ло­гии для полу­че­ния зна­ний мето­да­ми, кото­рые оста­ют­ся в неко­то­рой сте­пе­ни неяс­ны­ми — «строя тео­рии не на эмпи­ри­че­ских фак­тах, а на струк­ту­рах, раз­ра­бо­тан­ных гно­сти­че­ски­ми маши­на­ми». Это будет иметь послед­ствия для мыш­ле­ния о зна­нии как тако­вом — оно боль­ше не будет чем-то объ­яс­ни­мым в соот­вет­ствии с науч­ным мето­дом, дове­дён­ным до совер­шен­ства за послед­ние несколь­ко столетий.

Мно­гие опи­са­ния Лема в «Сум­ме» не при­вя­за­ны к кон­крет­но­му суб­стра­ту, одна­ко с нашей точ­ки зре­ния ком­пью­те­ры кажут­ся глав­ны­ми кан­ди­да­та­ми на роль гно­сти­че­ских тех­но­ло­гий. Мож­но утвер­ждать, что гно­сти­че­ские маши­ны уже суще­ству­ют в фор­ме «чер­ных ящи­ков» неин­тер­пре­ти­ру­е­мо­го глу­бо­ко­го обу­че­ния. Эти тех­но­ло­гии про­из­во­дят зна­ния, в то вре­мя как их внут­рен­ние опе­ра­ции оста­ют­ся неяс­ны­ми. AlphaFold, про­дви­ну­тая систе­ма ИИ от DeepMind, совер­ши­ла рево­лю­цию в био­ло­гии, точ­но пред­ска­зы­вая трех­мер­ные струк­ту­ры бел­ков исклю­чи­тель­но на осно­ве их ами­но­кис­лот­ных после­до­ва­тель­но­стей, откры­вая новые пути для созда­ния лекарств. В поис­ках при­зна­ков вне­зем­ной жиз­ни иссле­до­ва­те­ли SETI все чаще обра­ща­ют­ся к ИИ для ана­ли­за огром­ных мас­си­вов дан­ных с радио­те­ле­ско­пов. ИИ так­же ана­ли­зи­ру­ют ком­му­ни­ка­цию живот­ных, нахо­дя зако­но­мер­но­сти в пес­нях птиц и китов, при этом иссле­до­ва­те­ли уже пред­по­ла­га­ют, что у живот­ных есть свои алфа­ви­ты и язы­ки, что под­ры­ва­ет преж­ние убеж­де­ния о чело­ве­че­ской исклю­чи­тель­но­сти. Эти тех­но­ло­гии рабо­та­ют вне прин­ци­пов кау­заль­но­го (при­чин­но-след­ствен­но­го) объ­яс­не­ния. В сво­их внут­рен­них мно­го­мер­ных век­тор­ных про­стран­ствах они обра­ба­ты­ва­ют поня­тия запу­тан­ным, неин­тер­пре­ти­ру­е­мым обра­зом. Они вно­сят вклад в зна­ние, не делая его при этом понятным.

Виде­ние Лема охва­ты­ва­ет не толь­ко науч­ный про­гресс, но и исполь­зо­ва­ние машин­но­го гно­зи­са для созда­ния буду­щих фило­соф­ских и мета­фи­зи­че­ских тео­рий. В раз­лич­ных гла­вах «Сум­мы» он пред­ви­дит новые фор­мы моде­ли­ро­ва­ния и симу­ля­ций, рефе­рен­та­ми кото­рых будут не эмпи­ри­че­ские миры, а кон­цеп­ции и идеи. Тех­но­ло­гии фан­то­ма­ти­ки, напри­мер, мог­ли бы поз­во­лить нам симу­ли­ро­вать целые миры, осно­ван­ные на поло­же­ни­ях кон­крет­ных фило­со­фий. Эта фор­ма явлен­но­го зна­ния была бы фило­соф­ской или мета­фи­зи­че­ской. Нам еще пред­сто­ит изоб­ре­сти гно­сти­че­ские тех­но­ло­гии для этих целей.

Вто­рая кате­го­рия тех­но­ло­гий каса­ет­ся того, что суще­ству­ет в мире — онто­ло­гии, иден­тич­но­сти и тел. Назо­вем их антро­по­фор­ми­ру­ю­щи­ми тех­но­ло­ги­я­ми. Они мани­пу­ли­ру­ют позна­ни­ем, вос­про­из­вод­ством и телес­но­стью, бро­сая вызов нынеш­ним пред­став­ле­ни­ям о сво­бо­де, само­сти или субъ­ект­но­сти. Кло­ни­ро­ва­ние, напри­мер, вве­ло бы про­бле­му «экзи­стен­ци­аль­ной отно­си­тель­но­сти», подоб­ную кон­цеп­ции отно­си­тель­но­сти в физи­ке, где иден­тич­ность и самость ста­но­вят­ся пол­но­стью отно­си­тель­ны­ми по отно­ше­нию к ори­ги­на­лу и его копи­ям. Антро­по­фор­ми­ро­ва­ние мог­ло бы про­ис­хо­дить и в мас­шта­бе попу­ля­ций, напри­мер, в виде «план созда­ния «наи­луч­шей моде­ли Homo sapiens», созда­ние не путем рез­ко­го скач­ка, а путем мед­лен­ных и посте­пен­ных изме­не­ний, что сгла­ди­ло бы раз­ли­чия меж­ду поко­ле­ни­я­ми». Это может вклю­чать исполь­зо­ва­ние «машин­ных свах» для направ­ле­ния чело­ве­че­ской люб­ви и сек­су­аль­но­го раз­мно­же­ния по опре­де­лен­ным тра­ек­то­ри­ям, ксе­но­мат­ки (искус­ствен­ные утро­бы) или созда­ние жиз­ни in vitro с исполь­зо­ва­ни­ем спер­мы, сохра­няв­шей­ся века­ми. Раз­мыш­ляя над каж­дым вари­ан­том, Лем с боль­шим инте­ре­сом иссле­ду­ет эти шоки­ру­ю­щие воз­мож­но­сти, обду­мы­вая зна­че­ние пере­да­чи яко­бы «чело­ве­че­ских» про­цес­сов и инстинк­тов маши­нам, кото­рые сами не обла­да­ют внут­рен­ним миром:

Я вовсе не стрем­люсь при­дать демо­низм этим без­лич­ным регу­ли­ру­ю­щим маши­нам; я попро­сту опи­сы­ваю пора­зи­тель­ную ситу­а­цию, когда к нам, как к Поли­фе­му в его пеще­ре, под­би­ра­ет­ся Никто, одна­ко на этот раз для наше­го же блага.

В 1960‑е годы такие тех­но­ло­гии были по боль­шей части гипо­те­ти­че­ски­ми: «Тех­но­ло­гия более агрес­сив­на, чем мы обыч­но пола­га­ем. — пишет Лем, — её втор­же­ние в пси­хи­ку, про­бле­мы, свя­зан­ные с син­те­зом и мета­мор­фо­зом лич­но­сти (кото­рые мы рас­смот­рим осо­бо), лишь в насто­я­щее вре­мя состав­ля­ют пустое мно­же­ство». Одна­ко это уже не так. Рас­тет чис­ло людей, кото­рые нахо­дят парт­не­ров через алго­рит­ми­че­ский под­бор в при­ло­же­ни­ях для зна­комств, наря­ду с рас­ту­щей тен­ден­ци­ей вступ­ле­ния людей в роман­ти­че­ские отно­ше­ния с искус­ствен­ны­ми аген­та­ми, таки­ми как чат-боты. Рас­смот­рим так­же зарож­да­ю­щи­е­ся тех­но­ло­гии репро­дук­ции, такие как IVG (гаме­то­ге­нез in vitro), кото­рый поз­во­ля­ет созда­вать яйце­клет­ки и спер­ма­то­зо­и­ды из обыч­ных тка­ней тела, напри­мер кле­ток кожи. Бла­го­да­ря IVG «муж­чи­ны мог­ли бы стать гене­ти­че­ски­ми мате­ря­ми, жен­щи­ны — отца­ми, а люди мог­ли бы быть потом­ка­ми одно­го, трех, четы­рех или любо­го коли­че­ства роди­те­лей». Если послед­ние два деся­ти­ле­тия харак­те­ри­зо­ва­лись обра­зом ком­пью­тер­но­го гика и гене­раль­но­го дирек­то­ра ком­па­нии, то бли­жай­шее буду­щее может быть сосре­до­то­че­но на антро­по­фор­ми­ро­ва­нии или взло­ме тел, нерв­ных систем, эмо­ций и иден­тич­но­стей. Люди уже созда­ют циф­ро­вые копии умер­ших близ­ких, про­из­во­дят голо­со­вые кло­ны самих себя для авто­ма­ти­зи­ро­ван­но­го вза­и­мо­дей­ствия с рекла­мо­да­те­ля­ми и отправ­ля­ют дипфей­ки для секс-рабо­ты. Барьер для адап­та­ции здесь не науч­ный, а соци­аль­ный. Хотя эти раз­ра­бот­ки сей­час кажут­ся изо­ли­ро­ван­ны­ми, они могут сиг­на­ли­зи­ро­вать о зарож­да­ю­щей­ся соци­аль­ной готов­но­сти к зна­чи­тель­ным мани­пу­ля­ци­ям с иден­тич­но­стью с помо­щью таких тех­но­ло­гий, как CRISPR — инстру­мент редак­ти­ро­ва­ния генов. На доста­точ­но длин­ном отрез­ке вре­ме­ни такое антро­по­фор­ми­ро­ва­ние может ука­зы­вать на поис­ти­не экзи­стен­ци­аль­ные изме­не­ния для чело­ве­че­ской циви­ли­за­ции или даже чело­ве­че­ско­го вида.

Мы можем пред­ло­жить мно­же­ство дру­гих видов тех­но­ло­гий, дру­гих кате­го­рий, дру­гих воз­мож­ных инстру­мен­тов. Взя­тые вме­сте, гно­сти­че­ские и антро­по­фор­ми­ру­ю­щие тех­но­ло­гии могут слу­жить при­ме­ром того, что такое экзи­стен­ци­аль­ные тех­но­ло­гии: это не про­сто инстру­мен­ты для того, что­бы отно­сить­ся друг к дру­гу хоро­шо или пло­хо, а про­цес­сы, кото­рые рас­ша­ты­ва­ют осно­вы того, как мы позна­ем мир и что в нем суще­ству­ет. Гно­сти­че­ские тех­но­ло­гии вытес­ня­ют чело­ве­че­ское позна­ние как цен­траль­ный узел эпи­сте­ми­че­ско­го авто­ри­те­та, ука­зы­вая на буду­щее, в кото­ром зна­ния гене­ри­ру­ют­ся через нече­ло­ве­че­ские, часто непо­сти­жи­мые про­цес­сы. Антро­по­фор­ми­ру­ю­щие тех­но­ло­гии, в свою оче­редь, деста­би­ли­зи­ру­ют само поня­тие «чело­век», вме­ши­ва­ясь в телес­ность, репро­дук­цию и жела­ние, пере­осмыс­ли­вая самость как нечто искус­ствен­ное и слу­чай­ное. И те, и дру­гие пред­по­ла­га­ют, что наи­бо­лее зна­чи­мые тех­но­ло­ги­че­ские сдви­ги — это не обя­за­тель­но те, кото­рые напря­мую свя­за­ны с чело­ве­че­ски­ми потреб­но­стя­ми, а те, кото­рые меня­ют то, что счи­та­ет­ся зна­ни­ем о суще­ство­ва­нии или самим суще­ство­ва­ни­ем. Таким обра­зом, «Сум­ма тех­но­ло­гии» оста­ет­ся не толь­ко про­ро­че­ской, но и неза­ме­ни­мой для любой футу­ро­ло­гии кни­гой, кото­рая хочет понять, что лежит за пре­де­ла­ми непо­сред­ствен­ных соци­аль­ных приоритетов.

4
Взгляд в будущее с Востока

Ото­дви­гая на вто­рой план чело­ве­че­ское осмыс­ле­ние и чая­ния соци­аль­ных пере­мен, «Сум­ма тех­но­ло­гии» рез­ко кон­тра­сти­ро­ва­ла как с про­ме­те­ан­ской совет­ской науч­ной фан­та­сти­кой, так и с санк­ци­о­ни­ро­ван­ной госу­дар­ством марк­сист­ской «нау­кой» того вре­ме­ни, где чело­век, как хра­ни­тель и капи­тан кораб­ля под назва­ни­ем Исто­рия, укро­ща­ет бур­ные воды При­ро­ды, направ­ля­ясь к более совер­шен­ным фор­мам про­грес­са и спра­вед­ли­во­сти. В отли­чие от поли­ти­че­ской теле­о­ло­гии или уто­пи­че­ской убеж­ден­но­сти в том, что мир со вре­ме­нем ста­но­вит­ся (или дол­жен ста­но­вить­ся) «луч­ше», эво­лю­ция пред­ста­ет как адап­тив­ный, хит­рый, хао­тич­ный и без­раз­лич­ный про­цесс. Жизнь соби­ра­ет себя слу­чай­ным и при­спо­соб­лен­че­ским обра­зом; она не обра­ща­ет вни­ма­ния на наши бла­го­род­ные наме­ре­ния или мораль­ные при­тя­за­ния. И точ­но так же, как фор­мы жиз­ни, тех­но­ло­гии не про­сто «про­грес­си­ру­ют» к луч­шим фор­мам, но блуж­да­ют и мути­ру­ют. Каки­ми бы плот­ны­ми ни были наши кон­цеп­ту­аль­ные сети, мир сопро­тив­ля­ет­ся нашим уси­ли­ям, одно­вре­мен­но втор­га­ясь в поня­тия, кото­рые еще вче­ра каза­лись высе­чен­ны­ми в камне.

Хотя гораз­до про­ще думать о тех­но­ло­гии как о подат­ли­вом инстру­мен­те соци­аль­ных пере­мен, это удоб­ная иллю­зия, подо­ба­ю­щая идео­ло­гу, но не тому, кто хочет мыс­лить парал­лель­но пото­кам исто­рии и эво­лю­ции. Тем не менее, идеи обре­та­ют более чет­кие очер­та­ния, когда отра­жа­ют­ся в зер­ка­ле лич­но­го опы­та. Интел­лек­ту­а­лы, пере­жи­ва­ю­щие пере­лом­ные исто­ри­че­ские собы­тия, могут быст­рее заме­тить опре­де­лен­ные зако­но­мер­но­сти, управ­ля­ю­щие исто­ри­ей как тако­вой, — зако­но­мер­но­сти, кото­рые рано или позд­но про­яв­ля­ют­ся и в дру­гих вре­мен­ных лини­ях. То, что они обна­ру­жи­ва­ют, не явля­ет­ся куль­тур­но отно­си­тель­ным; это лишь вре­мен­но недо­ступ­но для тех, кто еще не ока­зал­ся в эпи­цен­тре тур­бу­лент­но­сти, где обна­жа­ет­ся логи­ка амо­раль­но­го отбо­ра и экс­пе­ри­мен­тов над всем сущим. Хотя неко­то­рые идеи пости­жи­мы толь­ко через исто­ри­че­скую слу­чай­ность, они каса­ют­ся всех людей.

Сле­до­ва­тель­но, воз­вра­ще­ние к неко­то­рым собы­ти­ям жиз­ни Лема поз­во­ля­ет под­черк­нуть их уни­вер­саль­ный резо­нанс и зна­чи­мость для тео­рии экзи­стен­ци­аль­ных тех­но­ло­гий. Если эво­лю­ция и исто­рия не дви­жут­ся к совер­шен­ству по линей­ной шка­ле вре­ме­ни, нам сто­ит при­слу­шать­ся к тем, кто нахо­дит­ся на обрат­ном пути маят­ни­ка, пока мы дви­жем­ся впе­ред: их идеи не «отста­ют», они про­сто нахо­дят­ся в дру­гой точ­ке пути, раз­во­ра­чи­ва­ю­ще­го­ся многосторонне.

То, что Лем напи­сал «Сум­му тех­но­ло­гии», неуди­ви­тель­но: в 1960‑е годы, на пике сво­ей лите­ра­тур­ной карье­ры, он уже заяв­лял, что хотел бы оста­вить науч­ную фан­та­сти­ку (жанр, кото­ро­му, по его мне­нию, не хва­та­ло стро­го­сти) ради науч­но­го пись­ма. Хотя он был бле­стя­щим рас­сказ­чи­ком, в неко­то­рых из его эру­ди­ро­ван­ных про­из­ве­де­ний отчет­ли­во вид­но, что он пред­по­чел бы зани­мать­ся фило­со­фи­ей или нау­кой — ряд его рома­нов быст­ро пре­вра­ща­ет­ся в серию эссе­и­сти­че­ских лек­ций, за кото­ры­ми едва уга­ды­ва­ет­ся сюжет. В нача­ле 1960‑х, во вре­мя рабо­ты над «Сум­мой», поезд­ки в Моск­ву и обще­ние с таки­ми аст­ро­но­ма­ми и физи­ка­ми, как Иосиф Шклов­ский и Петр Капи­ца, кото­рые при­ни­ма­ли его как рав­но­го, ожи­ви­ли его меч­ты о науч­ной карье­ре. Бла­го­да­ря помо­щи рус­ских пере­вод­чи­ков, Адри­а­ны Гро­мо­вой и Дмит­рия Брус­ки­на, а так­же хру­щев­ской отте­пе­ли, облег­чив­шей доступ к англо­языч­ным науч­ным пуб­ли­ка­ци­ям в СССР, Лем смог озна­ко­мить­ся с горя­чо обсуж­да­е­мы­ми кни­га­ми по кибер­не­ти­ке. В отли­чие от ста­лин­ских вре­мен, в пери­од отте­пе­ли кибер­не­ти­ка боль­ше не счи­та­лась реак­ци­он­ной бур­жу­аз­ной лже­на­у­кой. В язы­ке кибер­не­ти­ки Лем нашел идеи о тех­но­ло­гии, пере­кли­ка­ю­щи­е­ся с тем, что он изу­чал в есте­ствен­ных науках:

Эти идеи были свя­за­ны со спе­ци­фи­че­ским миро­воз­зре­ни­ем, в кото­ром соци­аль­ные свя­зи фор­ми­ру­ют­ся через обмен инфор­ма­ци­ей, под­вер­жен­ной энтро­пии. Нор­берт Винер, подоб­но Дар­ви­ну, отка­зал­ся от пред­став­ле­ния о том, что эво­лю­ция — это посте­пен­ное про­дви­же­ние к всё более высо­ким и луч­шим фор­мам. Вме­сто это­го он ука­зал, что живые суще­ства обла­да­ют врож­ден­ной склон­но­стью к мно­го­на­прав­лен­но­му раз­ви­тию, одно­вре­мен­но ими­ти­руя сво­их пред­ков, что в конеч­ном ито­ге помо­га­ет им адап­ти­ро­вать­ся к окру­жа­ю­щей среде.

Лем обла­дал уни­каль­ным набо­ром зна­ний для такой рабо­ты. Хотя он был изве­стен как писа­тель-фан­таст и автор попу­ляр­но­го рома­на «Соля­рис» (1961), он учил­ся на вра­ча, рабо­тал рецен­зен­том науч­ных книг, писал моно­гра­фии об эмпи­риз­ме в лите­ра­ту­ре и был авто­ди­дак­том высо­чай­ше­го уров­ня. Его науч­но-попу­ляр­ные рабо­ты слу­жи­ли для поль­ских чита­те­лей путе­во­ди­те­лем по тех­но­ло­ги­че­ским изме­не­ни­ям в мире. Хотя он был изве­стен широ­ко­му чита­те­лю по исто­ри­ям о кос­ми­че­ских путе­ше­стви­ях и далё­ких пла­не­тах, его инте­рес к био­ло­ги­че­ским нау­кам оче­вид­но про­сле­жи­ва­ет­ся в его более чем два­дца­ти рома­нах, десят­ках корот­ких рас­ска­зов, сотен эссе. На про­тя­же­нии всей «Сум­мы тех­но­ло­гии» он раз­мыш­ля­ет о тра­ек­то­ри­ях тех­но­ло­ги­че­ско­го раз­ви­тия не через пяти­лет­ние или деся­ти­лет­ние пла­ны соци­аль­но-эко­но­ми­че­ско­го раз­ви­тия, а через приз­му дол­го­сроч­ных веро­ят­но­стей. Совет­ская кни­го­пе­чать гораз­до боль­ше пред­по­чи­та­ла ран­ние соц­ре­а­ли­сти­че­ские про­из­ве­де­ния Лема за их нехит­рые про­грес­сив­ные идеи о тех­ни­ке как инстру­мен­те соци­аль­но­го про­грес­са. Его шедевр «Соля­рис» — где таин­ствен­ная пла­не­та-оке­ан сопро­тив­ля­ет­ся всем попыт­кам чело­ве­че­ско­го пони­ма­ния, а тех­но­ло­гия явля­ет­ся ско­рее мета­фи­зи­че­ской, чем соци­аль­ной про­бле­мой — под­верг­ся напад­кам и цен­зу­ре за «мисти­цизм и ниги­лизм». Одна­ко тех­но­ло­гия полез­на и инте­рес­на имен­но пото­му, что ее невоз­мож­но све­сти к чело­ве­че­ским замыс­лам. Ее цен­ность заклю­ча­ет­ся в ее отчуж­да­ю­щем харак­те­ре, кото­рый сле­ду­ет при­нять. Пере­жив крах уто­пи­че­ских про­ек­тов «луч­ше­го обще­ства», Лем сде­лал сво­и­ми люби­мы­ми тема­ми тех­но­ло­ги­че­ские ава­рии и чело­ве­че­ский хюбрис (гор­ды­ню), а так­же нашу неспо­соб­ность постичь ина­ко­вость и наше место в кос­мо­се. Его роман «Эдем» начи­на­ет­ся с про­стой фра­зы: «Про­изо­шла ошиб­ка в расчетах».

В пись­мах к дру­зьям Лем гово­рил о реа­ли­ях писа­тель­ства в соци­а­ли­сти­че­ской Поль­ше в 1955 году, когда бума­га была дефи­ци­том, и он шутил: «Писа­тель­ство — самая тем­ная часть моей жиз­ни. Весь мой твор­че­ский про­цесс — это чере­да гнус­ных махи­на­ций. Года­ми, что­бы иметь воз­мож­ность писать, я шан­та­жи­ро­вал госу­дар­ствен­ных чинов­ни­ков, поль­зо­вал­ся кумов­ством, лгал и обма­ны­вал». В усло­ви­ях дефи­ци­та писа­те­ли стро­чи­ли свои рабо­ты на кон­вер­тах или упа­ко­воч­ной бума­ге, выбро­шен­ной поч­то­вым отде­ле­ни­ем. По иро­нии судь­бы, они так­же эко­но­ми­ли бума­гу, остав­шу­ю­ся от ста­тей, зака­зан­ных пар­ти­ей и посвя­щен­ных про­грес­су и морали:

[Мы все раз­ли­ва­ем­ся соло­вья­ми] о при­зва­нии писа­те­ля, этой сове­сти нации. А потом — немно­го шан­та­жа, немно­го подо­бо­стра­стия, одно сомни­тель­ное эссе, быст­рый зво­нок дру­гу в ред­кол­ле­гию — и пре­крас­ней­шая мораль­ная пье­са готова.

Истин­ные взгля­ды Лема на мораль и про­гресс были слож­ны­ми. В «Сум­ме» он отме­ча­ет, что нау­ка поз­во­ля­ет нам загля­нуть в «сущ­ность совер­шен­но без­раз­лич­но­го мира», кото­рый оста­ет­ся невоз­му­ти­мым перед лицом чело­ве­че­ских надежд и стра­хов. Или, как он пишет в одном из романов:

Имен­но нау­ка явля­ет­ся транс­цен­ден­ци­ей опы­та, сти­ра­ю­щей в прах вче­раш­ние кате­го­рии мыс­ли; кажет­ся, еще вче­ра рух­ну­ли абсо­лют­ные про­стран­ство и вре­мя, сего­дня может взо­рвать­ся кажу­ще­е­ся веч­ным раз­ли­чие меж­ду... детер­ми­низ­мом и случайностью.

В осно­ва­нии фило­со­фии — кото­рая все­гда хочет ска­зать боль­ше, чем воз­мож­но в дан­ный момент, — даже в тру­дах самых бле­стя­щих мыс­ли­те­лей скры­та ост­рая хруп­кость. Стрем­ле­ние чело­ве­ка к зна­нию — это бес­ко­неч­ная зада­ча, но фило­со­фия пыта­ет­ся достичь это­го пре­де­ла одним уда­ром, совер­шая «корот­кое замы­ка­ние» к окон­ча­тель­ной и неиз­мен­ной истине. Нау­ка же дви­жет­ся сво­им посте­пен­ным шагом, ино­гда замед­ля­ясь до полз­ка, порой топ­чась на месте, но в кон­це кон­цов она дости­га­ет тех пре­дель­ных тран­шей, кото­рые выры­ла фило­соф­ская мысль, и, совер­шен­но не счи­та­ясь с тем, что ей «не поло­же­но» пере­се­кать эти барье­ры интел­лек­та, про­хо­дит насквозь.

Это были дерз­кие мыс­ли для чело­ве­ка, жив­ше­го при поли­ти­че­ской систе­ме, кото­рая хоте­ла объ­явить всё — от пси­хи­ки до кос­мо­са — покор­ным чело­ве­че­ским идео­ло­ги­ям. Сми­ре­ние Лема перед неустан­ным натис­ком исто­рии лиши­ло его иллю­зий и наив­но­сти, но не ува­же­ния к Неиз­вест­но­му, веч­но под­ве­шен­но­му в ожи­да­нии. Футу­ро­ло­гия долж­на пока­зать нам то, что лежит за пре­де­ла­ми чело­ве­че­ско­го осмыс­ле­ния. Эта зада­ча может быть реше­на как с помо­щью рома­нов и искус­ства, так и вни­ма­ния к транс­фор­ма­ци­ям в нау­ке. Лем сим­во­лич­но назвал свой послед­ний роман «Фиа­ско», отра­жая глу­бо­кий скеп­ти­цизм в спо­соб­но­сти чело­ве­че­ства спра­вить­ся с этой зада­чей. Осталь­ные два­дцать лет сво­ей жиз­ни он посвя­тил пуб­ли­ка­ции науч­но-попу­ляр­ных очер­ков по нау­ке, тех­ни­ке и политике.

Рас­ту­щий пес­си­мизм Лема про­ис­те­кал не толь­ко из его интер­пре­та­ции эво­лю­ции, но и из его соб­ствен­ной жиз­ни. Моло­дой еврей из Льво­ва 1920‑х годов, он повзрос­лел в горо­де, ещё не опра­вив­шем­ся от поль­ско-укра­ин­ской вой­ны 1918–1919 годов. Его уче­ба и науч­ные амби­ции были пре­рва­ны нацист­ским втор­же­ни­ем 1941 года, кото­ро­го его семья чудом избе­жа­ла. Эти трав­мы пре­сле­до­ва­ли его твор­че­ство. Пере­жив Холо­кост, он хоро­шо знал, что зна­чит для мира рас­па­дать­ся и обре­тать фор­му зано­во. В его рома­нах чело­ве­че­ские пер­со­на­жи часто участ­ву­ют в собы­ти­ях, кото­рые они не кон­тро­ли­ру­ют, подоб­но обрыв­кам бума­ги, несо­мым вет­ра­ми истории.

Интел­лек­ту­аль­ный рас­кол меж­ду так назы­ва­е­мы­ми восточ­ной и запад­ной частя­ми Евро­пы не был ни пре­одо­лен, ни даже при­знан — тем более в отно­ше­нии тех­но­ло­гий, — и эту зада­чу невоз­мож­но решить в рам­ках тако­го крат­ко­го эссе. Наря­ду с совет­ским опы­том и ослаб­лен­ным чув­ством субъ­ект­но­сти, интел­лек­ту­а­лы в Восточ­ной Евро­пе — или на любой тер­ри­то­рии быст­рой модер­ни­за­ции — смог­ли осо­знать тех­но­ло­гию как логи­ку, при­хо­дя­щую извне. Тем не менее, по моей оцен­ке, в отли­чие от мно­гих дру­гих подоб­ных кей­сов, мно­гие восточ­но­ев­ро­пей­ские интел­лек­ту­а­лы⁹ не отверг­ли тех­но­ло­гию, а ско­рее поня­ли ее как вне­че­ло­ве­че­ский век­тор, лежа­щий за пре­де­ла­ми чело­ве­че­ской жесто­ко­сти, доб­ро­де­те­лей и идео­ло­гий, при кото­рых им при­хо­ди­лось жить. При совет­ской вла­сти тер­ри­то­рии были подоб­ны «сво­бод­ным зонам тех­но­ло­ги­че­ско­го и соци­аль­но­го экс­пе­ри­мен­ти­ро­ва­ния, лабо­ра­то­ри­ям, где модер­ни­за­ция про­ис­хо­ди­ла с голо­во­кру­жи­тель­ной ско­ро­стью», это был «футу­ро­шок...». В ответ на это воз­ник­ло мно­же­ство интел­лек­ту­аль­ных аван­гар­дов, чей разо­рван­ный стиль соот­вет­ство­вал рас­па­ду «нор­маль­но­го» чело­ве­че­ско­го вос­при­я­тия. Эта разо­рван­ность вос­при­я­тия — про­ис­те­ка­ю­щая из пре­бы­ва­ния в жесто­ких сетях исто­рии и стре­ми­тель­но­го дви­же­ния в пото­ке пере­мен — рас­кры­ва­ет нели­ней­ную при­ро­ду исто­рии: это не путь к про­грес­су, а цикл, кото­рый посто­ян­но воз­вра­ща­ет­ся к рас­па­ду. Опыт экс­тер­наль­но­сти, отсут­ствия субъ­ект­но­сти или фор­си­ро­ван­но­го изме­не­ния «извне» может отно­сить­ся не толь­ко к ося­за­е­мо­му поли­ти­че­ско­му собы­тию, но и к вне­че­ло­ве­че­ско­му поряд­ку исто­рии, кото­рый пре­вос­хо­дит чело­ве­че­ский контроль.

Если «Сум­ма тех­но­ло­гии» Лема и явля­ет­ся достой­ным собе­сед­ни­ком для тео­рии экзи­стен­ци­аль­ных тех­но­ло­гий, то не толь­ко пото­му, что ее тези­сы резо­ни­ру­ют с сего­дняш­ним интел­лек­ту­аль­ным кли­ма­том меж­дис­ци­пли­нар­но­го про­чте­ния есте­ствен­ных и тех­ни­че­ских наук. То, что мы можем най­ти у Лема — и, воз­мож­но, во всем восточ­но­ев­ро­пей­ском интел­лек­ту­аль­ном насле­дии про­шло­го и насто­я­ще­го — это анти­дот про­тив «лонг­тер­мист­ско­го» виде­ния буду­ще­го как упро­щен­но­го стрем­ле­ния либо к уто­пии, либо к ката­стро­фе, в обо­их слу­ча­ях пол­но­стью под­чи­нен­но­го чело­ве­че­ско­му осмыс­ле­нию. Даже если мы не можем пред­ви­деть кон­крет­ные фор­мы или инстру­мен­ты, кото­рые при­мет или создаст тех­но­ло­гия, мы можем начать фор­му­ли­ро­вать мораль­ную ори­ен­та­цию по отно­ше­нию к тому, что неве­до­мо и вне­че­ло­веч­но. Вме­сто того что­бы отпря­нуть, мы можем научить­ся под­дать­ся наше­му фата­лиз­му, но про­дол­жать упря­мо про­ры­вать­ся к отчуж­де­нию, искус­ствен­но­сти, неве­до­мо­му и вне­че­ло­ве­че­ско­му, а так­же ко всем про­цес­сам, кото­рые не могут быть пол­но­стью захва­че­ны или одо­маш­не­ны чело­ве­че­ски­ми идео­ло­ги­я­ми, раз за разом дока­зы­вав­ши­ми свою несо­сто­я­тель­ность. Экзи­стен­ци­аль­ные тех­но­ло­гии как кон­цеп­ту­аль­ная база дают нам базо­вый язык для опи­са­ния про­грес­си­ру­ю­ще­го отде­ле­ния тех­но­ло­гии от чело­ве­че­ско­го позна­ния и мора­ли, одно­вре­мен­но фик­си­руя наше ощу­ще­ние жиз­ни внут­ри рас­ко­ло­той исто­рии, кото­рая, кажет­ся, дви­жет­ся впе­ред и назад одно­вре­мен­но, а не стре­мит­ся к какой-то теле­о­ло­ги­че­ской цели. Они фик­си­ру­ют как крах иде­а­ла линей­но­го про­грес­са, так и при­вер­жен­ность про­дол­же­нию «сер­фин­га» на непред­ска­зу­е­мых тра­ек­то­ри­ях технологий.

Библиография

1. Arthur, W. Brian. The Nature of Technology: What It Is and How It Evolves. Simon and Schuster, 2009.
2. Bakhurst, David. «Political Emancipation and the Domination of Nature: The Rise and Fall of Soviet Prometheanism.» International Studies in the Philosophy of Science 5, no. 3 (1991): 215–26. https://doi.org/10.1080/02698599108573395.
3. Biberstein, Sandra. «To Watch the War: An Interview with Olexii Kuchkanskyi and Oleksiy Radynski.» Crisis and Communitas, October 24, 2022. https://crisisandcommunitas.com/?crisis=to-watch-the-war-an-interview-mit-olexii-kuchkanskyi-and-oleksiy-radynski.
4. Brennan, Orla. «Artist Arvida Byström Deepfakes Her Own Nudes.» AnOther, April 3, 2024. https://www.anothermag.com/art-photography/15550/arvida-bystrom-ai-deepfake-nudes-artist-in-the-clouds-book.
5. Butko, Peter. «Summa technologiae: Looking Back and Ahead.» In The Art and Science of Stanislaw Lem, edited by Peter Swirski. McGill-Queen’s University Press, 2006. https://doi.org/10.1515/9780773575073–006.
6. Csicsery-Ronay, Istvan. «Lem, Central Europe, and the Genre of Technological Empire.» In The Art and Science of Stanislaw Lem, edited by Peter Swirski. McGill-Queen’s University Press, 2006. https://doi.org/10.1515/9780773575073–009.
7. Dawkins, Richard. The Blind Watchmaker: Why the Evidence of Evolution Reveals a Universe Without Design. W. W. Norton & Company, 1996.
8. The Selfish Gene. Oxford University Press, 1976.
9. Fagone, Jason. „The Jessica Simulation,” San Francisco Chronicle, 2021 https://www.sfchronicle.com/projects/2021/jessica-simulation-artificial-intelligence/.
10. Gajewska, Agnieszka. Stanisław Lem. Wypędzony z wysokiego zamku. Wydawnictwo Literackie, 2021.
11. Zagłada i gwiazdy. Przeszłość w prozie Stanisława Lema. Wydawnictwo Naukowe UAM, 2016.
12. Gerovitch, Slava. «InterNyet: Why the Soviet Union did not build a nationwide computer network.» History and Technology 24, no. 4 (2008): 335–50. https://doi.org/10.1080/07341510802044736.
13. Gille, Bertrand. «Histoire des techniques.» Annuaires de l’École pratique des hautes études 109, no. 1 (1977): 723–86.
14. Hanlon, Michael. «The Golden Quarter.» Aeon, December 3 2014. https://aeon.co/essays/has-progress-in-science-and-technology-come-to-a-halt.
15. Hayles, N. Katherine. Bacteria to AI: Human Futures with our Nonhuman Symbionts. University of Chicago Press, 2025.
16. Unthought: The Power of the Cognitive Nonconscious. University of Chicago Press, 2017.
17. Hester, Helen. «TTF 2020 – Keynote by Helen Hester. Posted July 7, 2020, by Strelka Institute. YouTube, 29.50. https://www.youtube.com/watch?v=Y1fnG9iA5RA.
18. Hofstadter, Douglas R. Gödel, Escher, Bach: An Eternal Golden Braid. Basic Books, 1979.
19. Jumper, John, Richard Evans, Alexander Pritzel, et al. «Highly Accurate Protein Structure Prediction with AlphaFold.» Nature 596 (2021): 583–89. https://doi.org/10.1038/s41586-021–03819‑2.
20. Kapp, Ernst. Elements of a Philosophy of Technology: On the Evolutionary History of Culture. University of Minnesota Press, 2018.
21. Konior, Bogna. «The Gnostic Machine: Artificial Intelligence in Stanisław Lem’s Summa Technologiae.» In Imagining AI: How the World Sees Intelligent Machines, edited by Stephen Cave and Kanta Dihal. Oxford University Press, 2023. https://doi.org/10.1093/oso/9780192865366.003.0006.
22. «The Impersonal Within Us: A Conversation with Bogna Konior.» Interview by Filippo Scafi and Tommaso Garavaglia. Chaosmotics: Thinking Unbound, December 29, 2022. https://www.chaosmotics.com/en/featured/the-impersonal-within-us.
23. «Non-Philosophy and Speculative Posthumanism: A Conversation with David Roden.» Oraxiom: A Journal of Non-Philosophy 1 (2020), 158–67.
24. Lem, Stanisław. Bomba megabitowa. Wydawnictwo Literackie, 1999.
25. Eden. Translated by Marc E. Heine. Harcourt Brace Jovanovich, 1989. First published in Polish in 1959.
26. Fiasco. Translated by Michael Kandel. Harcourt Brace Jovanovich, 1987. First published in German translation in 1986.
27. Filozofia przypadku. Literatura w świetle empirii. Wydawnictwo Literackie, 1968.
28. Głos pana. Wydawnictwo Literackie, 2016, 53–54.
29. His Master’s Voice. MIT Press, 2020.
30. A Perfect Vacuum. Northwestern University Press, 1999.
31. «Science-Fiction: A Hopeless Case—with Exceptions.» In Microworlds: Writings on Science-Fiction and Fantasy, edited by Franz Rottensteiner. Harcourt, Brace and Company, 1984.
32. Sex Wars. Warszawa: Wydawnictwo Nowa, 1996.
33. Solaris. Translated by Bill Johnston. Conversation Tree Press, 2024. First published in Polish in 1961.
34. Summa Technologiae, Kraków: Wydawnictwo Literackie, 2020.
35. MacAskill, William. What We Owe The Future. Simon and Schuster, 2022.
36. Orliński, Wojciech. Lem: Życie nie z tej ziemi. Wydawnictwo Czarne, 2017.
37. Ratliff, Evan, host. Shell Game. Podcast, 2024–. https://www.shellgame.co/.
38. Ryan, Mark, and Leonie N. Bossert. «Dr. Doolittle Uses AI: Ethical Challenges of Trying to Speak Whale.» Biological Conservation 295 (2024): 110648. https://doi.org/10.1016/j.biocon.2024.110648.
39. Schulman, Ari. «The World Isn’t Ready for What Comes After I.V.F.» New York Times, September 9, 2024. https://www.nytimes.com/2024/09/09/opinion/ivf-debate.html.
40. Simondon, Gilbert, Ninian Mellamphy, and John Hart. On the Mode of Existence of Technical Objects. University of Western Ontario, 1980.
41. Stiegler, Bernard. Technics and Time, 1: The Fault of Epimetheus. Stanford University Press, 1998.
42. Swirski, Peter. Stanislaw Lem: Philosopher of the Future. Oxford University Press, 2015.
43. Weber, Max. The Protestant Ethic and the Spirit of Capitalism. Translated and edited by Stephen Kalberg. Routledge, 2001.
44. Wolfendale, Peter. «The Weight of Forever: Peter Wolfendale Reviews What We Owe the Future by William MacAskill.» The Philosopher, November 18, 2024, https://www.thephilosopher1923.org/post/the-weight-of-forever.
45. Woollacott, Emma. «How AI is Helping the Search for Extraterrestrial Life.» BBC News, February 22, 2024. https://www.bbc.com/news/business-68346015.

1. Из кни­ги «Буду­щие мута­ции» Анны Грин­спэн и Сюзан­ны Ливинг­стон: Вре­мен­ное сме­ще­ние ослеп­ля­ет нас и не дает уви­деть про­цес­сы, в кото­рых мы погряз­ли, — «искус­ствен­ную нор­маль­ность». Мы впи­ты­ва­ем тех­но­ло­ги­че­ское буду­щее, каким бы шоки­ру­ю­ще рево­лю­ци­он­ным оно ни было, созда­вая рас­ши­рен­ное насто­я­щее, кото­рое зама­ни­ва­ет нас в «безум­ную при­выч­ность» про­шло­го. «И науч­ная фан­та­сти­ка, и футу­ризм, кажет­ся, упус­ка­ют важ­ную деталь того, как буду­щее на самом деле пре­вра­ща­ет­ся в насто­я­щее... Они не могут понять, поче­му мы, кажет­ся, не заме­ча­ем, когда буду­щее дей­стви­тель­но насту­па­ет». Цита­ты из кни­ги «Доб­ро пожа­ло­вать в тош­но­твор­ное буду­щее» Вен­ка­те­ша Рао — прим. ред. ↵
2. Бат­лер раз­мыш­ля­ет о про­ис­хож­де­нии пла­не­ты, когда Зем­ля была не более чем «горя­чим круг­лым шаром». Из это­го «заро­ды­ше­во­го состо­я­ния» никто не мог пред­ста­вить, что «одна­жды на Зем­ле заро­дит­ся жизнь». Так же, как чело­ве­че­ское созна­ние воз­ник­ло из тем­ной мате­рии, раз­ве невоз­мож­но, что все еще может воз­ник­нуть «новая фаза разу­ма», кото­рая «так же отли­ча­ет­ся от всех извест­ных в насто­я­щее вре­мя фаз, как разум живот­ных отли­ча­ет­ся от разу­ма рас­те­ний? Было бы опро­мет­чи­во утвер­ждать, что ника­ких дру­гих фаз не может быть и что живот­ная жизнь — это конец все­го...». Цита­ты из «Кни­ги машин» (Эре­вон, 1872). — прим. ред. ↵
3. Для тех­но­ло­гий капи­та­лизм слу­жит основ­ной сре­дой и источ­ни­ком эво­лю­ци­он­но­го дав­ле­ния. Посто­ян­ное посте­пен­ное уве­ли­че­ние потре­би­тель­ско­го спро­са, несо­мнен­но, игра­ет опре­де­лен­ную роль в фор­ми­ро­ва­нии буду­ще­го, но гораз­до более важ­ную роль игра­ют рево­лю­ци­он­ные инно­ва­ции в обла­сти фун­да­мен­таль­ной инфра­струк­ту­ры и про­мыш­лен­ной авто­ма­ти­за­ции, направ­лен­ные на авто­ном­ное вос­про­из­вод­ство. Маши­ны, созда­ю­щие дру­гие маши­ны. — прим. ред. ↵
4. Бази­лиск Роко, в кото­ром искус­ствен­ный интел­лект буду­ще­го нала­га­ет эти­че­ские запре­ты ретро­хро­ни­че­ски, еще боль­ше усу­губ­ля­ет про­бле­му про­еци­ро­ва­ния нынеш­них мораль­ных цен­но­стей на неиз­вест­ное буду­щее, пред­став­лен­ное линей­но. — прим. ред. ↵
5. Заме­ча­тель­ное пер­вое эссе Бен­джа­ми­на Лаба­ту в кни­ге «Когда мы пере­ста­ем пони­мать мир» о глу­бо­ко неод­но­знач­ной мора­ли вза­и­мо­свя­зан­ных откры­тий: боли, вызы­ва­е­мой циа­ни­дом, эсте­ти­че­ской кра­со­те прус­ской сини, ужа­сах Цик­ло­на Б и чуде искус­ствен­но­го азо­та, кото­рое при­ве­ло к рез­ко­му росту про­дук­тив­но­сти рас­ти­тель­но­го про­из­вод­ства, необ­хо­ди­мо­го для про­пи­та­ния насе­ле­ния пла­не­ты. — прим. ред. ↵
6. Рас­смот­рим вре­мен­ные аспек­ты гипо­те­зы Вебе­ра. Если про­те­стан­тизм опре­де­ля­ет буду­щее тех­но­ка­пи­та­лиз­ма, что это озна­ча­ет для стро­го­го детер­ми­низ­ма — или про­ви­де­ния — каль­ви­низ­ма, в кото­ром буду­щее пред­опре­де­ле­но? — прим. ред. ↵
7. Идея о том, что син­гу­ляр­ность интел­лек­ту­аль­но­го взры­ва сопря­же­на с непо­сти­жи­мой, невос­при­ни­ма­е­мой мора­лью, вос­при­ни­ма­ет­ся стро­го. — прим. ред. ↵
8. Есть ли связь меж­ду гно­сти­че­ской эпи­сте­мо­ло­ги­ей Лема и эзо­те­ри­че­ской тра­ди­ци­ей оккульт­ной тео­ло­гии? Ссыл­ка: «Валис» Фили­па К. Дика. — прим. ред. ↵
9. На пони­ма­ние тех­но­ло­гии непро­пор­ци­о­наль­но боль­шое вли­я­ние ока­за­ли восточ­но­ев­ро­пей­ские мыс­ли­те­ли: Густав Май­ринк с его «Голе­мом», Карел Чапек с «Рос­сум­ски­ми уни­вер­саль­ны­ми робо­та­ми», Нор­берт Винер (пото­мок восточ­но­ев­ро­пей­ских уче­ных и рав­ви­нов). — прим. ред. ↵