В настоящее время остается открытым вопрос о том, является ли биологическая форма сознания, появившаяся в результате эволюции на нашей планете, желательной формой существования, или в принципе благом.

Слепым пятном современной философской теории разума является осознание страдания: тысячи страниц были посвящены квалии цвета или содержанию мыслей, но почти не было теоретических работ, посвященных повсеместным феноменальным состояниям человеческого страдания, или простой повседневной печали («субклинической депрессии»), или феноменальному содержанию паники, отчаяния, или меланхолии – не говоря уж об осознанном переживании собственной смертности, или потери достоинства. Этико-нормативная проблематика имеет огромное значение. Если кто-нибудь решит более внимательно рассмотреть реальную феноменологию биологических систем на нашей планете, то окажется, что разнообразие видов осознанного страдания, как минимум, является таким же доминантным свойством, как цветовое зрение или сознательное мышление, которые появились у людей совсем недавно. Нам не стоит петь славу эволюции. Одна из точек зрения – среди бесчисленных других – позволяет взглянуть на биологическую эволюцию на нашей планете как на причину расширяющегося океана страдания и отчаяния, возникшего на сухом ранее месте. И поскольку возрастает не только количество обладающих сознанием субъектов, но возрастает и размерность феноменальных пространственных состояний их сознания, то можно сказать, что этот океан страдания так же непрерывно углубляется.

Лично для меня подобная ситуация так же служит сильным аргументом против создания искусственного интеллекта: Мы не имеем права добавлять что-то в эту неразбериху и сумятицу ужасов, пока не разберемся, что же на самом деле тут происходит.

=======================================================
Машина блаженства: можно ли считать сознательный опыт как таковой благом?

Напрашивается гипотетический вопрос: если бы мы, напротив, могли увеличить количество радости и удовольствия во Вселенной, залив ее самореплицирующимися и блаженными постбиотическими эго-машинами, стоит ли нам это делать? Мое предположение, что первое поколение искусственных эго-машин будет напоминать умственно отсталых детей и принесет больше боли, смятения и страдания, чем удовольствия, радости и проникновения в мир, может оказаться фактически ложным по множеству причин. Такие машины, возможно, будут функционировать лучше, чем мы думаем, и наслаждаться существованием намного сильнее, чем мы ожидаем. Или же мы, как двигатели ментальной эволюции и инженеры постбиотической субъективности, можем сделать это предположение ложным, конструируя только такие сознающие системы, которые либо неспособны переживать феноменальные состояния, подобные страданию, либо смогут наслаждаться бытием в более высокой степени, чем люди. Представьте, что мы сумеем обеспечить машине преобладание позитивных состояний сознания над негативными — что для нее существование будет таким, чтобы жить несомненно стоило. Назовем такую машину «машиной блаженства».
Если мы сможем заселить физическую вселенную машинами блаженства, надо ли это делать? А если новая теория сознания рано или поздно позволит нам превратить себя из старомодных эго-машин, отягощенных ужасами биологической истории, в машины блаженства — надо ли это делать?
Возможно, нет. Существование, которое оправдывает себя, жизнь, которую стоит прожить, состоит не только из определенного качества субъективных переживаний. Этику размножающихся искусственных или постбиотических систем нельзя свести к вопросу, какой явится реальность или существование самой системы для сознания этой системы. Иллюзия может порождать блаженство. Умирающий от рака на высоких дозах морфина и препаратов, улучшающих настроение, может воспринимать себя очень позитивно — как и наркоман может отчасти неплохо справляться с ежедневными ситуациями. Люди веками пытались превратить себя из эго-машин в машины блаженства — с помощью фармакологии или метафизических систем верований и практик изменения сознания. Почему они в целом не преуспели?
В своей книге «Анархия, государство и утопия» уже умерший политический философ Роберт Нозик предложил следующий мысленный эксперимент: У вас есть возможность подключиться к «машине ощущений», которая будет держать вас в состоянии постоянного счастья. Вы согласитесь? Любопытно, что, по наблюдениям Нозика, большинство людей отказываются провести жизнь подключенными к такой машине. Причина состоит в том, что большинство из нас ценит не блаженство как таковое, а желает, чтобы оно было основано на истине, добродетели, художественных достижениях и других формах высшего блага. Иначе говоря, мы хотим, чтобы наше блаженство было оправданно. Мы хотим не иллюзии от машины счастья, а счастья обоснованного и поэтому желаем быть осознанно переживающими жизнь как нечто стоящее. Мы хотим необыкновенного проникновения в реальность, в моральные ценности и красоту как объективные факты. Нозик считал такую реакцию победой над гедонизмом. Он настаивал на том, что мы не желаем просто чистого счастья, если ему не будет сопутствовать контакт с глубинной реальностью, — хотя, конечно, и такая форма субъективного переживания может в принципе быть симулирована. Вот почему большинство из нас, по зрелом размышлении, не стали бы заселять вселенную блаженными искусственными эго-машинами — по крайней мере, такими, которые пребывали бы в постоянном состоянии самообмана. Это ведет к следующей проблеме: все, что мы узнали о транспарентности феноменальных состояний, явно показывает, что «настоящий контакт с реальностью», как и «уверенность», тоже может быть симулирован, и что природа уже наладила такую симуляцию в наших мозгах, создав тоннель эго. Вспомните хотя бы галлюцинаторную деятельность или ложные пробуждения в исследовании сновидений. Разве мы не обманываем себя постоянно?
Если мы серьезно относимся к нашему счастью, если не хотим быть «чистыми» гедонистами, нам нужна абсолютная уверенность, что мы не заняты систематическим самообманом. Разве плохо будет, если новая, эмпирически осведомленная философия сознания и этичная нейронаука помогут нам в этом?
Я возвращаюсь к уже сделанному предупреждению о том, что мы должны воздерживаться от любых действий, ведущих к увеличению общего количества страдания и смятения во вселенной. Я ни в коем случае не хочу утверждать или постулировать как утвержденный факт, что сознательный опыт в его человеческой разновидности — это нечто негативное, существующее не в интересах переживающего субъекта. Я считаю этот вопрос в полной мере осмысленным, абсолютно уместным, но и открытым. Но я утверждаю, что мы не должны создавать или запускать эволюцию второго порядка, искусственных эго-машин, пока нам не от чего отталкиваться, кроме функциональной структуры и образцов собственной феноменальной психики. Иначе в результате мы, скорее всего, создадим копию собственной психологической структуры, и к тому же испорченную. Опять же: риск тоже стоит взвешивать на весах этики.
Но давайте не будем уклоняться и от более глубокого вопроса. Есть ли основания для феноменологического пессимизма? Мы можем определить это понятие с помощью тезиса, что все разнообразие феноменальных переживаний, производимых человеческим мозгом, представляет собой не сокровище, а обузу. В среднем на протяжении жизни баланс радости и страдания почти для всех носителей тяготеет в сторону последнего — наше сознательное существование не покрывает своей стоимости. Существует долгая философская традиция, от Будды до Шопенгауэра, утверждающая, что жизнь не стоит того, чтобы ее проживать. Я не стану повторять здесь аргументов пессимистов, но позвольте мне заметить, что появилась новая перспектива, с которой можно рассматривать известную нам часть физического мира и эволюцию сознания: они подобны ширящемуся океану страдания и смятения там, где их раньше не было. Да, верно, что осознаваемая я-модель первой принесла в физический мир также радость и удовольствие — раньше таких явлений не существовало. Но становится столь же очевидным, что психологическая эволюция не оптимизировала нас для долговечного счастья, а, напротив, загнала в беличье колесо гедонизма. Мы вынуждены искать эмоциональной безопасности, радости и удовольствия и избегать боли и уныния. Гедонистическое беличье колесо — это мотор, который природа изобрела, чтобы организмы действовали. Мы можем распознать в себе его структуру, но никогда не сумеем вырваться из нее. Мы и есть эта структура.
По ходу эволюции нервной системы как численность отдельных сознающих субъектов, так и глубина феноменального пространства состояний (то есть богатство и разнообразие сенсорных и эмоциональных оттенков, доступных субъекту для страдания) постоянно росла, и процесс этот еще не прекратился. Эволюция не заслуживает похвалы: она слепа, она движима случайностью, а не пониманием. Она беспощадна и принесла миллионы наших предков в жертву. Она изобрела механизм вознаграждения в мозгу; изобрела положительные и отрицательные эмоции для мотивации нашего поведения; она загнала нас в гедонистическое беличье колесо, чтобы мы постоянно стремились быть как можно счастливее — чтобы нам было хорошо — и никогда не достигали стабильного состояния. Но, как мы уже понимаем, процесс оптимизировал наш мозг и психику не для счастья как такового. Такие биологические эго-машины, как Homo sapiens, эффективны и изящны, но многие эмпирические данные указывают, что счастье само по себе никогда не было самоцелью.
В сущности, согласно натуралистическому мировоззрению, цели вообще не существует. Строго говоря, не существует даже средств — эволюция просто происходит. Конечно, возникли субъективные цели и явились нам в сознании, но процесс в целом определенно не выказывает к ним ни малейшего уважения. Эволюция не уважает единичных страдальцев. Если это так, то, следуя логике психологической эволюции, надо скрывать от эго-машин тот факт, что они заперты в беличьем колесе (вспомните об обсуждаемых в четвертой главе «галлюцинированных» целях). Было бы преимуществом, если бы понимание структуры собственной психики — понимание, подобное очерченному выше, — не слишком сильно отражалось в осознаваемой я-модели. Многие новые взгляды эволюционной психологии показывают, что самообман может быть очень успешной стратегией, например, когда необходимо успешно обмануть других. С традиционной эволюционной точки зрения, философский пессимизм антиадаптивен, это опасная утрата «психического здоровья», по крайней мере в чисто биологическом смысле. Но теперь все начало меняться: в естественный механизм вытеснения вмешалась наука и понемногу проливает свет на слепые пятна в эго-машине7.
Истина, возможно, как минимум не менее ценна, чем счастье. Легко представить человека, ведущего довольно несчастную жизнь, но в то же время совершающего выдающиеся философские или научные открытия. Такого человека донимают боли и страдания, одиночество и сомнения в себе, но жизнь его, несомненно, имеет ценность благодаря вкладу, который он внес в познание. Если такой человек тоже в это верит, он может даже обрести осознанно переживаемое утешение. Тогда его счастье будет иным, чем у наших искусственных машин блаженства или у людей, подключенных к машине ощущений, из мысленного эксперимента Роберта Нозика. Многие наверняка согласятся, что такое «эпистемическое» счастье перевесит многие несчастья чисто феноменального типа. То же самое можно сказать о таких источниках счастья, как творческие достижения или моральная цельность. Если вообще имеет смысл говорить о «ценности» человеческого существования, мы должны согласиться, что оно зависит не только от осознанно переживаемого счастья.
Пока такие вопросы не нашли ответа, нам следует воздержаться от попыток создать искусственные эго-машины, причем не только по этическим соображениям. Нельзя забывать о необратимости некоторого развития. Всякая постбиотическая система, которая достаточно приблизится к тому, чтобы приобрести свойства, характеризующие феноменальное чувство Я, — всякая система, развившая достаточно прочный взгляд от первого лица, — станет одновременно самостоятельным действующим лицом с собственными предпочтениями. На определенном уровне автономии нам придется принять такую систему как личность со своими правами и вступить с ней в диалог. Наше понимание того, кто подлежит моральным соображениям и заслуживает обращения как с личностью, не позволят нам попросту ее выключить.

=======================================================

Эго развивалось как инструмент социального познания, и одно из его величайших функциональных преимуществ состоит в том, что оно позволяет нам заглянуть в сознание других животных и собратьев по виду — чтобы затем обманывать их. Или обманывать себя. Поскольку встроенная в нас экзистенциальная потребность в полной эмоциональной и физической безопасности никогда не осуществится, мы обладаем сильной тягой к самообману и причудливым системам верований. Психологическая эволюция наделила нас неудержимым стремлением удовлетворять эмоциональную потребность в стабильности, чувстве защищенности и осмысленности, создавая метафизические миры и невидимых личностей2. Если духовность можно определить как видение того, что есть — как отказ от поисков эмоциональной безопасности, — то религиозная вера представляется попыткой сохранить эти поиски путем перестройки тоннеля эго. В этом смысле вера лишена духовности. Религиозная вера — это попытка наделить жизнь глубоким смыслом и поместить ее в позитивный метаконтекст, это глубоко человечная попытка наконец почувствовать себя дома. Это стратегия, призванная перехитрить гедонистическое «беличье колесо». На индивидуальном уровне религия, кажется, одна из самых успешных попыток достичь временно стабильного состояния — не хуже любых известных на сегодняшний день наркотиков. Выглядит так, будто новая наука нас этого средства лишает. Возможно, возникающая пустота — это одна из причин нынешней вспышки религиозного фундаментализма даже в светских обществах.
Да, я-модель сделала нас разумными, но она, безусловно, не представляет собой образец разумного планирования. Она — зародыш субъективного страдания. Будь процесс, создавший биологическую эго-машину, запущен личностью, эту личность следовало бы назвать жестокой, возможно, даже дьявольской. Нас никогда не спрашивали, хотим ли мы существовать, и не спросят, хотим ли умереть и готовы ли к смерти. В частности, нас не спросили, хотим ли мы жить именно с этой комбинацией генов, с этим телом. Наконец, нас никогда не спрашивали, хотим ли мы жить с этим мозгом, приобретая именно этот сознательный опыт.
Давно пора бы взбунтоваться. Но все, что мы знаем, указывает на простой факт, с которым трудно примириться: эволюция просто происходит — слепо, случайно, бесцельно. Нам некого презирать. Нет никого, против кого можно было бы бунтовать, — нет даже себя. Но многие не понимают, что это не крайняя форма нейрофилософского нигилизма, а образчик интеллектуальной честности и духовной глубины (об этом смотри эпилог и окончание книги

======================================================

Нынешний значительный рост знаний в области эмпирических наук о разуме совершено не контролируется, происходит сам по себе на многих уровнях и непрерывно ускоряется. Он происходит в этическом вакууме: наука движется исключительно карьерными интересами отдельных индивидуумов и не принимает в расчет социальных и политических соображений. В развитых странах она расширяет разрыв между образованными, следящими за научными новостями людьми, открытыми научному мировоззрению, и теми, кто никогда не слышал фраз типа «нейронный коррелят сознания» или «феноменальная я-модель». Множество людей еще цепляется за метафизические системы верований, страшась, как бы их Lebenswelt — жизненное пространство — не заполонили новые науки о разуме. В глобальном масштабе разрыв между развитыми и развивающимися странами тоже расширяется. Более 80% населения планеты, в особенности бедных стран с растущим населением, все еще прочно укоренены в донаучных культурах и мировоззрениях. Многие из них просто не захотят слушать о нейронных коррелятах и феноменальных я-моделях. В первую очередь для них этот переход окажется слишком резким, причем будет исходить от стран, которые в прошлом их систематически эксплуатировали.
Растущий разрыв угрожает усилить старинные источники конфликтов. А потому ведущие исследователи на первых стадиях Революции Сознания обязаны провести нас через эту, третью, фазу. Ученые и философы не вправе ограничиться разработкой полной теории сознания и самосознания. Если существуют какие-то моральные обязательства, то они требуют заполнить созданную учеными антропологическую и нормативную пропасть. Ученые обязаны излагать результаты языком, внятным непосвященному, и объяснять новости науки обществу, из налогов которого они получают жалованье (это — одна из причин, по которым я пишу эту книгу). Ученые не вправе отдать все амбиции и способности научной карьере, попросту уничтожив все, во что верило человечество на протяжении двадцати пяти веков.

======================================================
[Отрывок из книги Лиготти. Лиготти пишет про книгу Метцингера "Being no one", я читал только "Туннель эго" (эта книжка вышла позже и в отличие от первой есть в русском переводе. Лиготти ругает Метцингера за то что он судя по всему всё понимает но много недоговаривает]

Glossing Metzinger’s study of the illusion of selves is an interesting fact: Metzinger is a
lucid dreamer. His treatise Being No One contains an entire chapter on the singular
endowment of being able to “wake up” in one’s dreams and recognize that one’s
consciousness is operating within an illusory environment created by the brain. This
might very well explain Metzinger’s stake in the nature of waking perception and the
possibility that, in the words of Poe, “All that we see or seem / Is but a dream within a
dream.” These lines sum up the argument of Being No One and its conclusion that
nothing a philosopher of mind or a cognitive neuroscientist could discover and coherently
explain to his fellow beings would in any way reconstruct our lives as conscious entities
who know they are alive and know they will die. What a shocker, then, that in the last
paragraph of his 699-page book—after the reader has slogged through a brain-sapping
examination of how and why human beings evolved in such a way that we believe we are
someone while actually being no one—Metzinger avails himself of a misty hope, a
wistful mayhap, that although his theories may be iconoclastic and upsetting to the
authorities, he is still a good citizen who supports humanist ideals and delusions. (His one
other major field of curiosity is ethics.) “At least in principle,” he writes, “one can wake
up from one’s biological history. One can grow up, define one’s own goals, and become
autonomous.” So imponderably nebulous, the meaning of these words can only be
guessed at, since they are among the closing remarks of his book and Metzinger leaves
them hanging in the air. One is unreservedly stymied as to how this transformation could
occur in terms of Metzinger’s theory and research. Did he wrap up his treatise
prematurely? Does he know something he is not telling us? Or did he just want to end a
disillusioning book on an up note? A year after publishing Being No One, Metzinger
muddied the issue further. In a 2004 lecture, he referred to our captivity in the illusion of
a self—even though “there is no one” to have this illusion—as the “tragedy of the ego.”
This phrase fits like a glove into Zapffe’s theory of consciousness as a tragic mistake.
Disappointingly, Metzinger states that “the tragedy of the ego dissolves because nobody
is ever born and nobody ever dies.” This is an adage plagiarized verbatim from Zen
Buddhism. Metzinger seems to think it should alleviate our fear of death. But the reality
is that every body is born and every body dies. And anybody who is consoled by
Metzinger’s Zennist wordplay is kidding himself. In traditions of enlightenment, the only
redress for our deluded condition is to wake up to our brain’s manufactured sense of self
and thus eliminate it. Metzinger has tried to shed light on the neurological mechanisms
that make this goal unfeasible . . . except “in principle.” How droll that this is just the
thing in which we are already engaged by one means or another—that is, conspiring to
lose ourselves by means of such diversionary activities as waging war, praying to gods,
or rooting for the home team. Unless cognitive neuroscience can come up with a better
way to off our selves, it can make zero difference in our lives as dreamers within a
dream. We are encumbered with our selves, stuck in a life of us-ness. As paths of
deliverance, both spirituality and science have so far revealed themselves to be useless.
Comparatively, Zapffe’s solution of saving the future from the poison of consciousness
by closing down the head factory once and for all seems both level-headed and beatific