Маринэ Восканян об «Антропологической хартии».
Мир сегодня фундаментально меняется, и турбулентность в сфере геополитики отражает, как кажется, намного более серьезные тектонические сдвиги в жизни всего человечества, выходящие далеко за рамки привычной экспертно-медийной географии.
Все чувствуют, что в мире что-то меняется и «as usual» уже не будет. Но даже такие серьезные темы, как предотвращение войн, будущее мировой глобальной экономики, борьба с неравенством, демографические и миграционные дисбалансы, конфликт традиции и постмодерна, — это лишь сегменты этой турбулентности.
Решения вопросов в каждом из этих сегментов не будут найдены, пока не начнется честное обсуждение того, а какое вообще будущее предполагается строить. И не в контексте процентов роста ВВП, а в том, каким будет сам человек в этом будущем. От этого будет уже зависеть, какая ему нужна экономика, политика и безопасность.
На первый взгляд, уход в культурно-антропологический контекст не кажется необходимым — физически мы вроде бы все те же со времен кроманьонцев, основы нашего устойчивого развития в документах ООН записаны, хорошие слова о равенстве, свободе, правах найдутся во всех конституциях и политических программах на всех континентах.
Однако присмотревшись внимательно к развитию современных технологий — от биологических, социальных и медийных до искусственного интеллекта, можно обнаружить, что все эти «базисы» не так уж самоочевидны. Сегодня требуется не геополитическая «перезагрузка», а перезагрузка самых базовых смыслов.
Именно под таким углом предлагается посмотреть на проблемы настоящего и будущего в «Антропологической хартии», написанной экспертами Центра гуманистической экологии и культуры и Экспертного центра ВРНС.
Если посмотреть на тенденции технологического развития, то, открывая определенные горизонты возможностей, они порой ведут к деградации самого человека как существа, обладающего разумом и духом, и к «расчеловечиванию» социальных и экономических отношений. Это и есть главный вызов будущего, на который нужно найти ответ.
Одной из самых горячих и спорных тем в технологической сфере становится сегодня искусственный интеллект. Предрекается повсеместное ведрение беспилотных автомобилей, аналитических программ, способных заменить сотню аналитиков в принятии медицинских или юридических решений, а вместо военных сражаться друг с другом все чаще будут военные роботы и стаи беспилотников. Между тем, уже есть и негативные опыты в этих сферах — это и погибший в результате наезда автомобиля без водителя пешеход, и получившие отказ в обслуживании клиенты страховой системы. И не зря на одной из последних конференций по применению ИИ в военной области очень серьезно рассматривался вопрос о том, какие риски несет в себе передача этим системам принятия решений, имеющих необратимые последствия. Критические вопросы в сфере этики задают сторонникам ИИ отнюдь не мракобесы и ретрограды — недавно был опубликован доклад нескольких десятков западных ученых, предупреждающий об опасностях ИИ, а среди самых именитых сомневающихся — уже покойный Стивен Хокинг, вполне здравствующая звезда техно-пиара Илон Маск и патриарх современной философии Ноам Хомски.
Недавно о проблемах и опасностях применения искусственного интеллекта написал статью даже Генри Киссинджер, предупреждающий, что развитие таких технологий без понимания самой философии их применения и этических границ крайне опасно.
Развитие технологий искусственного интеллекта также ставит перед человеком серьезные этические вопросы — в тех случаях, когда речь будет идти о принятии решений на основе работы таких систем и определении границ их применения. Необходимо четко разделить применение систем искусственного интеллекта для решения узкотехнологических задач и их же применение для анализа и прогноза действий людей и социальных систем. Уже сегодня в целом ряде сфер (страхование, медицина, судебная практика) начались эксперименты, когда прогноз о будущих действиях\состоянии человека строит не другой человек, а система ИИ. Прежде чем внедрять такие практики массово, общество должно задуматься, насколько приемлемо отдавать приоритет принятия подобных решений высокотехнологичным, но все же машинам.
Не менее сложный вопрос — как меняет общество и его практики факт тотального сбора данных обо всех аспектах жизни человека — его общении, перемещениях в пространстве, финансовых операциях, покупках, содержании просматриваемого им контента в Интернете, его рабочих и личных интересах. . Сбор и консолидация этих данных транснациональными корпорациями, осуществляемый формально в целях лучшего таргетирования рекламных и информационных потоков, по сути же создает пространство тотального контроля и слежки. В этом же направлении идут и государственные структуры, собирающие данные о гражданах с целью обеспечения безопасности, формирования массивов статистики и т. д. Постоянные разговоры о рыночной эффективности рекламного «таргетирования» противоречат праву на конфиденциальность частной жизни и личное пространство, которые являются базовыми ценностями — причем и для либералов, и для консерваторов.
Но даже не это вызывает главную тревогу. Собранные данные о человеке анализируются с целью формирования его «портрета» и используются для построения с помощью соответствующих систем анализа, а в дальнейшем, во все большей степени — с помощью систем искусственного интеллекта — для выводов и прогнозов о его дальнейшем поведении, будь то его потребительские практики или благонадежность как участника тех или иных социальных практик. Все больше систем, с которыми взаимодействует человек, будут взаимодействовать не с ним, а с набором данных об этом человека, существующих в соответствующих базах, будь то госструктуры, финансовые и торговые организации.
Даже если оставить в стороне вопрос технической уязвимости этой системы перед намеренным искажением, кражей или уничтожением данных, с философской точки зрения такой подход базируется на примитивном, механицистском понимании человека как существа, которое определяется совокупностью его действий и набором простых характеристик, поступки которого заранее заданы простой схемой «стимул-результат», и предсказуемы, как у механической машины. Обращают на себя внимание появляющиеся все чаще новости об исследованиях, доказывающих, что самосознание и свободный выбор — базовые характеристики человеческой личности — якобы являются лишь иллюзиями, в то время как поведение человека на самом деле задается некими просто до конца еще не изученными механизмами бессознательных психических процессов.
По сути, мы видим, что обществу предлагается все чаще рассматривать человека не как существо, наделенное свободной волей, а напротив — как объект, поведение которого задано и предсказуемо, вопрос лишь в том, когда наука до конца изучит соответствующие механизмы деятельности мозга, а сбор массивов данных о каждом действии человека позволит дополнить эту картину.
«Частная жизнь — больше не норма» — это слова основателя Фейбук Марка Цукерберга. Но человек без частной жизни, каждое действие и высказывание которого фиксируется и доступно для наблюдения всеми, которого рассматривают лишь как функцию от собранных о нем данных, и навязывают в результате ту или иную коммерческую рекламу или социальное поведение, лишается неотъемлемых прав на свободу и достоинство. При этом такое насильственное переформатирование социальной реальности происходит вовсе не по инициативе государственных структур, а в пользу транснациональных корпораций, которые распоряжаются этой новой властью и новыми ресурсами с только им известными целями.
Но мы не можем сводить представление о человеке к существу, которое определяется набором измеряемых характеристик и поступки которого предсказуемы, как у машины.
Другая сфера, где мало кто смотрит в корень проблемы, — это глобализация с ее неравенством. Как решить проблему с миграцией, которая становится все острее с каждым днем и, того гляди, станет началом глубокого кризиса ЕС, да и во всем мире — одна из главных проблем? Никак, пока мировая экономика продолжает оставаться бесконечной гонкой за «минимизацией издержек» для инвестиций, то есть за удешевлением рабсилы, за повсеместным сокращением социальных расходов государства. Формируются целые регионы, обреченные на деградацию, а результат — массовая миграция — еще сильнее обедняет потенциал их развития. В мире возникает огромный слой людей, обреченных либо на полурабский труд вдали от дома и семьи, либо на роль маргиналов, дестабилизирующих системы социальной защиты регионов-приемников. «Ненужным балластом» становятся и граждане благополучных стран, где все большую часть рабочих мест отдают бесправной ввезенной рабочей силе, а в перспективе — планируют роботизировать, вообще исключив труд человека. Проблему миграции стоит увидеть не под углом экономических преимуществ и недостатков, а с точки зрения ее причин и последствий для людей, которые оказываются лишь частью безликого потока человеческих ресурсов, должного течь туда, где есть спрос.
Биотехнологии и социальные нововведения уже сегодня часто создают ситуацию, когда полностью видоизменяется представление о семье — уже существующее суррогатное материнство и быстроразвивающиеся технологии вмешательства в геном во вполне обозримом будущем вообще смогут поставить под сомнение привычное представление о самих понятиях «родители» и «ребенок».
Поиск информации только в интернете медленно, но верно в условиях отсутствия верификации информации делает людей зависящими тотально от механизмов отбора информации, где уже заложены лишь определенные ценности, политические и мировоззренческие теории. А как же свобода информации, ради которой все это затевалось? Формально лидеры и элиты развитых стран, так же как и ведущие мировые институты, выступают за демократические свободы, в том числе и плюрализм мнений. Фактически же мы наблюдаем, напротив, сужение пространства свободы и взаимоуважительного диалога, когда лишь определенные ценности, политические и мировоззренческие теории объявляются верными, а всех, кто с ними не согласен, маргинализируют и пытаются исключить из информационного пространства. Попытка распространить на весь мир одну систему ценностей и принципов жизни, сакрализация определенных политических теорий и лишает человека права на свободу и культурную, национальную, религиозную идентичность.
В условиях, когда Интернет становится для общества практически единственным и ключевым источником информации обо всем, создаются все условия для масштабной манипуляции общественным сознанием, распространения ложной и недостоверной информации и ограничения свободы интеллектуального и мировоззренческого поиска под видом доступа к якобы неограниченным информационных ресурсам. Формально идеологически нейтральные интернациональные информационные ресурсы и социальные сети все чаще вводят цензуру, оценивая контент и мнения по собственной шкале соответствия «правильным ценностям». Поисковые системы Интернет зачастую в качестве результатов поисковых запросов выдают информацию с определенным образом отобранных сайтов, в то время как какие-то источники отказываются вообще исключенными. В Интернет в большинстве случаев не существует механизмов верификации информации и часто отсутствуют указания на ее источники. Все это позволяет массово тиражировать любые данные и сведения, не неся при этом никакой ответственности за их достоверность, а также сознательно навязывать определенные мнения, взгляды и теории, умалчивая о других. Мы наблюдаем формирование механизмов новой идеологической цензуры в мировом масштабе, причем занимаются этим вовсе не государственные институты, а некие анонимные цензоры. Пространство Интернет, которое предлагается считать наиболее свободным пространством поиска информации, все больше превращается в инструмент замаскированных манипуляций и ограничения доступа к «неудобным» теориям и мнениям.
Переход коммуникации между людьми практически полностью в форматы социальных сетей превращает общение в его далеко не полноценную электронную проекцию, стирает грань между личным и публичным пространствами. Уже сегодня это приводит к невозможности отличить подлинную информацию от лжи и манипуляций, к возникновению атмосферы взаимной нетерпимости, к утрате навыка формирования взвешенных суждений в пользу односложных реакций «нравится» — «не нравится», основанных на эмоциях, к погоне за рейтингами и «лайками». Такое пространство провоцирует человека к неограниченной и не имеющей никаких последствий реализации любых, даже самых низменных устремлений. Тот факт, что все это происходит не в реальности, а в виртуальном мире, не меняет расчеловечивающей сути такого пространства без каких бы то ни было этических границ.
Превращение индивидов в «пользователей» , поведение которых формирует та среда, где они больше всего находятся — а это виртуальная среда, в которой человек пребывает сегодня практически круглосуточно, приводит к переносу механизмов и психологии сетевого пространства в реальную жизнь, серьезно обедняя последнюю, поскольку виртуальное пространство обладает заданными форматами общения, восприятия и подачи информации.
Недавно бывший вице-президент Facebook Чамат Палихапития выступил с жесткой критикой Facebook. Он заявил, что чувствует «невероятную вину» за то, какого «монстра» помог вырастить. «Мы создали инструмент, разрывающий социальную структуру общества», — сказал он на встрече со студентами Высшей школы бизнеса Стэнфордского университета. Критика Палихапитии обрушилась не только на Facebook, но и на всю систему общения в сети. «Люди стали зависимы от дофамина, выработку которого провоцируют „лайки“ в соцсетях.
Это убивает сам принцип работы общества. Не стало гражданского дискурса, исчезает сотрудничество, зато процветают дезинформация и подмена фактов. И я говорю не только про американскую паранойю насчет российского вмешательства в выборы. Это глобальная проблема», — считает Палихапития.
***
Таких тем — множество, и объединяет их не политика и не экономика, а то, что все они касаются базовых вопросов о человеке. Не отвечая на них как якобы на слишком отвлеченные, человечество поставит телегу впереди лошади — ведь, в конечном счете, не абстрактный прогресс должен определять, чем является человек, а человек должен выбирать, какой прогресс ему нужен. Нужно ли человечеству такое будущее, в котором есть место для фантастических технологий и эффективных новшеств, но нет места для традиционных гуманистических ценностей и в итоге — для самого человека? Поэтому для построения будущего нужно не просто решить теоремы сегодняшних проблем, а понять, какие для этого понадобятся аксиомы.
