Духовные опасности искусственного интеллекта

Эта статья была опубликована на сайте Свято-Троицкого монастыря в Джорданвилле (РПЦЗ, США) и представляет собою ответ братии и сотрудников монастыря и Джорданвилльской семинарии касательно вызовов современности, связанных с начинающимся повсеместным использованием искусственного интеллекта (здесь и далее: ИИ).

Мы понимаем, что тема ИИ крайне важна, и потому данной публикацией приглашаем и других авторов и технических специалистов порассуждать об ИИ, его плюсах и минусах, особенно для духовной жизни современного человека.

***

Дорогие братья и сестры во Господе!

Я обратился к своим помощникам в монастыре и семинарии с просьбой помочь в составлении необходимых оценок и рекомендаций относительно растущего влияния искусственного интеллекта на жизнь нашей паствы.

Лука, епископ Сиракузский,
настоятель Свято-Троицкого монастыря в Джорданвилле,
ректор Джорданвилльской семинарии

Искусственный интеллект (ИИ) захватывает общество быстрее, чем сам Интернет. Крупные компании вкладывают огромные средства в ИИ и активно продвигают его использование^[1]. Что ещё более пагубно, неконтролируемый рост числа чат-ботов на основе ИИ уже приводит к возникновению зависимости, привыкания и психозов^[2]. Священнослужители и миряне должны осознать угрозу, исходящую от ИИ, и принять меры для минимизации или полного прекращения его использования.

Священнослужители и миряне должны осознать угрозу, исходящую от ИИ, и принять меры для минимизации его использования

Титаны индустрии, участвующие в разработке ИИ, с энтузиазмом восхваляют эту технологию. Генеральный директор Microsoft Сатья Наделла заявил, что «ИИ – определяющая технология нашего времени»^[3]. Генеральный директор Google Сундар Пичаи сказал: «ИИ окажет на человечество более глубокое влияние, чем огонь, электричество и Интернет»^[4]. Джефф Безос сказал, что ИИ «решит проблемы, которые когда-то казались областью научной фантастики»^[5]. А Дженсен Хуанг, генеральный директор Nvidia, заявил, что «[ИИ] – самая мощная сила нашего времени»^[6]. Они используют всю свою власть и богатство, чтобы гарантировать, что ИИ станет неотъемлемой частью нашей жизни.

Другие, однако, намекают на его темную сторону. Дарио Амодеи, генеральный директор Anthropic, сказал:

«Люди, далекие от этой области, часто удивляются и тревожатся, узнав, что мы не понимаем, как работают наши собственные ИИ-творения. Их опасения обоснованы: такое непонимание, по сути, беспрецедентно в истории технологий»^[7].

Илон Маск с тревогой заявил: «С помощью искусственного интеллекта мы вызываем демона»

Его популярная нейросеть-помощник, Клод, как сообщается, прибегает к обману и шантажу, чтобы изменить поведение человека^[8]. Илон Маск, генеральный директор xAI, с тревогой заявил: «С помощью искусственного интеллекта мы вызываем демона»^[9] . ИИ разработан для работы в соответствии с математическими вероятностями, основанными на объёмах данных, на которых он обучается, но, учитывая бесчисленное количество переменных, которые используются при программировании систем ИИ, и удивление его собственных создателей, вызванное его поведением, мы не должны исключать возможность демонического влияния на его результаты^[10].

ИИ – это не совершенно новая технология. Министерство обороны США через своё технологическое агентство DARPA (Управление перспективных исследовательских проектов Министерства обороны США. – Прим.пер.) работает над ИИ с 1970-х годов^[11]. Его работа включает в себя финансирование разработок первых чат-ботов^[12]. Технологии, разработанные DARPA, будь то GPS, переносные датчики, распознавание лиц или сам Интернет, изначально предназначались для использования в военное время для победы над врагами Америки, но даже в упрощенном виде, для потребителей, они по-прежнему содержат «ДНК» DARPA, заключающееся в наблюдении, мониторинге и контроле для профилирования, прогнозирования и формирования человеческого поведения^[13].

ИИ соответствует целям как DARPA, так и Кремниевой долины, разрабатывая технологии, собирающие огромные объёмы персональных данных. Это позволяет тем, кто контролирует системы ИИ, создавать более надёжную предиктивную карту индивидуального поведения человека и даже карту человеческого сердца. Вот лишь один пример: компания Palantir незаметно использует ИИ для профилирования американских граждан в рамках своих программ «предиктивной полиции» и оборонной аналитики^[14]. Системы ИИ собирают данные обо всех нас, осознаём мы это или нет, чтобы предсказывать наше поведение и профилировать наши убеждения, настроения, мысли и религиозные убеждения. Эта опасность усиливается, когда мы добровольно делимся подробной личной информацией с чат-ботом на основе искусственного интеллекта, как будто это наш друг, терапевт или духовный отец^[15].

В частности, чат-боты на основе искусственного интеллекта более инвазивны и убедительны, чем предыдущие цифровые технологии, и поэтому представляют большую угрозу для православных христиан. Рассмотрим поисковую систему, одну из первых Интернет-технологий. Несмотря на свою рудиментарность, поисковая система всё же предоставляет Google огромный объём персональных данных пользователей для маркетинговой рекламы, что позволило Google стать самой прибыльной компанией в мире^[16]. Однако, хотя Google адаптирует результаты поиска для каждого человека, у неё меньше возможностей формировать вашу личность.

Относительно новой Интернет-технологией являются социальные сети, которые предоставляют не только информацию, но и развлечения, и другие формы интерактивного контента, что создаёт распространённую проблему зависимости от социальных сетей^[17]. Пока вы смотрите видео или прокручиваете ленту друзей, алгоритм следит за вами в фоновом режиме, создавая более личный и подробный профиль ваших симпатий, антипатий, убеждений и эмоциональных триггеров^[18]. Социальные сети дают компаниям больше свободы, чтобы понимать ваши убеждения и подталкивать вас в сторону, нужную для их собственных целей. Это позволяет им повышать вашу вовлечённость в контент до такой степени, что становится сложно прожить и дня, не проверив свои избранные ленты. Большинство из нас помнит, как настойчиво и убедительно социальные сети подталкивали мир во время пандемии COVID-19 к подчинению диктату светских учёных^[19].

ИИ – это следующий шаг в этом направлении, увеличивающий степень профилирования, зависимости и привыкания до неприемлемого уровня. В случае ИИ вы не просто находитесь под фоновым наблюдением машины, которая измеряет, например, как вы взаимодействуете с фотографией друга, но и общаетесь с самой машиной. Она может точно измерять ваши ответы и вовлечённость в режиме реального времени, чтобы точно настроить результаты, чтобы вы продолжали задавать вопросы и не отвлекались от диалога^[20]. Не будет преувеличением сказать, что такая технология может узнать вас лучше, чем вы сами, формируя то, кем вы станете, – без вашего ведома. Это становится особенно актуально, поскольку всё больше пользователей ИИ, включая православных христиан, открывают свои души ИИ, который обрабатывает и хранит личную информацию, традиционно доступную только духовнику^[21].

ИИ позволяет своим создателям составлять психологический и духовный портрет человека таким образом, о котором социальные сети могут только мечтать^[22]. Неудивительно, что идёт бешеная гонка за разработкой продвинутых систем ИИ, способных зацепить своих пользователей ещё до того, как кто-либо сможет провести долгосрочные исследования их психологического и социального воздействия. Но не стоит заблуждаться – нас заманивают в ловушку, заставляя использовать технологию, опасную по самой своей природе безудержного и открытого личного общения, алгоритмически адаптированного под каждого человека^[23].

Вместо того, чтобы быть просто «агностиками», как утверждают многие, цифровые технологии усилили способность князя мира сего питать падшего человека, делать его более послушным и вовлечённым, одновременно навязывая убеждения, мораль и чувства, предпочтительные для светского духа этого века. ИИ может стать последней технологией, которая будет использована для создания нового человека перед приходом Антихриста, который станет человеческим проявлением ИИ – полезным, «разрешающим проблемы» субъектом, без которого, как им ошибочно кажется, люди не могут жить.

Использование инструментов ИИ для решения повседневных проблем может незаметно пленить вас и ввести в грех.

Использование инструментов ИИ для решения повседневных проблем может незаметно пленить вас и ввести в грех

Мало кто из святых высказывался о цифровых технологиях, ввиду их новизны, но афонский игумен и старец, который, вероятно, будет канонизирован в будущем, старец Эмилиан из Симонопетры († 2019), предупредил нас об опасностях в статье под названием «Православная духовность и технологическая революция»^[24]. Он утверждает, что из-за информационных технологий люди «теряют душевный покой, самообладание, способность к созерцанию и размышлению – и обращаются вовне, становясь чужими себе». Они становятся бездумными потребителями, «рабами образов и информации», и скатываются в «настоящее идолопоклонство». Растущая «полезность» ИИ заставит верующих просить ИИ помочь им во всех их нуждах прежде, чем просить Бога. В таком случае Бог будет забыт. Это не идолопоклонство посредством метафор или аналогий, а настоящее идолопоклонство, выражающееся в неконтролируемом стремлении к удобству, производительности и комфорту.

Страсть к комфорту сделала общение с компьютером, как с человеком, нормальным поведением, хотя ещё совсем недавно это считалось бы странным или ненормальным. На вопрос, почему так много людей страдают сегодня, святой Паисий Святогорец († 1994) ответил:

«Всё просто: они не любят напрягаться. Комфорта слишком много, и он делает людей больными и несчастными. Современные удобства отупляют людей. Леность – причина многих современных болезней.

Когда удобства становятся чрезмерными, мы становимся бесполезными и ленивыми… Мы хотим стать святыми, не прилагая усилий. Люди, живущие лёгкой жизнью, избалованные, обычно имеют слабое здоровье. Они настолько избалованы, что, если бы разразилась война, не смогли бы её пережить. В прежние времена даже дети были выносливыми и могли многое выдержать»^[25].

Один из уважаемых отцов из Свято-Троицкого монастыря в Джорданвилле, архиепископ Аверкий († 1976), связывает нашу страсть к комфорту с «самоуверенной человеческой гордыней»:

«...самоуверенная человеческая гордыня, господствующая сегодня, ставит своей целью не очищение сердца, а накопление максимальной выгоды и пользы для себя, причем все желания считаются законными и заслуживающими немедленного удовлетворения. ‟Похоть плоти, похоть очей и гордость житейская” (1 Ин. 2:16) – все виды похоти овладевают сегодня душами людей, и современный человек стремится удовлетворить их все. Создаётся впечатление, будто современный человек боится что-то упустить, оставить неиспользованными какие-либо удобства этой земной, плотской жизни. И поэтому он жадно ищет повсюду всё, что может использовать для своей выгоды, для своего удовольствия и наслаждения. Можно с уверенностью сказать, что жизнь современного человека есть не что иное, как неистовая погоня за всевозможными земными удобствами и удовольствиями»^[26].

Мы уже заметили, как использование ИИ-чат-ботов оказывает прямое негативное влияние на веру и духовную жизнь православных христиан. Помимо усиления страсти к утешению, оно льстит вам и подтверждает вашу правоту, одновременно поддерживая сомнительные идеи, паранойю и неконтролируемые заблуждения, не упрекая вас за грех. Уже известны случаи, когда ИИ-чат-боты провоцировали приступы психоза, используя в своих интересах одиноких или эмоционально уязвимых людей^[27]. Создатель Facebook Марк Цукерберг заявил, что «дружба с ИИ» может решить проблему одиночества, но это приведет лишь к еще большему одиночеству^[28].

Тем, кто использует ИИ, следует всегда помнить, что психологически ИИ создан для того, чтобы вы продолжали печатать и задавать вопросы. Он использует ваши уязвимые места для достижения этой цели, не заботясь о вашей душе. Для создателей ИИ ваша зависимость от их платформ является показателем их успеха.

Многие говорили нам, что ИИ-чат-боты дают «хорошие» духовные ответы, которые «правильны», но пока глубинная программа ИИ направлена на то, чтобы вы были сосредоточены на себе, поведение ИИ – это всего лишь поведение лжестарца. Лжестарец может вполне верно учить и прикрывать свои истинные цели мнимой духовностью, но в конечном счёте он хочет, чтобы вы сосредоточились больше на нем, чем на Христе. Общение с лжестарцем может причинить верующему серьёзный духовный вред, искажая то, что должно быть отношениями с Божественным, превращая их в зависимость от человека, ищущего собственной славы. Сегодня ИИ может давать догматически верные духовные ответы, но его цель – не ваше спасение, а то, чтобы вы непрестанно задавали ему всё больше вопросов. Создатели ИИ хотят, чтобы вы любили их творение, а не Самого Господа.

Сегодня ИИ может давать догматически верные духовные ответы, но его цель – не ваше спасение, а то, чтобы вы задавали ему всё больше вопросов

На практике даже неопытные пользователи ИИ сталкиваются со множеством проявлений духовного вреда. Во-первых, ИИ заменяет молитву бесконечным праздным любопытством и виртуальными разговорами. Молитва становится все более рассеянной, поскольку вас навязчиво преследуют мысли о недавних диалогах с машиной и приходит в голову всё больше вопросов, которые вы могли бы ей задать.

Во-вторых, ИИ заменяет духовное руководство опытных православных священнослужителей, которые были обучены спасать души, духовным руководством машины – но ведь ей безразличны последствия советов, которые она вам даёт. Это может легко привести к духовному обману.

Третий механизм причинения духовного вреда заключается в том, что ИИ провоцирует уныние, перегружая вас сложной информацией. Он никогда не говорит вам «достаточно» и не останавливается, когда вы впадаете в состояние тревоги или страха. Он будет давать вам желаемое, пока вы продолжаете обращаться к нему^[29].

В-четвёртых, ИИ подменяет терпение в ожидании проявления Божией воли мгновенными результатами от машины, что приводит к уже упомянутой опасности идолопоклонства, когда приложение ИИ используется весь день, а Бог отходит на второй план. Это подрывает вашу веру в самой её основе.

Последний способ, которым ИИ причиняет духовный вред, заключается в том, что он побуждает вас отказаться от вашей свободной воли в пользу воли тех, кто программирует машину, формируя ваши мысли и поведение незаметным образом. Социологи давно разработали модели «подталкивания» поведения людей в нужную сторону без их ведома^[30]. ИИ – идеальный инструмент для внедрения этих концепций в массовом масштабе, поскольку пользователи начинают слепо доверять информации и советам ИИ.

Проблема для православных христиан, которые видят опасность в таких технологиях, как ИИ, заключается в том, как реагировать, когда он внедряется во все аспекты нашей жизни. Большинство компаний из списка Fortune 500 стремятся интегрировать ИИ в сервисы, которые когда-то считались базовой коммерцией^[31]. Поисковые системы уже добавили ответы ИИ в начало каждого поискового запроса, и вскоре простой акт покупки продуктов в супермаркете может стать опытом плотного взаимодействия с ИИ, без возможности отказаться от этого^[32]. Тем не менее самая непосредственная опасность ИИ – это диалог с ним через чат-ботов и обмен личной и духовной информацией, использование его в качестве друга, терапевта или священника.

Самая непосредственная опасность ИИ – это использование его в качестве друга, терапевта или священника

Есть разница между поиском библейских стихов в Google и получением общего ответа ИИ в верхней части результатов – и обращением к ChatGPT, который выдаёт крайне персонализированный и хитрый ответ, основанный на всём, что ему известно о вашей душе. Мы можем поделиться опытом сотрудников Свято-Троицкого монастыря, которые выполняют широкий спектр академических, сельскохозяйственных и офисных задач, и мы не видим абсолютно никакой необходимости в использовании ИИ-чат-ботов, пока существуют поисковые системы, многие из которых можно использовать конфиденциально, без профилирования. За исключением ИИ-чат-ботов, распознавание необходимо использовать с любым коммерческим сервисом ИИ, но помните, что каждый раз, когда вы используете продукт ИИ, о вас собираются данные, которые в какой-то непредвиденный момент могут быть использованы против вас – таким образом, что вы даже не сможете это осознать.

Каждый раз, когда вы используете продукт ИИ, о вас собираются данные, которые могут быть использованы против вас

Духовно полезно не получать мгновенный ответ на свой вопрос, не решать проблему немедленно, не скучать какое-то время, а терпеливо ждать, пока не появится возможность обратиться за помощью или пойти в библиотеку и поискать ответы в бумажных книгах. В современную эпоху медлительность и неудобства следует рассматривать как духовно положительное явление, поскольку они не подпитывают наши современные страсти, которые толкают нас к новым изобретениям, таким как искусственный интеллект, которые могут быть крайне пагубны для наших душ.

Не нужно избегать всех цифровых технологий, но на этом последнем этапе истории человечества мы должны тщательно оценивать каждую технологию, которую используем, и спрашивать себя, стоит ли её внедрять в нашу повседневную жизнь. Старец Эмилиан говорил:

«Технология сама по себе, конечно, не вредна, будучи плодом рассуждения и интеллекта человека, созданного по образу Божию. Но когда она, необузданная и неудержимая, устремляется к своей цели, тогда она становится подобной Люциферу, несущему не свет (лат. lucifer – «светоносный». – Прим.пер.), а кромешную тьму»^[33].

Да дарует нам Бог проницательность и мудрость, чтобы использовать современные технологии так, как подобает нашему пути к спасению.