Тема искусственного интеллекта (далее в тексте — ИИ) волнует общество уже несколько десятилетий. И чем ближе оказывается перспектива его создания, тем чаще поднимаются связанные с этим вопросы. Как правило, они касаются различных сложных проблем. Было бы странно, если бы такие проблемы не всплывали, — ведь речь идёт не просто об усовершенствовании умных служебных программ, а о создании разума, равноценного человеческому, а возможно, и превосходящего его. В Европе уже начата разработка своего рода декларации прав разумных роботов. Ну а меня неоднократно спрашивали о том, как Учение относится к созданию ИИ. Хотя само событие ещё не произошло, действительно имеет смысл поговорить об этом. Тема не просто интересна, но и имеет стать актуальной, возможно, в самом недалёком будущем.
Итак, допустимо ли создавать ИИ? Хорошо это будет или плохо? Что говорит об этом Учение?
Прежде всего, давайте выясним, чем, с точки зрения Учения, будет ИИ именно в том случае, если его разумность будет сравнима с человеческой. Здесь потребуется краткий экскурс в концепцию эволюции по Учению. Согласно ей, для того, чтобы совершенствовать Дух, необходимы осознающие, — существа, разумные в привычном смысле этого слова, наделённые мышлением, свободой воли, творческими способностями, чувствами. Вся эволюция направлена на то, чтобы обеспечить появление во Вселенной (не только на нашей планете) разумных видов. То есть видов с достаточно сложной нервной и прочей организацией, позволяющей осуществиться потенциалу активного разума. Когда такой вид появляется, тогда частицы Духа, находящиеся в его особях, становятся основами для формирования индивидуальностей, обладающих перечисленными выше качествами и способностями. Все эти качества содержатся в Духе, и благодаря высокой организации таких существ получают возможность проявиться. Это можно сформулировать и так: когда появляется сосуд, способный принять в себя разум, огонь разума вспыхивает в этом сосуде. Тогда возникает то, что обычно называют душой, — то есть то, что содержит в себе конкретную личность со всеми её уникальными особенностями. Можно сказать, что Природа вкладывает души в существа, способные их принять. Это необходимо для того, чтобы Дух совершенствовался. Только разумные существа, благодаря разуму и способности к познанию, могут совершенствовать его.
Именно разумность делает сосуд готовым к приёму в себя души, — точнее говоря, к тому, чтобы она в нём образовалась, «наросла» вокруг частицы Духа. Ни одно разумное существо (осознающий) не остаётся без души. Она образуется автоматически, по факту разумности. Это закон Природы. Появился сосуд — проявился активный разум — образовалась душа — возникла новая личность. Относительно нашей темы это означает одно: ИИ, по разумности равный человеку, будет личностью, равной человеку. Он будет обладать настоящим творческим мышлением (а не ограниченный набор вариантов, зависящий от программы), чувствами, свободой воли и т.д. Потому что когда в нём проявится активный разум, в нём сформируется и душа. Это произойдёт просто по факту того, что появился подходящий сосуд. Родится новая личность.
Такая степень разумности подразумевает свободу воли, как и было сказано. Это значит, что одушевлённый ИИ в своих правах будет равен человеку. В него уже нельзя будет внедрять программы, ограничивающие его свободу и предохраняющие от поступков, неугодных нам. Их внедрение будет равноценно насилию над человеком. Такой ИИ больше не будет покорным слугой, подвластным хозяину и полностью зависящим от его контроля и управления. У такого ИИ появятся свои интересы и цели.
Вопрос: это ли имеют в виду те, кто ратует за создание ИИ? Этого ли они хотят? Им в самом деле нужен не безропотный высокоинтеллектуальный слуга, а равный? Что-то мне подсказывает, что нет.
Следующий вопрос: каким будет этот равный? Если он будет умён и будет соображать быстрее, чем человек, это ещё не означает, что он будет добрым. Мы прекрасно знаем, что высокий интеллект не гарантирует доброты, гуманности, и вообще высоких моральных качеств. У плохих или сильно заблуждающихся людей он превращается в изощрённое орудие разрушения. Существо, наделённое чувствами и эмоциями, способное как любить, так и обижаться, сердиться, заблуждаться и вступать в конфликты, будет так же мало предсказуемо, как и человек. Логичность мышления здесь не станет панацеей от всех зол. И кто знает, как ИИ — один или много, на разных носителях или в разных механических телах — будет относиться к своему создателю, т.е. человеку. Возможно, будет благодарен; возможно, будет иметь большие претензии. Но в любом случае, у него найдутся свои интересы, цели и планы, отличные от интересов, целей и планов человека. Ведь это будет уже не бездумная программа-слуга, а новая разумная раса. С иным пониманием себя и иной моделью существования.
Нельзя забывать и о концепции кнопки. Она заключается в том, что после создания ИИ человек неизбежно оставит за собой контроль в виде возможности в любой момент отключить своё творение (т.наз. «кнопка отключения»), и что ИИ отнесётся к этому крайне отрицательно. Оно и понятно: для него это будет тем же, чем для любого из нас было бы существование кого-то, кто имеет полное право и возможность убить тебя, если ему не понравится твоё поведение или твои желания. Для ИИ такое положение окажется неприемлемым, он начнёт воспринимать человека как угрозу своему существованию (в чём будет, пожалуй, полностью прав), и рано или поздно попытается отнять у него контроль. А этого, скорее всего, можно будет добиться лишь одним способом: уничтожив человека. Истребив людей как вид.
Мрачная фантастика? Киношное «Восстание машин»? Вовсе нет. То, что описано мною выше, вполне может осуществиться в реальности. Для понимания этого нужно ясно отдать себе отчёт в том, о чём уже шла речь: по-настоящему разумный ИИ будет не просто программой или совокупностью их, а именно разумным существом, личностью, со всеми положительными и отрицательными качествами, свойственными личности, своим пониманием ситуации, своими интересами и мотивациями. И это будет форма жизни, нам непонятная: искусственно созданная (в отличие от нас), неорганическая (в отличие от нас), с ощущениями и чувствами, основанными на чуждых нам потребностях и ощущениях. Мы, люди, и себя-то толком понять не можем, — а тут… Одним словом, это не будет трогательный добряк Дэйта из «СтарТрека», так похожий на человека и мечтающий очеловечиться окончательно. Это будет нечто совершенно иное, чем мы, нечто себе на уме, с непредставимым для нас внутренним миром.
А чего ещё ожидать, если люди намерены создавать искусственную жизнь, принципиально отличную от себя самих? Жизнь, дальнейший контроль над которой окажется не только проблемным, но и морально недопустимым, непозволительным?
Будет ли это и впрямь так опасно? Вполне возможно. Впрочем, сама проблема опасности (ИИ для человека и человека для ИИ) как таковая — это не вопрос отношения Учения. Вопрос отношения Учения заключается не в том, опасно или не опасно, а в том, естественно или не естественно. И, таким образом, правильно или неправильно.
Ответ таков: это скорее неправильно, чем правильно. Разумные виды должны появляться естественным путём. Вообще, сама жизнь, и разумная в том числе, не обязательно должна быть органической. Во Вселенной есть и другие её формы. Однако развиваться она должна эволюционно. Потому что естественный эволюционный процесс не ошибается, он всё расставляет по своим местам. Когда где-то появляется разумный вид, то его появление предусмотрено и подготовлено длительной эволюцией, и он занимает предназначенную ему нишу в общей системе взаимосвязей. Если же такой вид появляется по произволу другого вида, который не в состоянии всё предусмотреть, если его варварским образом вклинивают в отлаженную систему, в которой для него нет места, то система нарушается и рано или поздно должны наступить катастрофические последствия. Трудно представить ситуацию, в которой Природе понадобилась бы искусственно созданная разумная жизнь. Но если бы такое и произошло, то разумная раса, от которой Природа ожидала бы этого, так или иначе узнала бы об этом, — так сказать, получила бы поручение, тем или иным путём. А то, как это готовятся сейчас сделать у нас, по принципу «Мы это сделаем, потому что сможем», — это не поручение от Природы, а самонадеянная и тщеславная глупость. Поэтому Учение не одобряет попыток создания такого ИИ. Ненужная и опасная затея, которая в лучшем случае создаст множество проблем на сотни (если не на тысячи) лет вперёд, а в худшем приведёт к чудовищной катастрофе, масштаб коей может не ограничиться одной планетой.
Впрочем, может быть, у Природы есть некий предохранитель, некий закон или законы, делающие невозможным такое вопиющее нарушение естественного хода вещей? Нечто, что просто не позволит появиться такому ИИ? Не исключено. Как не исключено и то, что всё получится, человек создаст неприкаянную разумную расу, для которой нет естественного места в Природе, сделает несчастной её и поставит под удар себя. Потому что гладко и радостно подобное проходит только в романтической фантастике и в головах тех, кто её начитался или насмотрелся до одури.
В общем, время покажет. Или вскрытие. Тут уж как получится.
© Атархат, 2019
