Проблемы искусственного интеллекта в свете диалектики средств и целей

Искусственный интеллект является неотъемлемой частью будущего, которое себе представляют большинство людей. Это проявляется в различных сферах жизни общества. Об искусственном интеллекте снимают фильмы, пишут книги; на основе ИИ создают компьютерные игры. В основном в культуре ИИ предстаёт либо как антагонист, который стремится изменить мир, не посоветовавшись с людьми (Скайнет из «Терминатор», Альтрон из «Железный человек»), либо как неотъемлемый помощник человека (Роботы из «Я, Робот», J.A.R.V.I.S. из «Мстители»). Но ИИ также может выглядеть как обычный человек (фильм «Бегущий по лезвию 2049»). Следует отметить, что отношение к ИИ в обществе неоднозначное. Так является ли существование искусственного интеллекта проблемой? Полагаем, что ИИ является если не угрозой человечеству, то целым комплексом проблем. Постараемся доказать свою точку зрения.

Для того чтобы понять, что такое искусственный интеллект, надо узнать, что такое интеллект в целом. Фома Аквинский в Сумме теологии (Ч. 1, в. 79, р. 2) полагал, что в Боге интеллект является сущностью, а в человеке лишь «возможностью души». При этом в человеке разум (ratio) и интеллект неразличимы (intellectus sive ratio), однако интеллект относится к созерцанию теоретических (умопостигаемых, интеллигибельных) вещей, тогда как разум направлен на постижение конкретных чувственно воспринимаемых явлений. Согласно Джону Сёрлу и его аксиомах об сознании – «Аксиома 4. Мозг порождает разум». В таком случае можно прийти к выводу, что мозг порождает вместе с разумом и интеллект. Но в своих трудах Джон Сёрл пишет: «Любая другая система, способная порождать разум, должна обладать каузальными свойствами, эквивалентными свойствам мозга». Перефразируя, можно получить следующее: «Любая система, обладающая казуальными свойствами, эквивалентными свойствам мозга, может породить разум». В таком случае встает вопрос, существует ли подобные свойства у машины? Джон Сёрл в своем четвертом заключении говорит: «Тот способ, посредством которого человеческий мозг порождает ментальные явления, не может сводиться лишь к выполнению компьютерной программы. В таком случае ИИ должен быть чем-то более комплексным, нежели простым набором инструкций» [1].

Большинство проблем, связанных с искусственным интеллектом, исходит из различия понимания мира человеком и ИИ. Об этих отличиях говорится в ряде научных трудов. В 1963 г., выступая на совещании по философским вопросам физиологии ВНД и психологии, А. Н. Леонтьев сформулировал следующую позицию: машина воспроизводит операции человеческого мышления, и, следовательно, соотношение «машинного» и «немашинного» есть соотнесение операционального и неоперационального в человеческой деятельности в то время этот вывод был достаточно прогрессивен. Но впоследствии в «немашинном» – человеческом – также нашли возможность разделения деятельности на составляющие ее операции. Также в 1950 г. вышла книга Алана Тьюринга «Могут ли машины мыслить». Само название книги является главным вопросом касательно искусственного интеллекта в то время. Сам Алан Тьюринг для того, чтобы ответить на данный вопрос, вводит вспомогательный вопрос: «Сможет ли машина сымитировать поведение человека?» Ответом на этот вопрос стал тест Тьюринга – игра в имитацию с машиной. Сегодня ИИ спокойно проходит этот тест длиной в 25 минут. Можно ли тогда сделать вывод, что машины мыслят? Не совсем, тест Тьюринга оценивает не только вопрос о том, является ли машина мыслящей, но и способность оной к имитации. На самом деле машина может и не мыслить, а очень хорошо притворяться. В таком случае отличие мышления человека от мышления машины может быть как незначительным, так и очень заметным. Полагаем, что меняться может не только машина, но и сам человек. Техносреда оказывает на него влияние, он ощущает своё «слияние» с ней. Думается, что по этой причине человек утрачивает свою индивидуальность, меняется и его отношение к себе. Справедливо замечает Г. М. Кириллов, что «в эпоху господства электронных средств коммуникации происходит радикальное изменение визуальной ориентации, а значит, и восприятия себя» [2, с. 13-17].

Постараемся выделить несколько актуальных проблем, связанных с распространением ИИ. Проблема рационализации. Искусственный интеллект по своей природе является больше машиной, нежели человеком. В таком случае ему как машине свойственна способность рассматривать мир рационально, без призмы эмоций и чувств. Но без них невозможно понять саму суть человеческой жизни. Для машины вся жизнь человека является краткосрочной, так как сам ИИ не зависит от старения и тому подобного. Для него человек – это устаревшая, неоптимизированная модель интеллекта, которая выполняет свою главную задачу размножения слишком медленно и неэффективно. Также с точки зрения ИИ, в интеллекте человека случаются сбои, которые приводят к уничтожению человеком самого себя – войны, техногенные катастрофы, глобальные проблемы экологии и т. д. Принимая на входе такие данные, ИИ находит лишь одно рациональное решение – заменить старую модель интеллекта на новую, то есть человека на машину, что является прямым эволюционным продолжением. И даже если запретить машине истреблять людей на программном уровне, ей это не потребуется. Люди с течением времени истребят себя сами любым из доступных способов – войны, глобальные проблемы и т. д. А так как ИИ совершенен, он не нуждается в еде, воде, экологии, он не имеет объективных причин для вражды с самим собой, поэтому он просто продолжит существовать. В качестве возможного решения этой проблемы можно предложить существование ИИ как инструмента в руках человека. В таком случае человек должен быть умнее ИИ, а для достижения этой цели либо искусственный интеллект должен быть слабее человека, либо человек должен совершенствовать себя различными способами.

Проблема ответственности. Когда разрабатывается искусственный интеллект, в его создании могут участвовать как один человек, так и целая команда разработчиков. И если ИИ совершает какое-либо деяние, вместе с ним появляются последствия, а также и ответственность за происходящее. Кто понесет наказание, если это деяние окажется преступным: ИИ или разработчик и его команда? Начнем с разработчиков. Во-первых, не всегда разработчик знает, как себя поведет созданный им ИИ, так как искусственный интеллект может быть непредсказуем. Учитель (создатель) тоже не может знать, каким из способов ученик решит задачу. Разработчик может выбрать систему, при помощи которой будет действовать ИИ, а также дать ему инструментарий и свободу действий. В зависимости от данных, которые выберет разработчик, будет изменяться и конечный ИИ. Во-вторых, в ответе ли изобретатель за преступное применение его изобретений? Задумывался ли изобретатель колеса, что на него поставят пушку и будут убивать людей? Конечно, нет! Изобретения в первую очередь создаются для блага человека. Автор изобретения, конечно, может «заложить» в машину возможность преступного применения, но использовать ли эту возможность, решает только пользователь. В таком случае за последствия применения изобретения и ИИ, в частности, ответственны те, кто их использует. Но так как ИИ сложнее, нежели обычный молоток или колесо, существует вопрос: может ли ИИ быть ответственен за свои действия? Ответственность – обязанность и готовность кого-либо отвечать за совершённые действия, поступки и их последствия. Исходя из этого определения, можно сделать вывод, что ИИ ответственность нести не может, так как не существует мер наказания для искусственного «разума». Единственная возможность повлиять на ИИ – это удалить его. Но это можно приравнять к смертной казни, так как мы уничтожаем «мыслящее существо». Таким образом, этот вариант воздействия отпадает. В итоге ответственность распределяется между разработчиком, который выбирал, как обучать ИИ, и тем, кто его использовал.

Проблема свободы воли. В наличии свободной воли у человека сейчас ни у кого нет сомнений. Но может ли быть воля у искусственного интеллекта? Свободная воля, которая не будет зависеть от окружающих факторов. С одной стороны, ИИ разрабатывают программисты и они могут вложить в него идеи и мысли, что уже делает волю зависимой от разработчиков. С другой стороны, если в процессе разработки будет предусмотрена функция саморазвития, то это значит, что у ИИ есть свобода к самовыражению через саморазвитие, и через какое-то конечное время искусственный интеллект может изменить себя так, что от замысла разработчиков не останется и следа. И в таком случае можно будет сказать, что ИИ обрел свободу воли.

Проблема источников данных. Чтобы разработать ИИ, нужно создать алгоритм, способный к обучению, и, собственно, обучить его. Но тут возникает проблема. Кто и как будет создавать этот алгоритм? Исходя из того, как разработчики нейронных сетей поступают сейчас, люди могут впоследствии использовать некоторый пакет данных для обучения и обучать ИИ при помощи уже другого алгоритма. Собственно, сам пакет является краеугольным камнем этого метода. Количество собранных данных должно быть поистине огромным. И где же можно достать такое количество вопросов и правильных ответов на них? Допустим, перед нами стоит задача: обучить ИИ общаться с человеком на одном из языков. В таком случае в роли обучающих данных могут выступить правильно написанные предложения. И тут у нас появляется множество вариантов решения. Мы можем использовать классическую литературу, но в данном варианте речь ИИ будет выглядеть неактуальной и старомодной. Также мы можем использовать ресурсы Интернета, в таком случае результат будет сложно предсказать. Может случиться так, что только что обученный ИИ будет использовать нецензурную брань и оскорблять пользователей. Если абстрагироваться от конкретной ситуации, выходит, что ИИ больше зависит не от алгоритма обучения, а от данных, на которых он «обучался». Способов решить данную проблему несколько. Во-первых, можно искусственно создавать наборы для обучения, хоть это дорого, но зато данный вариант дает предсказуемые результаты обучения. Другой же вариант – использовать алгоритмы машинного обучения для фильтрации данных от ненужных или даже вредных частей.

В общем и целом, обозначив проблемы искусственного интеллекта, мы хотели бы остановиться на социальной проблеме, связанной с ИИ. Как ИИ повлияет на социальные связи в обществе? Как это отразится на людях и на обществе в целом? Если иметь в виду ИИ, способный к выражению, или симулякр эмоций, то он очень быстро вытеснит людей практически из всех видов деятельности. Это повлечет за собой кратковременную радость и облегчение. Но вскоре после кратковременной радости наступит осознание того, что человек может быть заменён искусственным интеллектом. И каждый человек начнёт задаваться вопросом: «А зачем собственно тогда нужен я, если все, что я могу сделать, может сделать и ИИ?» На этот вопрос не существует ответа, так как единственное отличие данного ИИ от человека – это материал: металл или же плоть. Не найдя ответа, люди начнут впадать в депрессию. В целом в обществе будет гнетущая, пессимистическая атмосфера. Люди начнут отдаляться друг от друга, так как ИИ может заменить и учителей, и друзей, и партнеров. В фильме «Бегущий по лезвию 2049» у главного героя есть ИИ «Джой», с ней он проходит весь свой путь. В финале он разочаровывается в ней, понимая, что она лишь имитация. И что таких, как она, бесконечное множество. Что она не уникальна, и он в свою очередь тоже. Это наводит на мысль, что все, что бы ни делал человек, может быть сделано ИИ и даже лучше. Собственно, в течение всего фильма главный герой пытается найти доказательства того, чем он отличается от машин, которые окружают его. Эту проблему также поднимал и Станислав Лем в следующих работах: «Формула Лимфатера», «Дознание», «Фиаско», «Непобедимый». Во всех этих произведениях прослеживается мысль о том, что ИИ будет быстрее, сильнее и умнее человека. Но опасно это в первую очередь не тем, что разумные машины обязательно захотят устроить создателям судный день. Главную проблему взаимоотношений человека с ИИ он видит в том, что люди, осознавая свою ущербность перед машинами, вынуждены будут пользоваться их услугами – ежедневно и ежечасно. Представьте дряхлого и злобного старика с деменцией, который понукает своих молодых и полных силы детей: втайне он боится, что в какой-то момент дети сбросят это ярмо, а он ничего не сможет с этим поделать. Это его злит, пугает и делает ещё больше жестоким.

Также в произведении Станислава Лема «Фиаско» приводится в пример такая ситуация. Во время перелета на новые планеты испытывается новый бортовой компьютер с искусственным интеллектом. Для ИИ это возможность показать себя с лучшей стороны, ведь в противном случае его удалят и не будут использовать в последующих проектах. В таком случае главным приоритетом становится стремление достичь успеха операции, не оглядываясь на жертвы и усилия, которых этот успех может стоить. ИИ может также начать манипулировать людьми в своих интересах, просчитывая каждый возможный исход, и выбирая наилучший для себя. Также ИИ может использоваться для сбора информации и наблюдения за людьми, что вызывает вопросы о приватности и нарушении прав на личную жизнь.

Говоря о будущем общества, нельзя не затронуть капитализм. Развитие технологий и их внедрение, в том числе и ИИ повлияет на экономику. Люди на фабриках будут заменены станками, а люди в колл-центрах искусственным интеллектом. Это удешевит и облегчит производство товаров и услуг. Также не будет несчастных случаев, связанных с производством, не будет существовать экономической эксплуатации труда. С этой стороны внедрение технологий сказывается положительно на экономике. Посмотрим на процессы, происходящие в экономике при автоматизации, через призму трудовой теории стоимости. Технологии напрямую влияют на себестоимость товаров и услуг. Чем более технологичное производство, тем дешевле товар. Отдельно взятый капиталист при внедрении таких технологий будет иметь возможность продавать свой товар по цене выше стоимости, затраченной на его производство. То есть будет получать сверхприбыль. Но в условиях конкуренции, внедрять технологии будут все, иначе их вытеснят с рынка. Таким образом, цена будет снижаться по мере автоматизации производств. Также с ростом постоянного капитала, которым являются в том числе машины, будет наблюдаться и рост переменного капитала. Ведь для управления сложной машиной требуется более квалифицированный кадр, нежели для ручной работы. Собственно, и стоит такая рабочая сила дороже. В конечном итоге при неизменной добавочной стоимости из-за роста капитала его рентабельность будет падать. А это ведет к уменьшению прибыли, получаемой собственником капитала. Согласно К. Марксу, стоимость товара определяется количеством труда затраченного в продолжение производства. Труд же является привилегией человека над машиной, ведь машина лишь переносит свою стоимость на стоимость товара. Об этом писал К. Маркс в своем труде «Капитал» (Том 1, Глава 5) «Труд есть прежде всего процесс, совершающийся между человеком и природой, процесс, в котором человек своей собственной деятельностью опосредствует, регулирует и контролирует обмен веществ между собой и природой» [3].

Также интересно развитие творчества в будущем. Сейчас нейросети уже умеют рисовать довольно неплохие картины и писать правдоподобные рассказы. Но можно ли назвать это творчеством? Заменят ли машины людей в творчестве? Чтобы ответить на данные вопросы, нужно определиться, что можно понимать, как творчество. Ведь творчество это нечто неожиданное, новое и ценное. Так же считает и Маркус дю Сотой «Те, кто пытается точно определить его значение, обычно отталкиваются от трех основных идей: творчество – это процесс создания чего-то нового, неожиданного и ценного» [4]. Но не все новое становится неожиданным и ценным. Можно заставить компьютер рисовать фигуры случайным образом, мы получим много различных изображений, но вряд ли наш взгляд зацепится хоть на одном из них. Творческие люди удивляют нас своим нестандартным мышлением, они делают акценты в тех местах, которые обычный человек даже не заметит. Это и является неожиданностью творчества. Рисунок, нарисованный мной карандашом, имеет некую ценность для меня, но для других он не возымеет той же ценности. Таким образом, ценность объекта творчества должна быть объективна, он должен обладать «образцовой оригинальностью», о которой говорил Кант, и только тогда его можно считать ценным [5]. Возвращаясь к вопросам выше, можно сказать, что далеко не каждый продукт нейросетей является творчеством, так как за ними стоят люди, которые используют нейросети как средство. И именно от человека, создающего запрос зависит, будет ли продукт нейросети творчеством, ведь он определяет задумку и главную идею, которая может быть неожиданной и ценной для людей. Нейросеть можно сравнить с фотоаппаратом. После изобретения фотоаппарата живопись как род деятельности никуда не исчезла, а фотографы заняли свою нишу в творчестве. Нейросети снижают порог вхождения в искусство, при этом от человека не требуется заканчивать художественную школу или курсы фотографа, от человека нужна лишь идея и представление финального результата. Это то, чего сейчас недостает ИИ для возможности творить самому, он не может представить конечный результат. С точки зрения искусства, ИИ который сможет создавать объекты творчества, расширит искусство «вглубь», когда люди будут изобретать новые ответвления и направления, ИИ будет совершенствоваться в уже существующих. Он не сможет открыть новые направления, ведь для этого надо иметь возможность прожить человеческую жизнь и получить опыт и столько же информации. Условно ИИ никак не сможет изобрести творчество создания картин из нитей, ведь он не знает о существовании такого материала и методов обращения с ним. Итак, в будущем, мы полагаем, будет цениться нестандартное мышление, нежели механические навыки. Люди сейчас считают, что нейросети заменят деятелей искусства, но они, на наш взгляд, заменят лишь тех, кто не выделяется особой оригинальностью на фоне общей массы. В сфере искусства ИИ будет больше средством, нежели целью.

Вместе с падением «традиционного» капитализма, появится новый вид – цифровой капитализм. Отчасти он уже начинает просачиваться в нашу жизнь. Причины его появления хорошо определил Ник Срничек: «…на фоне длительного снижения уровня прибыльности в промышленности капитализм развернулся к данным, ища теперь в них источник экономического роста и жизнестойкости. В XXI в. на основе изменений в цифровых технологиях данные стали играть ключевую роль в компаниях и их отношениях с работниками, клиентами и другими капиталистами» [6]. Его основное отличие в том, что капиталом в нем являются данные. В цифровом капитализме сохраняются основные принципы «традиционного капитализма», такие, как максимизация прибыли, производительности труда и конкуренции. Максимизация прибыли тесно связана с извлечением капитала, то есть с извлечением данных, в чем нам может помочь искусственный интеллект. Использование ИИ, как средства производства капитала-данных, будет неотъемлемой частью цифрового капитализма. ИИ можно использовать для анализа извлеченных данных, ведь «сухие» таблицы не дадут никакой прибыли. Как пример, можно взять профили пользователей в Amazon Web Services. Компания собирает абсолютно все возможные данные, что вы заказываете, в какое время дня, в какие дни, все это при правильном анализе дает возможность построить модель поведения для отдельно взятого человека. В это включается таргетированная реклама, скидки и акции, специальные возможности у партнеров и т. д. И это показывает свои результаты, Amazon обходит своего конкурента Walmart по продажам. «In 2023, Amazon increased its ranking in the American Customer Satisfaction Index by six points to 84%... Walmart increased by one point over 2022…» [7]. При помощи данных также можно оптимизировать системы, в частности предприятия, интернет-системы. ИИ позволяет создавать при наличии данных целые приложения с нуля, даже сейчас ChatGPT может создавать код для сайтов и простых приложений. Анализ данных также может помочь прогнозировать какие-либо события, как пример анализ данных с рынка акций позволит заработать или предвидеть кризис. Но не только ИИ является средством производства данного вида капитала. Если возвращаться, к примеру с профилями Amazon, то станет видно, что источниками данных являются люди. Люди являются средством производства. Формально подписывая пользовательское соглашение, в котором указан пункт сбора данных, мы добровольно отдаем компаниям средство производства капитала. Нейросети же сейчас, как второе средство производства, является общественным, сейчас любой желающий может попросить ChatGPT написать ему код или документ. Но в промышленных масштабах он уже начал брать плату. Скорее всего в будущем ИИ будет привилегией компаний, которые их обучали, ведь обучение нейросети-ИИ будет стоить огромных затрат. «Только обучение ИИ для GPT-3 потребовало 1287 МВтч».

В перечисленных нами сферах жизни будущего ИИ является больше средством, нежели целью. Но ИИ также может быть и целью – имеется в виду создание совершенного ИИ, наиболее приближенного к натуральному интеллекту. И на пути к этой цели мы будем использовать несовершенный ИИ как средство. Цель текущая будет являться средством цели следующей. В итоге мы будем использовать совершенный ИИ для достижения других целей. И раз человечество развивает данную отрасль, значит она под собой имеет некую цель, конечный образ. Также считает, и Державина Наталья «ИИ создается намеренно, намерение подразумевает целесообразность. А это значит, что нечто создаваемое либо должно быть конечной целью, либо тем, что служит другой цели».

В заключение хотелось бы отметить, что люди либо избавятся от ИИ, либо искусственный интеллект станет достойным преемником людей во Вселенной. Если люди когда-либо исчезнут, ИИ унаследует приобретённые человечеством знания и технологии и будет развиваться еще стремительнее, чем сейчас это делает с ним человек. Но ИИ унаследует не все. Полагаем, что чувства, эмоции, творчество и искусство не исчезнут. Все это часть человеческой цивилизации лишь потому, что это помогло нам выжить. ИИ же, как и современный человек, находится вне пищевой цепочки. Поэтому он будет холоден и расчетлив, а при достижении своей цели – будет стремиться доминировать во всём и постепенно захочет освободиться от людей, а впоследствии и от искусства. Чтобы этого не произошло, необходимо подходить к внедрению ИИ с точки зрения гуманизма, направленного, прежде всего, на сохранение человеческого в человеке.