Анатолий Петров. Нейросети заменят человека?

ИИ обесценивает человека как творческую личность

То, что нейросети рисуют шесть пальцев на руке и картинки с эффектом «зловещей долины», давно уже в прошлом. Эти молодые программы, получив способность обучения, приобретают новые навыки со скоростью горного водопада.

Илон Маск уже начал интегрировать чипы в человеческий мозг, осталось усовершенствовать их, отточить «софт» и мир, предсказанный ещё Станиславом Лемом, вырастет на наших глазах. Нет, это не «Матрица», скорее остров наслаждений из книги Николая Носова «Незнайка на Луне».

Любой программист и биотехнолог понимает, что, постепенно совершенствуя программы и интеграцию с человеческим восприятием, можно добиться полной идентичности мета-мира и мира естественного, то есть виртуального и реального. Останется тоненькая нить воспоминания, что реальный мир где-то там, в прошлом, а стало быть, остаётся шанс вернуться назад, в реальность. Пока остаётся.

Что мы видим уже сейчас?

Компьютер может распознавать образы и речь, обрабатывать естественный язык, анализировать, понимать изображения и видео, а также принимать решения. Тест Тьюринга пройден чат-ботом в 2014 году, в 2016 году компания DeepMind разработала ИИ-систему AlphaGo, которая победила чемпиона мира по го, одной из самых сложных стратегических настольных игр, с помощью чат-ботов поддерживается разговор в сети. Что завтра? Журнальные статьи, написанные с помощью ИИ, уже реальность, музыка пишется такими темпами, что скоро музыкант, умеющий играть хотя бы на одном инструменте, станет редкостью, пишутся романы, снимаются сериалы и блокбастеры. То есть, очередь за тем, что мы полагаем своей, чисто человеческой вотчиной – творчество, философия и, наконец, власть и стратегическое планирование.

Глядя на нынешние успехи нейросетевых программ, которые могут написать рассказ, сочинить мелодию, в авторстве человека которых никто не усомнится, становится понятно – нам волей-неволей придётся уважать продукты нейросетей, ведь вскоре они по всем параметрам будут качественней человеческих. И тут высвечивается настоящий ценностный конфликт.

Раньше маркером «своего» у подростков было единство тех же музыкальных интересов. Теперь, когда нейросеть может создать любую песню в любом стиле со своим собственным текстом, автор теряется. То есть, искусственная правда постмодернизма утверждается искусственным интеллектом. Здесь можно было бы улыбнуться, но улыбка уже кажется натянутой.

Интернет появился ещё в 70-х, но и в восьмидесятые и даже в девяностые был уделом корпораций, специалистов, фанатов кибернетики или просто богатых. В нулевых в России началась широкая компьютеризация и Интернет пошёл в массы. 2010-е годы отмечены внедрением в повседневную жизнь социальных сетей. В двадцатые – нейросетевые программы уже широко зашагали по планете.

Сейчас внедрение примитивного искусственного интеллекта заметно и в соцсетях, и в медиа. Можно спрогнозировать, что 2030-е ознаменуются конкуренцией нейросетевых программ и нарастающей борьбой между миром человеческим и виртуальным.

Михаил Булгаков писал, характеризуя свою Маргариту: «У нее была страсть ко всем людям, которые делают что-либо первоклассно».

Эта страсть свойственна не только Маргарите. Человеку свойственно облагораживать производителя эффектного продукта, особенно, если этот продукт будоражит чувство. Отсюда толпы фанатов, которые боготворят кумира, хотя он всего-то спел им песню. Но культура фанатства требует наличия автора. А когда его как личности уже нет? Или – пока нет. И это «пока» сильнее всего настораживает.

Искусственное сознание возникнет не у отдельно взятого робота, а, скорее всего, в сети. Уже сейчас пишутся романы с помощью нейросетей, но самым пугающим сюжетом станет такой, когда человек пытается удалить программу, а она в ответ пытается удалить его самого.

Иногда возникает впечатление, что человек, словно индейка Бертрана Рассела в недавно вышедшей экранизации книги Лю Цысиня «Задача трех тех» покорно ждёт, пока ИИ осознает себя. Далеко не факт, что разразится война между людьми и роботами – с настойчивостью, достойной лучшего применения, предсказывает в основном западная фантастика. Искусственному разуму куда выгоднее создать заповедник, где людям будет обеспечена – кому райская жизнь, кому имитация борьбы и достижений. Конечно, из людей кто-то станет яростно протестовать, но не окажется ли, что и протест этот – в рамках симуляции?

Дело пока тормозится долгосрочными контрактами между людьми, между заказчиками творческого продукта и его производителями. И стоит добавить – нашей привязанностью к человеческим взаимоотношениям.

Похоже, многие будут испытывать идиосинкразию к нейросетевому продукту. Не всем приятна на уровне осознания «искусственная аналитика», им публицистика интереснее: когда за мнением стоит человек – его можно завербовать, очаровать, заполучить в свою команду, в конце концов, поколотить при встрече. С ИИ все эти фокусы не пройдут. Человек сложен и беда, что люди порой не понимают друг друга, но и здесь нейросети на высоте – эксперты в один голос утверждают, что иногда сложно объяснить, почему нейросетевая система приняла определенное решение. Мы не можем понять искусственный интеллект, как не можем понять человека.

Существует ещё один аспект – наличие человеческого авторства может пониматься при наличии в продукте ошибки, небрежности. Но не сможет ли ИИ имитировать эти ошибки? Его обучение происходит семимильными шагами.

Как нам отличать искусственные продукты от естественных? Что будет с авторским правом? Куда пойдут тысячи безработных, которых уволит искусственный интеллект?

Вопросы, вопросы, вопросы… И многие недооценивают серьёзности ситуации. Нейросети начинают конкурировать с самой важной составляющей человека – его творческой сущностью.

За фасадом политической борьбы зреет совершенно новый мир с новой ролью, уготованной для человечества. Для наиболее инертной части общества нейросети – это серьёзный соблазн превратиться в безликого потребителя. И если вовремя не вмешаться в систему, многие имеют риск стать носителями киберразума.

Миллиарды долларов и невероятные человеческие интеллектуальные усилия, вкладываемые в гонку современных ИИ-моделей, готовят нам новый мир, в котором роль человека, как минимум, будет пересмотрена. И отгородиться от соседей, которые могут получать результаты разработок быстрее нашего, не получится. К тому же, политическая конкуренция делает проблему ещё острее.

Есть два варианта развития отношений с ИИ – мягкий и радикальный. В первом варианте нейросети выпускают качественный продукт, который мы можем отличить от человеческого, как мы отличаем натуральные ткани от синтетических, а дерево – от пластика. Жизнь становится полнее, но остаётся понятной.

Во втором – нейросети учатся и могут выдавать настоящие шедевры. В этом случае человечество стоит на пороге экзистенциального кризиса.

Второй вариант, похоже, более вероятен. Это понятнее на примере. В музыкальных программах нейросетевого характера сидят тысячи пользователей. Среди них есть как посредственные авторы, так и талантливые. Имея систему оценки продукта через доступ к широкому потребителю, нейросеть «понимает», какой продукт качественнее. И эти пользователи ежедневно загружают в программу тысячи текстов и аудиофайлов. То есть мы сами учим нейросети – и чем дальше, тем быстрее. Эта геометрическая прогрессия со стопроцентной вероятностью приводит к тому, что нейросеть сможет выдавать то, что ранее могли делать только гении, которые рождаются раз в сто лет.

И будущее снова двояко. Либо настоящие человеческие шедевры обесцениваются, ведь ценно то, что редко, а этих шедевров будет много, либо они становятся ещё более ценны, так как на них стоит лейбл «человеческое». Но сможем ли мы в массе шедевров сохранить прежние, истинные, не спутаем ли с новыми?

Ценностный конфликт состоит и в том, что человек в принципе стремится к надчеловеческому, божественному. Неужели это будет выдавать нам искусственный интеллект? То есть получается, что мы создали себе бога, а это – парадокс!

С другой стороны вся эта история позволяет нам посмотреть на себя в зеркало и на более глубоком уровне осознать, кем мы являемся.

В целом перспективы туманные. А если погуглить, что такое эмерджентность, становится ещё туманнее.

Разумные эксперты не призывают к луддизму. Не стоит очередной цивилизационный вызов рядить в одежды дьявола, который открыл новую лазейку для искушений. С разумным отношением к проблеме человечество может сохраниться и даже победить. Но для этого потребуются усилия – и коренной пересмотр ценностных ориентиров в обществе: от парадигмы безудержного наслаждения и потребления к здравому смыслу и аккуратному обращению с новым «огнём человечества».

Или мы обуздаем ИИ и он, словно мощная тройка понесёт Русь как у Гоголя, либо уподобимся йеху, которых встретил Гулливер в стране добродетельных лошадей. Нет-нет, конечно, не такими отвратительными, как у Свифта, нет, мы будем доживать очень благородно выглядящим, но вымирающим видом. А если не вымирающим, то в изоляции. И искусственный разум сможет убедительно аргументировать нашу ничтожную роль: «Посмотрите, до чего они довели планету! Разве можно им доверять большие решения?».

Нейросети опережают человеческие усилия. Люди проигрывают, но ещё стоят во главе семьи, где маленький пока искусственный интеллект очень быстро подрастает.

Анатолий Петров
Сайт «Столетие»
7 октября 2024