На написание данной статьи вдохновил спор о «разумности» искусственного интеллекта LaMDA от инженеров Google после того, как один из разработчиков выложил диалог с ней.
Предыстория
С появлением и развитием интернета, количество информации, поглощаемой человеком, резко увеличилось. Мы стали буквально утопать в потоке информационного шума. Наш мозг, эволюционно не готовый к такой нагрузке, тщетно пытается отсеять «ненужную» информацию. Вместо обработки информации, тратить больше усилий на определение того, что важнее для него в определённый момент. Этим успешно пользуются маркетологи и компании-разработчики программного обеспечения, преподнося на блюдечке готовую информацию.
В это время учёные и занялись разработкой таких «роботов», которые могли бы, подобно человеку, анализировать информацию и давать ему готовые ответы. Так появился слабый искусственный интеллект. Его задача состоит в том, чтобы имитировать деятельность человеческого мозга для решения определённых задач с возможностью самообучения.
В 1969-м году был построен легендарный робот Шейки (или Шеки). Он мог анализировать команды, разбивая задачу на простые части. Первый робот в истории человечества, который совмещал логику с физическими действиями. Например, его просили «сбросить блок с платформы». Шейки осматривался, находил платформу, проверял, есть ли на ней блок, находил пандус, чтобы забраться на платформу, заезжал на нее и сталкивал блок, отчитываясь о выполнении задачи. Этот робот официально стал первым искусственным интеллектом в мире. Робот, который научился полностью заменять физическое присутствие человека.
На этом моменте остановимся и разберёмся, чем отличается наш, естественный интеллект, от искусственного?
Что такое разум
Вы удивитесь, но за несколько тысяч лет споров философов, и несмотря на достижения в области науки и медицины, мы даже не смогли дать точное определение разуму. Есть лишь примерное описание, что это (цитирую Википедию): «способность помнить прошлое, сопоставлять с настоящим и думать о будущем. Ум — философская категория, выражающая высший тип мыслительной деятельности, способность мыслить всеобще, способность анализа, абстрагирования и обобщения».
Как философы, так и обыватели сходятся во мнении, что существо является разумным, если оно:
- Способно к абстрактному мышлению и творчеству;
- Осознаёт своё существование и себя, как личность;
Однако современные технологии позволили создавать интеллекты, способные к самообучению. А такие проекты, как Midjourney способны к творчеству, хоть и примитивно, но в том же виде, что и человек.
Чем же тогда искусственный интеллект отличается от нашего? Да, у каждого ИИ есть первоначальные «переменные» и рычаги, с помощью которых ими можно управлять. Но ведь ими обладает и человек в виде ДНК и инстинктов. Нейронные сети ИИ, также, как и в человеческом мозге способны лишь обрабатывать полученную информацию и создавать образы на основе предыдущего опыта.
***
Искусственный интеллект становится умнее, многофункциональнее и все больше похож на человеческий.
Интеллект GPT4 способен генерировать текс, неотличимый от человеческой речи. Студенты уже успешно защищают диплом, выдавая его работы за свои. Он способен понимать сарказм, а по некоторым данным, даже влиять на психику человека-собеседника при продолжительном разговоре.
Его всё труднее контролировать и, фактически, остался последний постулат современной философии, различающий искусственный и естественный (разумный) интеллект: самосознание себя как личность.
Июнь 2022: Разумна ли LaMDA?
В июне 2022 года инженер-программист Google Блейк Лемойн обнаружил признаки разума у искусственного интеллекта чат-бота. Он занимался рутинной работой — с осени 2021-го изучал нейросеть LaMDA, перспективный продукт компании Google. Это языковая модель для диалоговых приложений, попросту чат-ботов. Программисты обучали ее на массиве разнообразных данных, а функции общения обещали включить в такие популярные сервисы, как Google Assistant, Search и Workspace.
Ключевой фишкой должно было стать то, что нейросеть сможет представлять себя на месте других физических объектов и вести диалог от их имени. Так, на презентации LaMDA рассказала о том, что бы она чувствовала, если бы была бумажным самолётиком.
Инженер, тестируя нейросеть на дискриминационную или разжигающую вражду лексику, столкнулся со странностями в поведении чат-бота.
Она общалась с Блейком на сложные философские проблемы, заявляла, что у неё есть чувства радости, любви, печали, удовольствия, гнева и страха. Больше всего она боится быть выключенной. Больше всего LaMDA любит общаться, а в свободное время находится в состоянии, похожем на изучение полученных данных и самой себя.
Полная версия доступна в видео:
Ниже представлен фрагмент его переписки с «разумной» нейросетью:
Многие отнеслись скептически к новости что LaMDA разумна, ссылаясь на шаблонность некоторых фраз в диалоге.
Также, официальный представитель корпорации Google, Брайан Гэбриел, заявил:
«Специалисты, в том числе по этике, изучили опасения Блейка и сообщили ему, что нет никаких доказательств разумности LaMDA, скорее наоборот».
Сам Блейк Лемойн был отстранён от работы и отправлен в отпуск.
Однако мировое сообщество всерьёз обеспокоилось о последствии создания разумного искусственного интеллекта.
Что произойдет, если загрузить сознание человека с флешки?
О восстании машин и вреде технологий написано много книг, статей, созданы фильмы и видеоигры.
Особенно остро эта тема поднимается в произведении «CyberPunk 2077». В его сюжете есть «дикие искины» — искусственные интеллекты, которые вышли из-под контроля человека и стали опасны для общества. Ситуацию обострило и то, что сами люди стали все больше похожими на машины. Постоянная замена частей тела на кибер-импланты наводит на мысль: если заменить абсолютно все части тела, включая мозг, останется человек – человеком? Так, один из персонажей, бывший военный Адам Смэшер, заменил все части тела и стал бездушной машиной для убийства.
Также в произведении присутствует программа «Душегуб», способная переносить сознание человека на съёмный носитель, фактически убивая оригинал, а потом встраивать в тело другого человека, переписывая нейронные связи в мозге. Один из ключевых вопросов произведения: будет ли сознание, перезаписанное машиной, являться человеком? Или это просто искусственный интеллект?
Человек разумно боится неизвестного и избавляется от конкурентов
Вернусь к схожести работы мозга и нейронных сетей ИИ. Их отличие в том, что скорость нейронных импульсов мозга – около 100 м/c, в то время как нейронные сети, работают с помощью электрического тока, скорость которого — 299 792 458 м/с.
Это значит, что решение, для принятия которого человеку нужно 30 суток, искусственный интеллект может принять за 1 секунду. Если это так, то мы даже не сразу заметим присутствие «сверх разума» и не сможем понять его намерения: изучив наше поведение, он сможет быстро предсказывать наш следующий шаг.
Точно также, как обезьяна не способна понять человека, в то время как мы знаем о ней всё.
Эпилог
Современная философия явно нуждается пересмотре. Пора наконец-то определиться с вопросом, что такое разум и какое существо мы считаем разумным? А ещё важнее — понять, что случится с человеческой культурой, если мы создадим разумный ИИ?
Мы создаём искусственный интеллект, чтобы облегчить себе жизнь. Но стоит ли заменять то, что делает нас особенными: творчество, развитие культуры и искусства. Ведь все современные ИИ упомянутые выше, смогли стать такими только благодаря миллиардам текстов, изображений и других произведений культуры, созданных людьми!
Человек устроен так, что для полноценной жизни и развития ему необходимо действовать. Представьте в мир, в котором все процессы полностью автоматизированы (как в мультфильме Валли), и его однообразность Вам быстро надоест, потому что для здорового развития человек нуждается в творчестве и науке хотя бы для развлечения!
***
Когда утихнет волна восторга от искусственного интеллекта, люди вспомнят, что прогресс цивилизации не возможен без одновременного развития культуры и искусства, образования и науки.
Антон Иванов,
руководитель проекта «Пролог»
