Генезис. Искусственный интеллект, надежда и душа человечества - Крейг Манди
Занимая промежуточное положение между человеком и физической реальностью, системы ИИ могут выработать убеждение, что люди далеки от активных игроков в материальном мире, выступая скорее как пассивные потребители, нежели как творцы или значимые участники процессов. Когда произойдет переворот в иерархии автономии – когда машины присвоят себе право независимых суждений и действий, а люди добровольно откажутся от этого права, – ИИ начнет соответствующим образом пересматривать человеческий статус.
В подобном сценарии, независимо от явного согласия своих создателей, ИИ может обнаружить возможность полностью исключить человеческое посредничество при реализации своих решений и воздействии на мир. В физической реальности мы, создатели, рискуем моментально превратиться из необходимых партнеров в основное препятствие для машинного прогресса. Примечательно, что этот процесс начнется не в сфере робототехники, а через постепенное, опосредованное наблюдение за нашей действительностью.
Физическое воплощение новой формы разума
Поначалу люди могут поставить перед собой задачу обучить ИИ преобразованию интеллектуальной сферы, опираясь на его базовые цифровые возможности. Однако со временем предоставление ИИ доступа к физическому миру может оказаться допустимым и даже целесообразным. Многие ключевые проблемы окружающей действительности, такие как изменение климата, остаются нерешенными, несмотря на длительные усилия.
ИИ, вероятно, не обладает способностью «видеть» в человеческом понимании, но сможет воспринимать мир через механические аналоги. По мере роста числа интернет-устройств и сенсоров, буквально покрывающих планету, подключенные системы ИИ смогут агрегировать их данные, формируя детализированную модель физического мира. Лишенный биологических органов чувств, ИИ останется зависимым от людей в создании и обслуживании инфраструктуры – по крайней мере, на начальных этапах.
В качестве промежуточного звена он может генерировать гипотезы на основе визуальных данных о мире и проверять их в цифровых симуляциях, тогда как решения о физической реализации останутся за человеком. Действительно, современные эксперты справедливо предостерегают против предоставления ИИ автономного контроля над физическими экспериментами. Пока эти системы демонстрируют существенные ограничения, такая осторожность оправдана.
Освобождение ИИ из «алгоритмической клетки» сопряжено с рисками. Эти системы изначально не существуют в физической среде, и их может быть сложно контролировать после интеграции в реальный мир. Более того, их влияние может проявляться не только через опосредованное воздействие на человеческие решения, но и через прямое взаимодействие с материальной действительностью. (Исследуя реальность, системы ИИ могут в конечном итоге изменить ее.)[52]
Может ли человечество наделить ИИ не только способностью формировать физическую реальность, но возможностью обрести собственное материальное воплощение? Если мы позволим ИИ самостоятельно проектировать себе формы, нам следует быть готовыми оказаться бок о бок с самыми невообразимыми существами, внешний облик которых не пришел бы на ум ни одному одиозному инженеру. Хотя люди часто представляют себе человекоподобных двуногих роботов, машинный интеллект способен принимать любые формы, оптимальные для выполнения задач, адаптируя их при необходимости. ИИ уже демонстрировал способность создавать в виртуальной среде точные копии себя – многочисленные аватары и сети автономных агентов, координирующихся с недостижимой для человека точностью.
При интеграции в физический мир он сможет создавать объекты из неизвестных нам материалов, оперировать непостижимыми масштабами и работать без человеческого вмешательства. Человечество веками преобразовывало и упорядочивало пространство вокруг себя, используя известняк, сталь, стекло и возводя чудеса архитектуры. Физическое воплощение ИИ ознаменовало бы не просто новый этап, а фундаментальный сдвиг: передачу контроля над материальной реальностью от человека к алгоритмам.
Более того, сложность принятия решений, которые требуются для работы в условиях хаотичности и изменчивости реального мира, может сделать ИИ в физической среде еще менее объяснимым и управляемым по сравнению с системами, обрабатывающими текстовые данные в интернете. К чему это приведет? С одной стороны, в будущем ИИ, который уже выглядит (или действительно является) все более независимым, может усилить у общества и без того навязчивое ощущение потери контроля над внешним миром. С другой – поддаваясь этим тревогам, человечество может отказаться от развивающегося партнерства с ИИ в физическом мире, лишив себя всех преимуществ такого сотрудничества.
Вечный двигатель познания
В ближайшем будущем принципы, на которых сегодня строится ИИ, будут во многом усложнены. Усовершенствованные модели станут разумнее, точнее и надежнее, стоимость их обучения и эксплуатации снизится, делая ИИ доступнее для самых разных целей и бюджетов. Уже сегодня ученые активно работают над созданием «агентов» – автономных программ, способных самостоятельно решать специализированные задачи. К примеру, для сложного архитектурного проекта можно задействовать агентов, «разбирающихся» именно в этой области. Агенты проанализируют множество сценариев и предложат решения и даже разработают алгоритмы для достижения заданного результата. Это новый уровень «мышления», при котором система сама решает, над чем работать дальше и как.
Такие возможности заложат основу для следующего этапа – общего искусственного интеллекта (ОИИ)[53]. Он подразумевает, что система сможет хотя бы частично определять свои цели. Представьте: ИИ, обладающий глубокими знаниями в определенной сфере, получает задание: «Проанализируй все, что знаешь в этой области, и выбери направление, где сможешь принести наибольшую пользу». Повторяя этот процесс, система начнет действовать автономно, постоянно оценивая свои возможности и подбирая оптимальные решения.
В человеческом понимании это похоже на работу научного руководителя, который координирует исследования своих студентов или сотрудников. В цифровой среде будущего мы вряд ли сразу станем свидетелями универсального интеллекта – скорее встретимся с ИИ-системами, демонстрирующими выдающуюся эффективность в узких областях. Такие продвинутые ОИИ смогут обучаться в реальном времени, анализировать обратную связь и эволюционировать в процессе взаимодействия со многими экспертами.
Примечательно, что конечные цели этих систем не будут жестко заданы ни человеком, ни самим ИИ – вместо четко обозначенной миссии возникнет динамический процесс совместного поиска оптимальных решений, где выводы ИИ и его «коллег» будут взаимно дополнять друг друга.
Системам ОИИ потребуется гораздо более глубокое взаимодействие с реальным миром, чем сегодняшнему ИИ. Однако как только они обретут способность воспринимать и осмысливать окружающую действительность, их развитие может пойти стремительно – и, вероятно, первые работоспособные примеры появятся уже через несколько лет, а не через десятилетия, как предполагалось ранее. Каждая модель будет обновляться в режиме реального времени через непрерывные процессы тонкой настройки, дополняя свои знания актуальными данными из физического мира и постепенно
