Генезис. Искусственный интеллект, надежда и душа человечества - Крейг Манди
Главный вопрос нашего времени: сможем ли мы найти баланс в использовании этой беспрецедентной силы – способности создавать и познавать? Сумеем ли мы, переосмыслив человеческую природу, гармонично встроить ИИ в наше будущее?
Мы мечтаем о мире, где человеческий и искусственный интеллекты дополняют друг друга. Но для этого им нужно научиться по-настоящему понимать друг друга. Поиск ответа на вопрос «кто мы» – лишь первый шаг, ведь наша сущность не статична. Перед нами стоит грандиозный вызов – добиться полной прозрачности, понятности и надежности как систем ИИ, так и человеческого общества. Даже если нам удастся ненадолго найти этот хрупкий баланс, поддержание общего понимания реальности потребует постоянной работы. Потому вопросы совместного развития человека и ИИ не имеют готовых ответов – это долгий путь, который нам только предстоит пройти вместе.
Заключение
Наше вхождение в эпоху ИИ можно описать множеством образов – как духовную одиссею, так и научную экспедицию к истокам логики и истины. Но признаем честно: ни разум, ни опыт не подготовят нас к сосуществованию с нечеловеческим интеллектом, будь то попытки понять цифровые системы или друг друга. Здесь необходимо нечто большее – нечто глубинно человеческое. Вспомним старую философскую метафору: Вселенная подобна шахматной партии, начатой в незапамятные времена могущественными сущностями, превосходящими нашу реальность. Чем дольше мы изучаем ходы на этой доске, тем больше шансов распознать ее правила. А со временем, возможно, и сами включимся в игру.
Но переход от наблюдения к участию – это не просто логический вывод. Для воплощения принципов в действие всегда требуется прыжок веры.
Альберт Эйнштейн, отвечая на вопрос о своих религиозных убеждениях, рассуждал:
Мы находимся в положении маленького ребенка, зашедшего в огромную библиотеку книг на разных языках. Ребенок понимает, что кто-то должен был написать эти книги. Но не знает, кто и как. Он не понимает языков, на которых они написаны.
Ребенок замечает, что книги расставлены по определенному плану, в таинственном и неясном порядке, о котором можно лишь смутно догадываться.
Таким мне представляется отношение человеческого разума, даже самого развитого и культурного, к Богу.
Мы видим Вселенную, удивительно упорядоченную и подчиняющуюся определенным законам, но для нас они покрыты густым туманом. Наш ограниченный разум не может постичь той таинственной силы, что движет созвездиями[169].
По отношению к Богу, а теперь и к собственным творениям последних лет наш разум остается детским. Понимание сути того, что же мы создали, в логическом и духовном смыслах станет важным шагом к зрелости человечества как вида. Но нам также необходимо решиться на «прыжок веры», который поможет покинуть рамки исследования и начать действовать. Да, мы поневоле окажемся в состоянии неопределенности – трясине, в которой застревали лидеры человечества испокон веков, и принимать решения придется именно в ней. Действие никогда не означало привилегии тотального контроля – скорее наоборот. Не будет этого и в эпоху ИИ; мы не сможем и надеяться, что наше будущее откроется нам в большей мере, чем тем, кто интересовался этой тайной в предыдущие эпохи. Отсутствие контроля не потребует от нас отказываться от разума или, что еще хуже, от вложений в развитие и стремления действовать в реальном мире. Но по мере того как люди начнут входить в новый цикл, предполагающий прямое партнерство с ИИ, особая динамика, описанная в этой книге, побудит нас обращаться как к новым, так и к старым формам познания. Наш успех будет зависеть от того, как мы понимаем собственные моральные убеждения и насколько готовы следовать им в своих поступках. И здесь от нас потребуется непоколебимое мужество и последовательная стратегия, поскольку новые истины в корне изменят прежние представления.
По большому счету, именно моральные цели стимулируют наш прогресс. Вместе с тем именно сама мораль как всеобщая первооснова позволяет людям преодолеть дихотомию между человеческим контролем (в лучшем случае тактическим) и человеческой выгодой – избыточной, по любому определению. Именно фундаментальная вера в реальность человеческого достоинства позволяет нам, авторам этой книги, признать одновременно и перспективность объединения человека с ИИ, и необходимость смотреть на много шагов вперед, поскольку развитие науки будет раскрывать все новые тайны.
И хотя у всех нас очень много общего, мы не можем рассчитывать на единство в предстоящем выборе. То, что одни считают якорем, помогающим удержаться во время шторма, другие воспринимают как поводок, который не дает сделать лишнего движения. То, в чем кому-то видятся важнейшие шаги на пути к вершине человеческих возможностей, другие назвали бы стремительным падением в пропасть.
Инстинктивные эмоциональные расхождения, равно как и субъективные границы, очерчиваемые каждой из сторон, создают непредсказуемую и взрывоопасную ситуацию. Все более жесткие позиции потенциальных «победителей» и «проигравших» будут лишь усиливать давление этих обстоятельств. Люди чересчур осторожного склада начнут притормаживать собственное развитие и мешать развитию других. Те, кто ставит себя выше прочих, предпочтут скрывать свой истинный потенциал, украдкой пытаясь повысить собственную эффективность. Весь наш наработанный опыт будут поджимать бесконечные кризисы – постепенно они станут подобны волне, которая однажды захлестнет нас, и неизвестно, удастся ли нам выжить.
Может ли ИИ спровоцировать эти кризисы, а затем внезапно стать нашим спасителем, создавая проблемы, решить которые под силу только ему, – и все это, чтобы доказать свою необходимость и напомнить нам о нашей зависимости? И снова мы возвращаемся к дилемме, которая легла в основу этой книги: мучительный выбор между контролем и полезностью, между удобством для исторически независимого человека и возможностями совершенно нового партнерства.
Нас ждет трудный, но неизбежный выбор. И все же он осуществим, если мы не забудем о самой сути человечности, заложенной в нас. Мы искренне верим, что благодаря технологическому прогрессу нам удастся наделить машины не только интеллектом, но и добротой, сохранив в них частицу лучшего, что есть в человеке. Передача части прав и ответственности системам ИИ – даже при условии их моральной совместимости с нашими нравственными принципами – станет глубоким преобразованием, затрагивающим сами основы человеческого бытия: наши взаимоотношения, политическое устройство, ощущение самих себя и нашей общности.
Неминуемо возникнет ностальгия по исключительному статусу, который человечество занимало последние века. Для многих мир, пусть и улучшенный технологиями, будет казаться границей эпохи – той самой привычной реальности, в которой человек оставался мерой всех вещей, какие бы выдающиеся способности ни демонстрировал ИИ. Еще один открытый вопрос: кто теперь будет принимать решения? Кому отныне решать? Делегировать ли
