Генезис. Искусственный интеллект, надежда и душа человечества - Крейг Манди

о реальности, формируемые системой, остаются в значительной степени непрозрачными даже для ее разработчиков. Сегодня надежность этих моделей проверяется преимущественно через анализ их выходных данных, в то время как внутренние механизмы работы продолжают оставаться скрытыми – отсюда и сравнение некоторых систем ИИ с «черными ящиками». Хотя исследователи предпринимают попытки реконструировать логику сложных моделей, переводя их выводы в понятные алгоритмы, перспективы такого подхода остаются неопределенными.

Таким образом, модели, вышколенные с помощью машинного обучения, позволяют людям получать новые знания (через их выходные данные), но не дают понимания того, как эти знания появились (через внутренние процессы моделей). Ни одна эпоха прежде не сталкивалась с подобным разделением между получением знаний и их осмыслением. Традиционное человеческое познание основывалось на интуиции, личном опыте, логическом анализе и способности воспроизводить наблюдаемое. Эти методы укоренены в базовом принципе: «Если я не могу этого сделать – значит, не могу понять; а если не могу понять, как могу быть уверен в истинности?»

В парадигме Просвещения эти ключевые элементы: индивидуальные познавательные способности, субъективное понимание и объективная истина – существовали в неразрывной связи. Однако истины, порождаемые ИИ, становятся результатом процессов, которые человек не способен воспроизвести. Машинное «мышление», не соответствующее привычным для нас когнитивным паттернам, выходит за границы человеческого субъективного опыта – мы не можем даже полностью описать внутренние процессы этих систем.

По меркам эпохи Просвещения такие обстоятельства делали бы невозможным признание машинных выводов в качестве истинных. И тем поразительнее, что миллионы пользователей уже принимают подавляющее большинство этих выводов как достоверные[39]. Лишь немногие эксперты действительно понимают метапроцессы машинного обучения; для большинства же уверенность в истинности результатов основана на своеобразном доверии – готовности принять как саму логику машин, так и авторитет их создателей.

Сам факт возникновения такого доверия как общепринятого критерия истины знаменует собой радикальный переворот в современном человеческом мышлении. Даже если системы ИИ не «понимают» мир в человеческом смысле (поскольку им определенно не свойственны сознание и субъективность), их объективная способность делать точные выводы ставит сложные вопросы. По сути, это обнуляет сам смысл научного метода в том виде, в каком его использовали на протяжении пяти веков, но и ставит под сомнение претензии человека на исключительное, уникальное восприятие реальности.

К чему это приведет? Неужели эра ИИ не только не сможет продвинуть человечество вперед, но и, наоборот, спровоцирует откат к архаичному принятию необъяснимого авторитета? Иными словами, не стоим ли мы на пороге величайшего перелома в истории познания – эпохи «темного Просвещения»?

Разнообразие

Для разных форм жизни время течет по разным шкалам. В масштабе геологической истории (4,5 млрд лет) человеческая цивилизация – лишь краткий эпизод. Если бы мы развивались с геологической скоростью, изменения казались бы нам незаметными. Но как нетерпеливый и амбициозный вид мы задали собственный темп эволюции. Это в геологии «эпоха» измеряется тысячелетиями, а в человеческом масштабе – лишь парой сотен лет или даже меньше.

Технологическое время разумных машин бежит по своим законам. Вся история их умещается в 70 лет – срок, который системам ИИ, вероятно, кажется таким же долгим и туманным, как нам докембрийская эра. Для человеческого восприятия сотни миллионов лет до Кембрийского взрыва – это бесконечная пустошь, внезапно оживленная всплеском биологического разнообразия. И если бы ИИ стал оценивать свое прошлое – период с 1950 по 2010 год, – то, вероятно, увидел бы ту же бесконечно растянутую паузу, смутное время застоя, где лишь в последние годы мелькнули первые проблески настоящего развития.

В биологическом и социальном измерении человеческие поколения сменяются примерно каждые 25 лет. Однако современные ИИ эволюционируют быстрее любого биологического вида: их основные версии обновляются за месяцы, а функциональные улучшения появляются еженедельно. Это заставляет нас осознать: то, что мы воспринимаем как революцию, в масштабе технологического времени оказывается всего лишь очередным эволюционным шагом. Новые модели ИИ, появляющиеся с интервалом в несколько месяцев, демонстрируют растущие способности: они обрабатывают все более сложные запросы, принимают больше промежуточных решений и осваивают новые формы взаимодействия.

Таким образом, то, что в человеческом измерении мы называем эпохой ИИ, точнее было бы именовать эпохами ИИ – ведь по внутренней хронологии самих систем этот период эквивалентен сотням поколений.

Стремительная эволюция машинного интеллекта представляет собой многогранный и пока неоцененный вызов. Человечество впервые сталкивается с таким сжатием временных рамок. Головокружительная скорость изменений неизбежно ведет к культурной и психологической дезориентации. Когда взаимосвязанные эффекты новых технологий накладываются друг на друга в повседневной жизни, становится практически невозможно определить, отражают ли конкретные изменения кризисные явления или, наоборот, признаки устойчивого прогресса.

Разобраться с этими взаимовлияющими последствиями в реальном мире будет все сложнее по мере роста числа систем ИИ, каждая из которых привносит собственные непредсказуемые эффекты. Более того, с ростом возможностей ИИ ближайшие десятилетия, вероятно, станут периодом огромных перемен и невиданного технологического разнообразия. Современные инфраструктуры и методы машинного обучения, развивающиеся без существенных ограничений, порождают поколения ИИ с прогрессивно растущими характеристиками – от адаптивности и масштабируемости до функциональной сложности. Здесь уместна аналогия с электричеством: подобно тому как электроэнергия нашла применение далеко за пределами простого освещения домов и улиц, ИИ будет проникать в самые неожиданные сферы. И если электрический заряд можно получать через трение, проводимость или индукцию, то и создание ИИ, вероятно, будет осуществляться множеством принципиально разных методов.

Рассмотрим в качестве примера архитектуру, получившую название «трансформер», обеспечившую последние достижения ИИ. Она позволяет системе анализировать связи между несколькими словами одновременно. Проще говоря, если прежние модели обрабатывали слова по очереди – сначала выявляя связь между словом 1 и словом 2, затем отдельно между словом 2 и словом 3, – трансформер охватывает предложение целиком, включая все взаимосвязи между всеми словами. Создавая математические модели этих связей и оперируя ими, ИИ прогнозирует оптимальный ответ.

Возможности трансформеров не были предсказаны заранее – их впечатляющая универсальность проявилась практически случайно[40]. При этом трансформеры вряд ли останутся единственной базовой архитектурой, способной порождать неожиданные свойства. По мере появления новых перспективных направлений исследований результаты ИИ будут стремительно улучшаться, множась по разным направлениям физической и математической логики, требуя меньших затрат и достигая большей скорости.

ИИ эволюционирует так быстро и разнообразно, что это действительно можно сравнить с Кембрийским взрывом – появление множества форм жизни в исключительно сжатый (по сравнению с предыдущими эпохами) временной период. Если эта гипотеза верна, машинные интеллекты образуют быстро эволюционирующий «род», а возможно, и целое «семейство» ИИ, основанных на принципиально разных логических системах. Таким образом, ИИ может стать самым ярким примером того, как незначительные изменения при повсеместном повторении порождают невероятное