Генезис. Искусственный интеллект, надежда и душа человечества - Крейг Манди
Периодически специалисты-тренеры дают машине обратную связь о точности и качестве ее результатов. Машина усваивает их поправки с помощью метода, который называется «обратным распространением ошибки» (back-propagation). Этот метод позволяет эффектам изменений, внесенных тренерами, распространяться в обратном направлении через уже созданные машиной математические связи, тем самым улучшая общую модель.
Однако человек предоставляет модели обратную связь лишь для ограниченного подмножества возможных входных и выходных данных. Когда модель достигает достаточного уровня эффективности в серии тестов, разработчики могут быть уверены: созданные ей алгоритмы будут давать безопасные и точные ответы – даже на неожиданные запросы – с высокой вероятностью успеха.
Каждым из этих способов ИИ уже сегодня расширяет – и в будущем продолжит расширять – границы человеческого познания. Но он достигает этого – и мы доверяем полученным результатам – посредством процессов, которые до сих пор не до конца нам понятны.
Если обычный ученик заканчивает американскую среднюю школу за четыре года, то современная модель ИИ может легко освоить тот же объем знаний, и даже значительно больше, за четыре дня. Таким образом, скорость оказалась первой из ряда ключевых характеристик, которые отличают ИИ от человеческих свойств и умственных способностей.
Несмотря на высокоразвитую способность к параллельной обработке, то есть возможность одновременно воспринимать и анализировать различные виды стимулов, человеческий мозг является крайне медленным процессором. Он ограничен скоростью наших биологических механизмов. Если оценивать работу человеческого мозга по компьютерным метрикам производительности – тактовой частоте или скорости обработки данных, – современные суперкомпьютеры для ИИ уже превосходят биологический мозг по быстродействию в 120 миллионов раз.
Конечно, скорость – не главный показатель интеллекта: даже очень глупые люди способны быстро соображать. Однако более высокая скорость обработки информации дает два преимущества по сравнению с человеческим мозгом: возможность усваивать значительно больше информации и обрабатывать множество одновременных запросов. При этом человеческий мозг преимущественно функционирует в фоновом режиме, автоматически регулируя физиологические процессы (сердцебиение, двигательные функции) и активируя сознательный контроль лишь при возникновении нештатных ситуаций.
ИИ же благодаря своей вычислительной мощи способен целенаправленно развивать исключительные когнитивные способности, открывая путь к решению задач, которые пока остаются за пределами возможностей биологического интеллекта. После завершения интеллектуального обучения как человек, так и машина теоретически способны мыслить или, говоря техническим языком, делать выводы. В ситуациях собеседования, дискуссии или личного общения образованный человек опирается не на механически заученные факты и цифры, а на глубоко осмысленный и переработанный личный опыт. Именно способность к рефлексии и синтезу знаний отличает настоящее образование от простого накопления информации. Человеческий мозг эволюционно не приспособлен для точного запоминания и дословного воспроизведения информации – да и подавляющее большинство людей просто не способно на такое механическое запоминание. После бесчисленных уроков, сочинений и экзаменов в сознании должно остаться понимание более глубоких и долговечных концепций (которые должны раскрыться при помощи этих образовательных инструментов), таких как, например, чудо астрономии, трагедия амбиций, необходимость (или ее отсутствие) революции.
Этот принцип применим и к искусственному интеллекту. После завершения обучения модель больше не нуждается в доступе к исходным данным – вместо этого она оперирует сформированным интуитивным пониманием, достаточным для генерации ответов, сложных логических построений, точного прогнозирования.
Подобно тому как люди не носят с собой библиотеки учебных материалов, ИИ делает выводы, а не извлекает заученные факты. Ключевое отличие, однако, в том, что благодаря колоссальной скорости обработки ИИ способен опираться на такой объем информации, который превосходит любые человеческие возможности. Для этого, даже чтобы ответить на простой вопрос, модель ИИ может выполнить миллиарды сложных технических операций. В то время как традиционный компьютер просто извлекает конкретную информацию, хранящуюся в его памяти – поскольку он не способен прийти к выводам, которых там еще нет – ИИ запускает вычисления по принципам, схожим с работой человеческого мозга. Люди учатся, чтобы мыслить, в то время как машины обучаются, чтобы делать выводы. Второе невозможно без первого.
Первая фаза обучения – и для человека, и для ИИ – всегда наиболее ресурсоемка. Соискатель ученой степени может потратить пару десятков лет или даже больше на то, чтобы научиться писать глубокие аналитические работы за считаные дни. Так же и современные модели ИИ: их обучение занимает месяцы интенсивных вычислений, зато последующая генерация результатов происходит за доли секунды.
Сегодняшние системы ИИ уже дают вполне логичные и продуманные ответы на запросы человека. В своих последних и перспективных версиях они станут охватывать все более обширные массивы данных, интегрируя знания из различных научных областей и демонстрируя когнитивную гибкость, превосходящую возможности любого отдельного человека или даже коллектива экспертов. Для искусственного интеллекта масштаб данных буквально преобразуется в скорость работы: чем глубже обучение системы, тем стремительнее и точнее становятся ее выводы. Более того, обнаруживая в данных скрытые закономерности, недоступные человеческому восприятию, системы ИИ способны генерировать принципиально новые интерпретации традиционных знаний. Обрабатывая колоссальные массивы информации, они создают совершенно оригинальные концепции и идеи.
И этот потенциал искусственного разума ставит перед человечеством вопрос – даже, пожалуй, комплекс фундаментальных вопросов.
Непрозрачность
Откуда мы получаем знания об устройстве Вселенной? И как можем быть уверены в их достоверности?
В большинстве областей познания, начиная с появления научного метода, главным критерием истины стал эксперимент. Любая информация, не подкрепленная фактами, считалась неполной и ненадежной. Лишь прозрачность, воспроизводимость и логическая строгость делают утверждения убедительными. Такой подход за последние столетия привел к невиданному прежде расширению человеческого познания и череде технологических революций, а его закономерным итогом стало появление компьютеров и машинного обучения.
Однако сегодня, в эпоху ИИ, мы сталкиваемся с новой и тревожной проблемой: знанием без объяснений. Уже сейчас ответы ИИ, представляющие собой четкие и логичные описания сложных явлений, мы получаем мгновенно. Результаты работы алгоритмов предъявляются в готовом виде: без оговорок, без явной предвзятости, но и без указания источников или обоснований. И все же, несмотря на отсутствие объяснений по каждому конкретному утверждению, даже ранние системы ИИ сумели снискать безоговорочное доверие многих пользователей – и, увы, вызвать зависимость у излишне внушаемых людей, согласных принимать как данность любую полученную информацию. Таким образом, есть риск, что со временем эти новые «сверхразумные» системы будут слишком многими восприниматься как истина в последней инстанции.
Хотя обратная связь от человека помогает системам ИИ совершенствовать свои алгоритмы, именно машина берет на себя основную ответственность за выявление закономерностей и оценку значимости обучающих данных. Более того, после обучения модель не раскрывает созданную внутреннюю математическую архитектуру. В результате представления
