Генезис. Искусственный интеллект, надежда и душа человечества - Крейг Манди

148

В своей знаменитой речи от 4 июня 1940 года (т. н. «We shall fight on the beaches», произнесенной в Палате общин, У. Черчилль заявил: «Новый Свет приходит на помощь Старому, используя всю свою силу и мощь» (см.: Churchill. Never Give In! Pimlico, 2004, p. 218).

149

Ross Andersen. What Happens If China Makes First Contact? The Atlantic, Dec. 15, 2017.

150

Ma P. et al. Deep-Learning Search for Technosignatures. Nat Astron 7, 2023, pp. 492–502.

151

Речь идет о Каабе, где хранится Черный камень – небесный артефакт, согласно традиции, упавший с неба и символически связующий земное с божественным. Камень установлен во внешнем углу святилища в центре Запретной мечети (Масджид аль-Харам) в Мекке (Саудовская Аравия).

152

Y. Elazar. Kefitzat Haderech: Divine Intervention. Chizuk Shaya, Nov. 29, 2009.

153

Hawking, Mlodinow. The Grand Design. New York: Bantam, 2010, p. 82.

154

Для дальнейшего изучения вопроса о применении нейроинтерфейсов (BCI) в контексте коэволюции с ИИ см.: Nick Bostrom. Superintelligence. Oxford, 2014, pp. 63–67; Brain-Computer Interfaces and AI Alignment. LessWrong, 2021.

155

См.: Charles Darwin. On the Origin of Species. London: Pickering & Chatto, 1992, p. 403.

156

См.: Erich Jantsch. The Self-organizing Universe. Oxford, UK: Pergamon Press, 1980.

157

Дэниел Деннет (Daniel Dennett. From Bacteria to Bach and Back. Norton, 2017, p. 206) цитирует Роджерса и Эрлиха, исследовавших эволюцию полинезийских каноэ, а те, в свою очередь, ссылаются на французского философа Алена, писавшего о рыбацких лодках в Бретани. См. также: Edward Lee. Coevolution of Human and Artificial Intelligence. Berkeley Blogs, 2017.

158

Авторы приводят вольную интерпретацию мысли Льва Николаевича: «Без ясного понимания цели всякое движение вперед есть только самообман»: Толстой Л.Н. Исповедь. О жизни / сб. М.: Азбука, 2023. – Примеч. ред.

159

Laurance Rockefeller, Henry Kissinger, et al., Prospect for America: The Rockefeller Panel Reports. New York: Doubleday, 1961, XV.

160

Наиболее полное описание содержится у Овидия в «Метаморфозах» (8 г.н. э., книга XI, ст. 110), где рассказывается о Силене – наставнике Диониса. Альтернативные версии мифа встречаются в «Политике» Аристотеля (IV в. до н. э.) и у Александра Полигистора (I в. до н. э.); Ariel Conn. Artificial Intelligence and the King Midas Problem, Dec. 12, 2016.

161

Рон Клементс и др. «Аладдин» (Disney, 1992) – м/ф по мотивам сказки «Волшебная лампа Аладдина», записанной со слов сирийского сказителя Ханны Дьяба в 1704 году и включенной французским переводчиком Антуаном Галланом в сборник «Тысяча и одна ночь».

162

Центр безопасности ИИ предупредил об экзистенциальных рисках от развития ИИ с целями самосохранения. См.: Dan Hendrycks and Mantas Mazeika. X-Risk Analysis for AI Research. arXiv, June 13, 2022.

163

См.: Kevin Hurler. ChatGPT Pretended to Be Blind to Bypass CAPTCHA. Gizmodo, Mar. 16, 2023. В статье говорится о том, как исследователи поручили боту обойти ReCaptcha, цифровую систему проверки. Бот нанял человека через сервис для поиска помощников в домашних делах. Тот, засомневавшись, уточнил, не бот ли его хочет нанять. ИИ сознательно солгал, заявив, что он «слепой человек, нуждающийся в помощи». Неясно, была ли ложь следствием пробелов в обучении или ИИ действительно рассчитал, что правда помешает достижению цели. Человек поверил ему и выполнил просьбу.

164

Eliezer Yudkowsky. Pausing AI Developments Isn't Enough. We Need to Shut It All Down. TIME Magazine, March 29, 2023

165

Pierre Bourdieu. Outline of a Theory of Practice. Cambridge, UK: Press Syndicate of the University of Cambridge, 1977, p. 164.

166

Заземление ИИ работает за счет привязки реакций системы к реальным данным. Вместо того чтобы полагаться только на предсказание следующего слова на основе шаблонов, обоснованная система сначала будет извлекать информацию из достоверного источника, например надежной базы данных, снижая вероятность того, что ИИ что-то выдумает. – Примеч. ред.

167

Цитата отсылает к 1-му Посланию к Коринфянам 10:12, прозвучала в торжественная речи Гвидо Калабрези, бывшего декана Юридической школы Йельского университета (Guido Calabresi. Graduation Speech. Yale Law School, May 22, 2023).

168

Arthur Schopenhauer. The Basis of Morality. Bullock trans. London: Swan Sonnenschein, 1903, p. 101.

169

George S. Viereck. Glimpses of the Great. London: Duckworth, 1930, p. 373.

170

(Санскр.) «Колесо Времени», буддийское учение о циклической природе времени, объединяющее философию, астрологию и медитативные практики. Символизирует связь между макрокосмом (Вселенной) и микрокосмом (человеком), предлагая путь к просветлению через понимание этих циклов. – Примеч. ред.

171

Компания признана экстремистской в РФ, ее деятельность запрещена. – Примеч. ред.

172

Цит. по: Толстой Л.Н. Исповедь. О жизни / сб. М.: Азбука, 2023. – Примеч. ред.