Маск задается вопросом, что произойдет, если мы создадим машины, которые будут умнее нас, а те, в свою очередь, произведут еще более совершенные машины? И даже если сценарий, при котором машины решат, что это теперь люди должны работать на них, остается пока уделом фантастов, мы уже сейчас абсолютно уязвимы перед хакерами, чьи бы интересы они ни представляли – государственные, коммерческие или частные, и спецслужбами, которые знают о нас гораздо больше, чем мы сами.

Марк Цукерберг в ответ приводил контраргументы, свидетельствующие, что искусственный интеллект в потенциале обладает огромными возможностями именно для спасения человеческой жизни, будь то компьютерная диагностика, как это уже происходит сейчас, или машины на самоуправлении, которые ждут нас в будущем и, вероятно, минимизируют уровень аварийности на дорогах.

Понятно, что машины на самоуправлении, двигающиеся в рамках просчитанной гигантским суперкомпьютером траектории и на заданной им скорости, будут гораздо реже врезаться друг в друга, а этот компьютер в данном случае будет выполнять роль электронного диспетчера, но страшно представить себе последствия той аварии, которая произойдет после взлома «диспетчерской» хакерами. На самом деле, мы уже давно понимаем, что компьютер умнее человека: еще двадцать лет назад шахматный компьютер одержал победу в поединке с Гарри Каспаровым – одним из величайших шахматистов мира.

Израильский писатель Юваль Харари в одной из своих книг задается фундаментальным вопросом: что особенного в человеке – интеллект или сознание? Если интеллект – значит, мы уже проиграли машинам. Но вот если всё же сознание – то еще не все потеряно. Что же делает нас людьми?

Странная вещь: чем больше мы оттачиваем наше научное мастерство, тем меньше ценим самого человека. Сегодня нам известно, что человек не центр вселенной, а большинство наших генов совпадает с генами представителей животного мира. Да и чётко про себя понимаем, что большая часть поступков совершается нами неосознанно – словно под влиянием неких сил. Если все это и определяет человека, то мы с вами, по словам Харари, не более чем «пульс в потоке космической информации».

Но при этом человек – единственное живое существо, способное задать вопрос «почему?». А значит, не забудет, что машины были созданы для служения человеку, а не наоборот.

Лорд Джонатан Сакс