Тегмарк Макс: Жизнь 3.0

Грядет эпоха жизни 3.0. Паниковать пока рано, но поводы для беспокойства есть.

Человечество находится на пороге создания искусственного интеллекта, который будет превосходить человеческий и сможет не только самостоятельно обучаться, но и менять собственное строение, как физическое, так и программное. Макс Тегмарк, профессор Массачусетского технологического института и один из самых известных специалистов по теории искусственного интеллекта, рассматривает все плюсы и минусы грядущей эпохи.

Рассуждения об искусственном интеллекте и его эре, которая вот-вот наступит, Тегмарк начинает с освещения вопроса, что вообще такое интеллект и какую роль сыграл он в истории развития нашей цивилизации. Мы, представители жизни 2.0, в отличие от амеб, не только существуем, но и можем получать знания и использовать богатый опыт для того, чтобы задавать себе свой собственный алгоритм, иными словами, мы сами программируем и контролируем свое поведение, программу своих действий. Жизнь 3.0, в отличие от нас, сможет менять собственное строение, не дожидаясь, пока это сделают тысячелетия эволюции. Должны ли мы определить цели для искусственного интеллекта? И если да, то какие именно цели это должны быть? И кому доверить эту задачу? Сможем ли мы убедиться, что эти цели сохранятся даже при дальнейшем развитии искусственного интеллекта? Сможем ли мы изменить цели, если AI станет умнее нас? И, в конце концов, главным становится вопрос: а какие наши собственные основные цели?