Институт будущего жизни, «Future of Life Institute», — некоммерческий исследовательский институт и просветительская организация в районе Бостона, работающая над снижением экзистенциальных рисков, стоящих перед человечеством, в особенности экзистенциального риска, исходящего от развитого искусственного интеллекта.
Команда основателей однажды, за кофе с друзьями в гостиной своего дома, начинает обсуждать то, что технологии как никогда прежде обладают потенциалом либо облегчить и улучшить жизнь, либо уничтожить её. Они считают, что эту силу технологий следует использовать во благо и что работу в этом направлении нужно ускорить. Они решают, что необходимо что-то предпринять в связи с опасениями по поводу неправильного использования постоянно растущей мощи технологий, и берутся за дело, не успев выпить по второй чашке кофе. Макс Тегмарк, варивший кофе как хозяин этой встречи, состоявшейся весной 2014 года, и его жена Мейя убеждают присоединиться к ним в этом путешествии своего друга-физика Энтони Агирре, докторантку Гарварда Викторию Краковну и основателя Skype Яана Таллинна.
К нашей супружеской паре, считающей большой удачей то, что они находятся в такой великолепной интеллектуальной среде, как Бостон, позднее в качестве добровольных советников присоединяются и многие известные люди. Первое собрание организации они проводят опять-таки в гостиной своего дома — с группой из 30 студентов и учёных-идеалистов. На этом собрании они объединяют в повестке дня вопросы о том, каким они хотят видеть будущее человечества вместе с технологиями и какие шаги для этого нужно предпринять. Темы же повестки — ядерное оружие, биотехнологии, изменение климата… Но главная цель — привлечь внимание к искусственному интеллекту и исследованиям безопасности. В конце собрания Фрэнк Вильчек — физика, MIT, — получивший Нобелевскую премию за объяснение того, как работают кварки, предлагает написать авторскую колонку, чтобы привлечь внимание к теме. Затем вместе с Максом Тегмарком он обращается к Стюарту Расселу и Стивену Хокингу и делает их соавторами этой статьи. Статья многократно получает отказ в «The Washington Post» и других изданиях. Опубликованная впоследствии в блоге Huffington Post, эта статья в одночасье производит в СМИ потрясающий эффект. Эта тема, собравшая поддержку таких лидеров технологической отрасли, как Илон Маск и Билл Гейтс, определяет и дальнейшие цели Института будущего жизни, «Future of Life Institute». Тем самым они делают и первое официальное объявление об основании ИНСТИТУТА БУДУЩЕГО ЖИЗНИ.
Свои же цели они выражают таким заявлением: «мы хотим гарантировать, что жизнь будет продолжаться и в будущем».
Макс Тегмарк, шведско-американский космолог, в 2017 году публикует все свои тревоги о будущем мира в виде книги под названием «Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта» (“Life 3.0: Being Human in the Age of Artificial Intelligence”). Книга представляет исследования влияния искусственного интеллекта на будущее человеческой жизни на Земле, возможные последствия для общества (как положительные, так и отрицательные), меры, которые мы можем принять, чтобы максимально повысить вероятность благоприятных исходов, и самый подробный анализ потенциальных сценариев будущего для их сочетаний. Цель, с которой автор взялся за книгу, — исследовать, где может оказаться место человека в эпоху искусственного интеллекта. Каково это — быть человеком в эпоху искусственного интеллекта? В книге он подробно говорит о возможных сценариях и о последствиях, которые они принесут.
Среди возможных сценариев искусственного интеллекта есть разновидность, которая будет нашим слугой, есть и гибридные подходы, либо же он излагает и подход, который будет управлять нами. Страницы с предостережениями о том, что развитие искусственного интеллекта чрезвычайно увлекательно, но мы должны быть осторожны, можно перечитывать снова и снова. Он обращает внимание и на то, что мы ещё никогда не сталкивались с сущностью умнее нас самих, но с большой вероятностью создадим её собственными руками. Вам могут встретиться и отзывы крупнейших специалистов по этим вопросам о том, что книга «Жизнь 3.0» — самое глубокое исследование из написанных до сих пор.
Книга Тегмарка рассматривает человеческую жизнь с самого её начала как разделённую на три различных состояния.
Три стадии человечества
Название книги Тегмарка «Жизнь 3.0» выражает то, что он классифицирует как третью и нынешнюю стадию человечества, когда новые технологии, такие как искусственный интеллект, начали формировать будущее, которое однажды может включать компьютеры, способные перепроектировать собственное внутреннее устройство. Оно указывает на обучение теми способами, которые мы открыли прежде, наряду с аппаратной частью.
Поэтому в самом начале книги приводится сценарий, в котором технологии уже превзошли человеческий интеллект и своей повсеместностью начали менять общество.
Жизнь, определяемую как процесс, способный сохранять свою сложность и воспроизводить себя, он выразил в трёх стадиях: «Если бактерии — это Жизнь 1.0, а люди — Жизнь 2.0, то мышь мы можем отнести к 1.1. Биологическая стадия (1.0), на которой программное обеспечение и аппаратная часть эволюционируют; культурная стадия (2.0), способная проектировать своё программное обеспечение (посредством обучения); и технологическая стадия (3.0), способная проектировать и свою аппаратную часть, хозяйка своей судьбы».
Как нам, повышая уровень благосостояния благодаря автоматизации, не допустить, чтобы люди остались без работы и без цели? Какие советы о карьере нам следует давать своим детям? Как нам сделать будущие системы искусственного интеллекта более надёжными, чтобы они делали то, чего мы хотим, без сбоев, ошибок и взломов? Следует ли нам бояться гонки вооружений в области смертоносных автономных систем оружия? Превзойдут ли нас машины со временем во всех областях и отнимут ли у нас работу, а то и наше место на планете? Поможет ли искусственный интеллект расцвету жизни невиданным прежде образом или же даст нам больше силы, чем мы способны удержать?
Какого будущего хотите вы? Он написал также, что эта книга даёт нам возможность принять участие в, пожалуй, самой важной дискуссии нашей эпохи. Давая место всем точкам зрения, он не уклонился от того, чтобы затронуть самые радикальные темы, такие как сверхинтеллект, смысл, сознание и физические пределы жизни во Вселенной.
Пока с механизацией борьба человечества с природой и друг с другом — от истории до наших дней — стремительно меняла масштаб, пока на встречах длиной в чашку кофе основывались институты жизни, где были мы? Почему мы ни разу не задумались, пока технологии на каждом этапе истории глубоко-глубоко вписывали неожиданные перемены в человеческую жизнь в каждую нашу клетку? В той точке, к которой мы пришли сегодня, взялись ли мы за решения, методы, системы, касающиеся запутанной в узлы сложности положения? Или нам проще издалека бросать камни в социальных сетях? Пока цифровая жизнь, о которой мы не задумывались до Новой Нормальности Двадцать Двадцатого, надвигается и надвигается на нас, уж не загрузили ли мы в свой смартфон, в свою умную бытовую технику и дарованный нам Разум — и теперь не в состоянии им пользоваться?
Когда Эрвин Шрёдингер говорил: «Думаю, мы находимся в серьёзной опасности потерять путь к совершенству», пытался ли он настойчиво обратить внимание не только на то, что машины смогут думать, но и на то, что с чрезмерной механизацией человеческая мысль выродится? Как мы могли быть уверены, что развитие думающей машины, на которое нацелен тест Тьюринга, не истощит наше мыслительное развитие как человечества? Где наши исследования, которые могли бы предотвратить угасание нашей собственной способности мыслить? В этой точке, к которой мы пришли, вместо того чтобы бросать камни и судить к месту и не к месту, — выбрать путь, чтобы рождать идеи и решения …
Самое время действовать ради мыслящего общества!
Ключевые слова: Искусственный интеллект Технологии Институт
Перевод с турецкого оригинала.