Сможет ли искусственный интеллект однажды превзойти человеческое мышление? Быстрый прогресс искусственного интеллекта (ИИ) вкупе с нашим обычным страхом перед машинами вызвал опасения, что его способности однажды начнут бесконтрольно расти, в конечном итоге приведя его к захвату мира и уничтожению человечества, если он решит, что мы являемся препятствием для его целей. Этот момент обычно называют «сингулярностью ИИ».
Один из аргументов против возможности такого высшего, непреодолимого и бесконечно растущего интеллекта состоит в том, что он должен был бы, по определению, быть способным точно предсказывать будущее. А квантовая теория, один из ключевых способов объяснения вселенной современной наукой, утверждает, что предсказать будущее невозможно, потому что Вселенная случайна. Но что, если мы просто думаем, что предсказать будущее невозможно, потому что мы недостаточно умны, чтобы знать иначе?
Интеллект — это очень сложное и абстрактное понятие, не имеющее согласованного определения . Однако существует общее согласие относительно некоторых компонентов, которые составляют каждый вид известного интеллекта. Одним из таких является умение решать проблемы, что требует умения планировать, предвосхищая будущее. Чтобы решить проблему, крайне важно понимать текущие условия, предсказывать, как будет развиваться окружающая среда, и предвидеть результат действий, которые будут применены.
Случайная Вселенная
Последние теории в физике предполагают, что Вселенная чрезвычайно хаотична и случайна. Возьмем пример нестабильных химических элементов, которые в конечном итоге подвергаются радиоактивному распаду в другое вещество. Вы можете оценить, сколько времени потребуется определенному количеству этого элемента для распада, но вы не можете сказать наверняка, когда это произойдет какой-либо один атом этого элемента. Аналогично, вы можете измерить положение или импульс частицы, но по некоторым причинам, связанным с квантовой теорией, вы не можете знать их одновременно с полной точностью (это известно как принцип неопределенности Гейзенберга)
Предполагая, что эти теории верны, они предполагают, что за пределами определенного уровня детализации Вселенная в конечном счете непредсказуема, хаотична и нестабильна. Это означало бы, что любой вид растущего интеллекта в конечном счете достигнет точки, где он больше не может улучшить свои предсказания будущего и поэтому не может далее увеличивать интеллект. Другими словами, нет никакого риска беглого ИИ, потому что физические законы Вселенной представляют собой некоторые очень ограничивающие жесткие пределы. Например, учитывая известные ограничения на прогнозируемость погоды, система искусственного интеллекта не сможет перехитрить людей, используя чрезвычайно точные долгосрочные прогнозы погоды для планирования будущих действий.
Очень утешительно верить, что природа Вселенной, в некотором смысле, предотвращает эскалацию ИИ. Но есть и альтернативная перспектива. Что, если люди воспринимают вселенную как случайную и хаотичную только потому, что наши когнитивные и рассуждающие способности слишком ограничены? Мы осознаем некоторые пределы человеческого понимания, но, перефразируя Дональда Рамсфельда, мы не знаем того, чего не знаем.
Принимая эту перспективу, возможно, что Вселенная является детерминированной, и поэтому полностью предсказуемой, но чрезвычайно сложным способом, который мы, как люди, не можем понять. Альберт Эйнштейн утверждал, что квантовая теория является неполным описанием Вселенной и что должны существовать скрытые переменные, которые мы еще не понимаем, но которые содержат ключ к определению будущих событий.
Это перевернуло бы стол переговоров о возможности сингулярности AI. Сверхсовременный интеллект может оказаться в состоянии раскрыть эти скрытые переменные и таким образом понять предсказуемую природу Вселенной, высвободив полный потенциал машины. Стоит отметить, что ИИ-подходы уже используются для автоматического совершения открытий в физике.
На практическом уровне сингулярность не кажется такой уж правдоподобной, учитывая, насколько ограничен ИИ на самом деле. Недавние прорывы в ИИ были достигнуты с помощью того, что известно, как узкий ИИ, предназначенный для выполнения хорошо определенной задачи, такой как игра в шахматы или вождение автомобиля. В то время как узкий ИИ может превзойти людей в некоторых задачах, мало что говорит о том, что более общий ИИ, который может эмулировать способность людей реагировать на многие различные задачи, будет доставлен и подвергнет людей риску в ближайшем будущем.
Но мы не можем полностью исключить это. Поскольку мы все еще обладаем ограниченными знаниями о природе Вселенной и о силе ИИ, возможно, лучше перестраховаться. Даже без сингулярности ИИ окажет огромное влияние на человеческое общество. Мы должны работать как можно усерднее, чтобы ИИ был полезен человечеству, а не угрожал ему.
Мауро Валлати, Старший преподаватель кафедры компьютерных наук, Университет Хаддерсфилда
