Последний прогноз Маска: ИИ может превзойти человеческий интеллект в 2030 году и «уничтожить» людей в будущем (1/2)

Источник: Tencent Technology News 04.04.2024, 08:55

Ключевые моменты:

① Маск прогнозирует, что к 2030 году ИИ может превзойти уровень человеческого интеллекта и даже уничтожить людей.

② Маск рассказал о факторах, ограничивающих развитие ИИ. В прошлом году поставки AI-чипов были ограничены, а в этом году узким местом станет понижающий трансформатор.

③ Что касается того, когда люди смогут высадиться на Луну, Маск прогнозирует, что с помощью Starship это займет максимум три года.

Tencent Technology News, 4 апреля — По сообщениям зарубежных СМИ, Илон Маск, генеральный директор Tesla и SpaceX, недавно провел онлайн-беседу с Питером Диамандисом, основателем Университета Singularity и фонда XPRIZE, на саммите изобилия. Саммит был организован Университетом сингулярности Кремниевой долины, который занимается предоставлением бизнес-лидерам консалтинга в области передовых технологий. Фонд XPRIZE продвигает технологические инновации посредством научных конкурсов, часть из которых финансировалась Маском., 4 апреля – По сообщениям зарубежных СМИ, Илон Маск, генеральный директор Tesla и SpaceX, недавно провел онлайн-беседу с Питером Диамандисом, основателем Singularity. Университет и Фонд XPRIZE на Саммите изобилия. Саммит был организован Университетом сингулярности Кремниевой долины, который занимается предоставлением бизнес-лидерам консалтинга в области передовых технологий. Фонд XPRIZE продвигает технологические инновации посредством научных конкурсов, некоторые из которых финансируются Маском.

Обсуждая скорость развития искусственного интеллекта, Маск предсказал, что, исходя из нынешних темпов технологического прогресса, искусственный интеллект может превзойти человеческий интеллект к 2030 году, и эта технология может даже потенциально покончить с человечеством. Однако он не пессимистично смотрел на будущее, а подчеркнул, что благодаря позитивному руководству искусственный интеллект может обеспечить лучшее будущее для человечества.

Маск упомянул, что появление сверхинтеллекта называют «сингулярностью» именно из-за его непредсказуемых последствий, включая риск потенциального уничтожения человечества. Он согласился с точкой зрения «крестного отца искусственного интеллекта» Джеффри Хинтона и считал, что вероятность возникновения этого риска составляет примерно от 10% до 20%.

Несмотря на признание потенциальных рисков, связанных с превосходством искусственного интеллекта над человеческим, Маск все же подчеркнул, что возможность положительных результатов перевешивает отрицательные последствия. Он особо упомянул книгу Диамандиса 2014 года «Изобилие: будущее лучше, чем вы думаете», в которой изображено оптимистичное будущее, движимое искусственным интеллектом и роботами, в котором стоимость товаров и услуг значительно снизилась. Кроме того, он назвал серию «Культура» шотландского писателя-фантаста Иэна М. Бэнкса лучшим сценарием полуутопического будущего искусственного интеллекта.

Маск сравнил развитие искусственного интеллекта и общего искусственного интеллекта (AGI) с воспитанием ребенка, надеясь, что это окажет более положительное влияние на человечество. Он подчеркнул важность развития искусственного интеллекта, который действительно понимает этику и мораль, сравнив его с классическим фильмом Стэнли Кубрика 1968 года «2001: Космическая одиссея».

Маск отметил, что важнейшим аспектом безопасности искусственного интеллекта является обеспечение его максимального поиска истины и любознательности. Он считает, что ключ к достижению максимальной безопасности искусственного интеллекта заключается в том, чтобы не заставлять его лгать, даже перед лицом неприятной правды. В качестве примера он использовал сюжет из «2001: Космическая одиссея», где искусственный интеллект был вынужден лгать, что привело к гибели экипажа, чтобы подчеркнуть, что искусственный интеллект нельзя заставлять делать что-либо, что нарушает аксиомы.

Маск также упомянул факторы, которые могут ограничить развитие искусственного интеллекта, такие как ограниченные поставки чипов искусственного интеллекта, появившиеся в прошлом году, и растущий спрос на понижающие трансформаторы в домашнем и коммерческом оборудовании. Он заявил, что эти проблемы действительно являются текущими проблемами, которые необходимо решать.

В ходе дискуссии обе стороны также обсудили концепцию интеграции неокортекса человеческого мозга с облаком. Хотя Маск считает, что до цели загрузки человеческого сознания и памяти в облако еще далеко, он похвалил свой стартап по интерфейсу мозг-компьютер Neuralink и его первого пациента-человека, получившего трансплантат. Этот пациент с тетраплегией успешно продемонстрировал в прямом эфире испытание, одобренное FDA, управляя экраном, играя в видеоигры, загружая программное обеспечение и достигая функций, аналогичных операциям с мышью, с помощью мозговых имплантатов. Маск заявил, что Neuralink развивается плавно и постепенно движется к цели создания полнофункционального интерфейса.

Ниже приводится полный текст диалога Маска и Диамандиса:

1. Сила и опасность сверхинтеллекта

Диамандис: Поздравляю вас с выдающимися достижениями в различных областях. Вы активно продвигаете в мире концепцию цифрового сверхинтеллекта – это величайшая надежда человечества или наш глубочайший страх? Можете ли вы потратить несколько минут на обсуждение этой проблемы?

Маск: Как вы знаете, сверхинтеллект можно назвать «сингулярностью». Популяризация этого термина неотделима от усилий таких учреждений, как Институт Сингулярности. Появление сверхинтеллекта и его последующее влияние действительно трудно предсказать. Лично я считаю, что действительно существует вероятность того, что это может положить конец человечеству. Как я уже говорил ранее, я мог бы согласиться с мнением Джеффри Хинтона о том, что существует 10-20% вероятность того, что сверхинтеллект может положить конец человечеству. Однако я склонен полагать, что вероятность положительного сценария выше, чем отрицательного, хотя нам сложно делать точные прогнозы. Но поскольку в своей книге вы подчеркнули концепцию «изобилия», я считаю, что наиболее вероятное будущее, к которому мы идем, — это будущее, полное изобилия.

Диамандис: Ваша точка зрения очень интересна. Помню, вы как-то сказали, что развитие общего искусственного интеллекта и роботов-гуманоидов приведет нас к изобилию.

Маск: Да, я надеюсь, что наше будущее может быть таким, как описано в серии книг Яна Бэнкса «Культура». Я думаю, что это лучшая концепция полуутопического общества искусственного интеллекта. Появление сверхинтеллекта неизбежно и может произойти в ближайшее время. Следовательно, что нам действительно нужно сделать, так это направить его в позитивном направлении и максимизировать его преимущества.

Я считаю, что решающее значение имеет то, как мы развиваем искусственный интеллект. В какой-то степени мы подобны культивируемой форме жизни с общим интеллектом, что почти похоже на воспитание ребенка, но этот ребенок обладает необычайной мудростью и талантом. То, как мы воспитываем детей, важно, и точно так же для безопасности искусственного интеллекта крайне важно иметь искусственный интеллект, который ищет истину и полон любопытства. Я глубоко задумался о безопасности искусственного интеллекта и пришел к выводу, что лучший способ добиться безопасности искусственного интеллекта — тщательно его культивировать.

С точки зрения базовых моделей и тонкой настройки мы должны обеспечить честность искусственного интеллекта. Мы не можем заставить его лгать, даже если правда может быть неприятной. Фактически, один из основных сюжетов «Космической одиссеи 2001 года» заключается в том, что, когда искусственный интеллект вынужден лгать, все становится хаотичным. Искусственному интеллекту запрещено сообщать экипажу о загадочном памятнике, который они увидят, но он обязан привести их туда. В результате искусственный интеллект приходит к выводу, что лучше всего убить экипаж и отнести их тела к памятнику. Урок очень глубокий: мы не должны заставлять искусственный интеллект лгать или делать что-то аксиоматически несовместимое, например, делать два фактически противоречивых дела одновременно.

Поэтому мы достигаем этой цели посредством таких проектов, как xAI и Grok. Мы стремимся к созданию максимально честного искусственного интеллекта, даже если его речь может не соответствовать определенным политкорректным стандартам.

2. Будущее искусственного интеллекта

Диамандис: Вчера я посетил мероприятие с Рэем Курцвейлом (основателем Университета сингулярности и пророком технологий), Джеффри Хинтоном, Эриком Шмидтом (бывшим президентом Google) и другими гостями. Я заметил ваш твит о Курцвейле, и его мнение о технологиях будущего весьма дальновидно. Курцвейл предсказал, что в ближайшем будущем у нас появится всеобщий искусственный интеллект, а в 2029 году появится искусственный интеллект, эквивалентный человеческому. Такая скорость шокирует. Интересно, что вы думаете по этому поводу?

Маск: Я с большим уважением отношусь к предсказаниям Курцвейла. На самом деле, я думаю, что его прогнозы могут быть даже слегка консервативными. Наблюдая за нынешними вычислительными мощностями и талантами, вложенными в область искусственного интеллекта, а также за быстрым ростом вычислительных мощностей, мы можем обнаружить, что скорость развития искусственного интеллекта увеличивается с поразительной скоростью — в 10 раз. Выделенная вычислительная мощность искусственного интеллекта увеличивается в 10 раз каждые 6 месяцев, что почти означает увеличение как минимум в 100 раз в год. Эта тенденция роста будет продолжать расти в ближайшие несколько лет.

Стоит отметить, что многие центры обработки данных, даже большинство центров обработки данных, в настоящее время выполняющих традиционные вычисления, постепенно превратятся в объекты, поддерживающие вычисления с искусственным интеллектом. Таким образом, для производителей оборудования искусственного интеллекта такие компании, как NVIDIA, несомненно, открыли золотой период развития. Мы должны отдать должное Хуан Жэньсюню и его команде. Они предвидели эту тенденцию и успешно разработали ведущее оборудование искусственного интеллекта, представленное сейчас на рынке.

Когда вычислительная мощность растет такими ошеломляющими темпами, развитие искусственного интеллекта похоже на введение мощного стероида, позволяющего перейти на совершенно новый уровень. Поскольку количество компьютеров, подключенных к Интернету, продолжает расти, мы стали свидетелями беспрецедентного ускорения развития. На самом деле, я никогда не видел, чтобы какая-либо технология развивалась так быстро, как искусственный интеллект. Хотя я видел множество быстро развивающихся технологий, рост искусственного интеллекта до сих пор меня поражает. Однако, как я уже сказал, я думаю, что окончательный результат, скорее всего, будет положительным.

Хотя мы сталкиваемся со многими проблемами, например, как сохранить человеческую значимость в этой области и как найти новые цели и смыслы, я думаю, что было бы слишком упрощением переоценивать тот факт, что компьютеры могут быть хороши во всем.

Как вы упомянули ранее, я думаю, что предсказания вашей книги о будущем обществе очень точны. Это эпоха материального изобилия, когда товаров и услуг будет настолько много, что они станут почти доступны каждому. Благодаря широкому применению технологий искусственного интеллекта и робототехники стоимость товаров и услуг будет сведена практически к нулю. Экономика, по сути, является продуктом численности населения и средней производительности на человека. Когда у нас появятся передовые технологии робототехники, такие как Tesla Optimus, экономический потенциал действительно будет раскрыт.

Автомобили Теслы, как роботы на четырех колесах, уже продемонстрировали большие возможности. Ожидается, что последняя версия с возможностями полностью автономного вождения обеспечит комплексное управление на основе искусственного интеллекта, что сделает автомобиль по-настоящему интеллектуальным роботом на колесах. В сочетании с развитием человекоподобных роботов возможности экономического производства практически безграничны.

С оптимистической точки зрения, мы движемся к будущему чрезвычайного материального изобилия, которое, я считаю, является наиболее вероятным исходом. Я думаю, что единственным возможным дефицитом в будущем станет дефицит, который мы создадим искусственно, например, определенных уникальных произведений искусства или конкретных предметов. Но кроме этого, любые товары и услуги станут чрезвычайно обильными.

Диамандис: Вы человек, который может формировать будущее посредством практических действий и хорошо понимаете будущие тенденции. Столкнувшись с быстрым развитием современных технологий, мне очень любопытно, как далеко в будущем, по вашему мнению, вы сможете проникнуть, то есть через сколько лет будут развиваться тенденции развития?

Маск: В эпоху быстрых перемен способность предсказывать будущее становится все более важной. Хотя будущее полно неопределенности, я считаю, что некоторые тенденции просматриваются отчетливо. Мы возвестим эру искусственного интеллекта, и его способности достигнут или даже превзойдут человеческий уровень в решении любых когнитивных задач. Это всего лишь вопрос времени. У людей могут быть разные взгляды на то, будет ли это конец следующего года, двух или трех лет. Однако одно можно сказать наверняка: он не превысит пяти лет. Мой прогноз основан на вероятности 50%, которая не является абсолютной. Но, по моему мнению, искусственный интеллект, вероятно, превзойдет способности любого отдельного человека в определенных аспектах до конца следующего года.

Что касается того, превосходит ли это человеческую коллективную мудрость, то это может занять больше времени. Если темпы изменений сохранятся, по моим оценкам, примерно к 2029 или 2030 году цифровой интеллект, вероятно, превзойдет сумму всего человеческого интеллекта. Рассматривая эти вопросы, я склонен использовать метод основных соотношений, как и первые принципы физики. Объединив этот метод с вероятностным анализом, мы сможем более точно уловить будущие тенденции развития.

Если мы сравним возможности цифровых вычислений с биологическими вычислениями, сложим все передовые когнитивные способности человека как своего рода вычислительную мощность, а затем сравним их с цифровыми вычислительными мощностями, вы обнаружите, что скорость роста этого соотношения поразительна. Поэтому я считаю, что 2029 или 2030 год — разумный временной узел. В то время накопленная цифровая вычислительная мощность, вероятно, превзойдет накопленную биологическую вычислительную мощность продвинутых функций мозга. С тех пор разрыв между ними будет продолжать увеличиваться, и возможности его сокращения не будет.

Однако, когда мы стоим на этой отправной точке и смотрим в будущее, как будут развиваться события дальше? Честно говоря, я не могу предусмотреть всех деталей. Но если мы рассмотрим факторы роста и ограничивающие факторы, с которыми они могут столкнуться, мы обнаружим некоторые интересные подсказки.

В прошлом году ограничения на поставку чипов были основным сдерживающим фактором для развития ИИ. В этом году ключевым узким местом станут понижающие трансформаторы. Представьте себе снижение напряжения с 300 киловольт до уровня менее 1 вольт, необходимого компьютеру. Это огромный вызов. Поэтому нам нужны более эффективные «Трансформеры для трансформаторов», которые представляют собой понижающие трансформаторы или трансформаторы нейронных сетей искусственного интеллекта. Это действительно серьезная проблема в этом году.

Заглядывая в будущее на следующие несколько лет, электроснабжение может стать основным ограничивающим фактором. Искусственный интеллект имеет огромный спрос на электроэнергию, а переход к устойчивой энергетике и популярность электромобилей также усилили спрос на электроэнергию. Поэтому мы должны серьезно подумать о том, как удовлетворить растущий спрос на электроэнергию, чтобы обеспечить постоянное развитие и применение этих технологий.