Общий искусственный интеллект (AGI) и гипотеза реальной экзистенциальной угрозы

Обновление: 7 августа 2021 г.
Общий искусственный интеллект (AGI) и гипотеза реальной экзистенциальной угрозы

Антропоморфные настроения предполагают, что Homo sapiens существует уже около шести миллионов лет. Однако подумайте об этом так: если бы Земля была создана год назад, человеческому виду было бы 10 минут. Индустриальная эра началась 2 секунды назад. Мы, наиболее развитые и разумные виды, на самом деле недавно прибыли на эту планету.

От огня и серы человеческий интеллект был главным катализатором в достижении всего, чего мы достигли, и всего, что нам небезразлично. Совершенно очевидно, что цикл эволюции человека и окружающего его мира в решающей степени зависит от некоторых относительно незначительных изменений, внесенных в человеческий разум. И это, конечно же, отразилось на том, что любые дальнейшие изменения, которые могут существенно изменить основу мышления, могут иметь потенциально огромные последствия.

Что ж, мы уже видели еще один большой взрыв, который вызвал глубокие изменения в этом субстрате, и в настоящее время мы находимся в разгаре революции. Произошел серьезный сдвиг парадигмы от ИИ, основанного на правилах, к машинному обучению и от человеко-машинного интерфейса к машинному интерфейсу. Машины действительно могут учиться на шаблонах и алгоритмах и постоянно улучшаться, как младенец. Обучение с подкреплением - это процесс обучения машины методом проб и ошибок.

Мы сталкиваемся с искусственным интеллектом каждый день, и technology делает быстрые успехи. Это может быть новая эволюция, которая может фундаментально изменить жизнь на нашей планете. Искусственный интеллект способен произвести революцию во всех аспектах повседневной жизни; работа, мобильность, медицина, экономика и связь.

Мат человечеству?

Подумайте об этом: вы смотрите видео на Facebook или ролик в Instagram, а затем постепенно, что происходит, вы начинаете получать предложения о новом видео той же категории, которую вы смотрели ранее. А потом происходит что-то пугающее, в ваши каналы начинает поступать цепочка автоматических предложений, и теперь вы попадаете в этот порочный круг, убивая часы своего времени, позволяя себе погрузиться в этот цикл.

Вы постоянно смотрите и прокручиваете, даже не осознавая, что где-то есть искусственный интеллект и алгоритм, который считывает и анализирует ваш шаблон прокрутки, время просмотра, тренирует свой ум и обслуживает именно то, что заставит вас тратить все больше и больше времени в этом конкретном приложении. В некотором смысле интеллект подсказывает пользователю, что смотреть. И это происходит постоянно. Вы получаете предложения, когда идете за покупками в Интернет или на YouTube. И если это не регулируется, это может стать матом для человеческого интеллекта.

GPT-3 (Генеративный предварительно обученный трансформатор 3) вызывает потрясения в Кремниевой долине.

Только представьте себе ИИ, который может писать что угодно. Вы скармливаете ему стихи определенного поэта, и он напишет новый в том же ритме и жанре. Или он может написать новостную статью (опекун это уже сделал). Он может читать статью, отвечать на вопросы из информации в статье и даже резюмировать статью для вас, не говоря уже о том, что он может генерировать изображения из текста.

GPT-3 - это алгоритм глубокого обучения, который производит текст, похожий на человеческий. Это модель предсказания языка в третьем поколении, созданная стартапом OpenAI из Сан-Франциско, соучредителем которого является Илон Маск. Эта программа лучше, чем любая предыдущая программа, в создании текста, который мог бы написать человек. Это качественный скачок, потому что он может оказаться полезным для многих компаний и имеет большой потенциал в автоматизации задач.

Он может писать коды Java, просто помещая в него текстовые описания. Или как насчет создания веб-сайта-макета, просто скопировав и вставив URL-адрес с описанием.

Все началось с игры.

«Го», пожалуй, одна из самых сложных игр из существующих, ее цель проста; окружайте больше территории, чем ваш противник. В эту игру люди играли последние 2,500 лет, и она считается самой старой настольной игрой, в которую до сих пор играют. Уровень сложности игры выходит далеко за рамки того факта, что в игре го больше возможных ходов, чем атомов во вселенной.

Однако сейчас в эту игру играют не только люди. В 2016 году AlphaGo от Google Deep Mind обыграла 18-кратного чемпиона мира Ли Седола в четырех из пяти игр. Обычно компьютер, обыгрывающий человека в такой игре, как шахматы или шашки, не был бы таким впечатляющим, но Го - другое дело. В странах, где эта игра очень популярна, таких как Китай, Япония и Южная Корея, для них это не просто игра. Это похоже на то, как вы изучаете стратегию. В нем есть почти духовная составляющая.

Эта игра далеко за пределами досягаемости прогнозов и не может быть решена с помощью грубой силы. В игре от 10 до 170 возможных ходов. Чтобы представить это в перспективе, в наблюдаемой Вселенной всего от 10 до 80 атомов. AlphaGo была обучена с использованием данных из реальных игр в го для людей. Он прошел через миллионы игр и изучил используемые техники и даже придумывал новые, которых никто никогда не видел.

Однако через год после победы AlphaGo над Ли Седолом совершенно новый AI под названием AlphaGo zero превзошел оригинальный AlphaGo со 100 до 0 играми. 100 игр подряд. И самое впечатляющее в том, что он научился играть без участия человека. Это была огромная победа для глубокого разума и искусственного интеллекта. Это был яркий пример того, как один тип интеллекта превосходил другие типы интеллекта.

Искусственный интеллект доказал, что он может собирать огромное количество данных, превосходящих все, что может обработать любой человек, и использовать их, чтобы научиться предсказывать результат. Коммерческие последствия огромны.

Аргументы в пользу неизбежного появления ИИ человеческого уровня обычно апеллируют к прогрессу, который мы наблюдаем на сегодняшний день в области машинного обучения, и предполагают, что он неизбежно приведет к сверхразуму. Другими словами, сделайте текущие модели больше, дайте им больше данных и вуаля: AGI.

Превратится ли продвинутый ИИ в терминаторов и захватит ли человеческую цивилизацию?

На выдающихся лекциях Форда в 1960 году экономист Герберт Саймон провозгласил, что в течение 20 лет машины будут на равных в выполнении любой задачи, доступной человеку. В 1961 году Клод Шеннон - основатель теории информации - предсказал, что роботы в стиле научной фантастики появятся в течение 15 лет.

Математик И.Дж. Гуд задумал безудержный «взрыв интеллекта» - процесс, посредством которого машины, которые умнее человека, многократно улучшают свой собственный интеллект. В 1965 году Гуд предсказал, что взрыв произойдет до конца двадцатого века. В 1993 году Вернер Виндж придумал начало этого взрыва «сингулярность» и заявил, что он наступит в течение 30 лет.

Позже Рэй Курцвейл провозгласил закон истории, Закон ускоряющейся отдачи, который предсказывает появление сингулярности к 2045 году. Совсем недавно Илон Маск утверждал, что до суперинтеллекта осталось меньше пяти лет, и ученые, от Стивена Хокинга до Ника Бострома, выразили обеспокоенность. относительно опасностей мошеннического ИИ.

Шумиха не ограничивается горсткой общественных деятелей. Каждые несколько лет проводятся опросы исследователей, работающих в области искусственного интеллекта, с целью их прогнозов относительно того, когда мы достигнем общего искусственного интеллекта (AGI) - машин такого же общего назначения и, по крайней мере, таких же интеллектуальных, как люди. Медианные оценки из этих опросов дают 10% шанс AGI когда-нибудь в 2020-х годах и один к двум шансам AGI между 2035 и 2050 годами. Ведущие исследователи в этой области также сделали поразительные прогнозы. Генеральный директор OpenAI пишет, что в ближайшие десятилетия компьютеры «будут делать почти все, в том числе делать новые научные открытия, которые расширят нашу концепцию« всего »», а соучредитель Google Deepmind заявил, что «ИИ человеческого уровня будет прошло в середине 2020-х годов ».

У этих прогнозов есть последствия. Некоторые назвали появление ОИИ реальной угрозой, задаваясь вопросом, должны ли мы останавливать технический прогресс, чтобы предотвратить катастрофу. Другие вкладывают миллионы в благотворительные фонды на предотвращение AI бедствий.

Маянк Вашишт | Подредактор | ELE Times