3#

Можем ли мы создать ИИ и сохранить над ним контроль? Sam Harris - видеоролик

Изучайте английский язык с помощью параллельных субтитров ролика "Можем ли мы создать ИИ и сохранить над ним контроль?". Метод интервальных повторений для пополнения словарного запаса английских слов. Встроенный словарь. Всего 827 книг и 2706 познавательных видеороликов в бесплатном доступе.

страница 2 из 3  ←предыдущая следующая→ ...

00:02:20
(Laughter)
(Смех)
The point is, something would have to destroy civilization as we know it.
Суть в том, что что-то должно будет уничтожить цивилизацию в нашем понимании.
You have to imagine how bad it would have to be
Только представьте себе, насколько всё должно быть плохо,
to prevent us from making improvements in our technology
чтобы мы перестали совершенствовать технологии
permanently,
навсегда,
00:02:38
generation after generation.
на все грядущие поколения.
Almost by definition, this is the worst thing
Практически по определению это худшее,
that's ever happened in human history.
что может случиться с человечеством.
So the only alternative,
Единственная альтернатива,
and this is what lies behind door number two,
которая и находится за второй дверью, —
00:02:48
is that we continue to improve our intelligent machines
продолжение совершенствования интеллектуальных устройств
year after year after year.
из года в год.
At a certain point, we will build machines that are smarter than we are,
В какой-то момент мы создадим устройства, которые будут умнее нас,
and once we have machines that are smarter than we are,
и когда такие устройства появятся,
they will begin to improve themselves.
они начнут улучшать себя сами.
00:03:02
And then we risk what the mathematician IJ Good called
И тогда появится риск того, что математик И. Д. Гуд называл
an "intelligence explosion,"
«взрывом интеллекта» —
that the process could get away from us.
риск утраты нами контроля над процессом.
Now, this is often caricatured, as I have here,
Это часто изображают в виде подобных картинок,
as a fear that armies of malicious robots
пугающих армиями злых роботов,
00:03:16
will attack us.
которые нападут на нас.
But that isn't the most likely scenario.
Но это не самый вероятный сценарий.
It's not that our machines will become spontaneously malevolent.
Проблема не в том, что наша техника внезапно рассвирепеет.
The concern is really that we will build machines
Беспокоит на самом деле то, что мы создаём устройства,
that are so much more competent than we are
которые настолько нас превосходят,
00:03:29
that the slightest divergence between their goals and our own
что малейшее расхождение между их целями и нашими
could destroy us.
может нас уничтожить.
Just think about how we relate to ants.
Подумайте о том, как мы относимся к муравьям.
We don't hate them.
Мы не ненавидим их.
We don't go out of our way to harm them.
Мы не лезем из кожи вон, чтобы навредить им.
00:03:42
In fact, sometimes we take pains not to harm them.
На самом деле, иногда мы стараемся не навредить им.
We step over them on the sidewalk.
Мы перешагиваем их на тротуаре.
But whenever their presence
Но если вдруг их присутствие
seriously conflicts with one of our goals,
серьёзно мешает нашим целям,
let's say when constructing a building like this one,
например, если мы строим здание вроде этого,
00:03:53
we annihilate them without a qualm.
мы без колебаний их истребляем.
The concern is that we will one day build machines
Беспокоит то, что однажды мы создадим устройства,
that, whether they're conscious or not,
которые независимо от наличия у них сознания
could treat us with similar disregard.
могут так же пренебречь нами.
Now, I suspect this seems far-fetched to many of you.
Я подозреваю, многим из вас это кажется надуманным.
00:04:09
I bet there are those of you who doubt that superintelligent AI is possible,
Уверен, среди вас есть сомневающиеся в возможности сверхразумного ИИ,
much less inevitable.
не говоря уж о его неизбежности.
But then you must find something wrong with one of the following assumptions.
Значит, вы не согласны с одним из следующих допущений.
And there are only three of them.
Их всего три.
Intelligence is a matter of information processing in physical systems.
Интеллект — это результат обработки информации в физической системе.

Для просмотра параллельного текста полностью залогиньтесь или зарегистрируйтесь

скачать в HTML/PDF
share