Можем ли мы создать ИИ и сохранить над ним контроль? Sam Harris - видеоролик
Изучение английского языка с помощью параллельных субтитров ролика "Можем ли мы создать ИИ и сохранить над ним контроль?".
Метод интервальных повторений для пополнения словарного запаса английских слов. Встроенный словарь.
Всего 828 книг и 2765 познавательных видеороликов в бесплатном доступе.
страница 2 из 3 ←предыдущая следующая→ ...
00:02:20
(Laughter)
(Смех)
The point is, something would have to
destroy civilization as we know it.
Суть в том, что что-то должно будет
уничтожить цивилизацию в нашем понимании.
You have to imagine
how bad it would have to be
Только представьте себе,
насколько всё должно быть плохо,
to prevent us from making
improvements in our technology
чтобы мы перестали
совершенствовать технологии
permanently,
навсегда,
00:02:38
generation after generation.
на все грядущие поколения.
Almost by definition,
this is the worst thing
Практически по определению
это худшее,
that's ever happened in human history.
что может случиться с человечеством.
So the only alternative,
Единственная альтернатива,
and this is what lies
behind door number two,
которая и находится за второй дверью, —
00:02:48
is that we continue
to improve our intelligent machines
продолжение совершенствования
интеллектуальных устройств
year after year after year.
из года в год.
At a certain point, we will build
machines that are smarter than we are,
В какой-то момент мы создадим
устройства, которые будут умнее нас,
and once we have machines
that are smarter than we are,
и когда такие устройства появятся,
they will begin to improve themselves.
они начнут улучшать себя сами.
00:03:02
And then we risk what
the mathematician IJ Good called
И тогда появится риск того,
что математик И. Д. Гуд называл
an "intelligence explosion,"
«взрывом интеллекта» —
that the process could get away from us.
риск утраты нами контроля над процессом.
Now, this is often caricatured,
as I have here,
Это часто изображают
в виде подобных картинок,
as a fear that armies of malicious robots
пугающих армиями злых роботов,
00:03:16
will attack us.
которые нападут на нас.
But that isn't the most likely scenario.
Но это не самый вероятный сценарий.
It's not that our machines
will become spontaneously malevolent.
Проблема не в том, что наша техника
внезапно рассвирепеет.
The concern is really
that we will build machines
Беспокоит на самом деле то,
что мы создаём устройства,
that are so much
more competent than we are
которые настолько нас превосходят,
00:03:29
that the slightest divergence
between their goals and our own
что малейшее расхождение
между их целями и нашими
could destroy us.
может нас уничтожить.
Just think about how we relate to ants.
Подумайте о том, как мы
относимся к муравьям.
We don't hate them.
Мы не ненавидим их.
We don't go out of our way to harm them.
Мы не лезем из кожи вон,
чтобы навредить им.
00:03:42
In fact, sometimes
we take pains not to harm them.
На самом деле, иногда мы
стараемся не навредить им.
We step over them on the sidewalk.
Мы перешагиваем их на тротуаре.
But whenever their presence
Но если вдруг их присутствие
seriously conflicts with one of our goals,
серьёзно мешает нашим целям,
let's say when constructing
a building like this one,
например, если мы
строим здание вроде этого,
00:03:53
we annihilate them without a qualm.
мы без колебаний их истребляем.
The concern is that we will
one day build machines
Беспокоит то, что однажды
мы создадим устройства,
that, whether they're conscious or not,
которые независимо
от наличия у них сознания
could treat us with similar disregard.
могут так же пренебречь нами.
Now, I suspect this seems
far-fetched to many of you.
Я подозреваю, многим из вас
это кажется надуманным.
00:04:09
I bet there are those of you who doubt
that superintelligent AI is possible,
Уверен, среди вас есть сомневающиеся
в возможности сверхразумного ИИ,
much less inevitable.
не говоря уж о его неизбежности.
But then you must find something wrong
with one of the following assumptions.
Значит, вы не согласны
с одним из следующих допущений.
And there are only three of them.
Их всего три.
Intelligence is a matter of information
processing in physical systems.
Интеллект — это результат обработки
информации в физической системе.
Для просмотра параллельного текста полностью залогиньтесь или зарегистрируйтесь