Опасность ИИ более странная, чем вы думаете. Janelle Shane - видеоролик
Изучайте английский язык с помощью параллельных субтитров ролика "Опасность ИИ более странная, чем вы думаете".
Метод интервальных повторений для пополнения словарного запаса английских слов. Встроенный словарь.
Всего 827 книг и 2706 познавательных видеороликов в бесплатном доступе.
страница 2 из 3 ←предыдущая следующая→ ...
00:02:13
Now, if you were going to try
and solve this problem
Если бы вы пытались решить эту задачу
by writing a traditional-style
computer program,
с помощью обычной компьютерной программы,
you would give the program
step-by-step instructions
вы бы запрограммировали
пошаговые инструкции о том,
on how to take these parts,
как взять эти детали,
how to assemble them
into a robot with legs
как собрать из них робота с ногами
00:02:25
and then how to use those legs
to walk to Point B.
и как потом использовать эти ноги,
чтобы дойти до точки Б.
But when you're using AI
to solve the problem,
Но при использовании ИИ
it goes differently.
всё происходит по-другому.
You don't tell it
how to solve the problem,
Вы не говорите ему, как решить эту задачу,
you just give it the goal,
вы просто указываете цель,
00:02:36
and it has to figure out for itself
via trial and error
и ИИ должен сам
методом проб и ошибок решить,
how to reach that goal.
как достичь этой цели.
And it turns out that the way AI tends
to solve this particular problem
И оказывается, что ИИ пытается решить
is by doing this:
эту конкретную задачу так:
it assembles itself into a tower
and then falls over
он собирается в башню и падает,
00:02:51
and lands at Point B.
приземляясь в точке Б.
And technically, this solves the problem.
И технически это решает
поставленную задачу.
Technically, it got to Point B.
Технически он попадает в точку Б.
The danger of AI is not that
it's going to rebel against us,
Опасность ИИ заключается не в том,
что он восстанет против нас,
it's that it's going to do
exactly what we ask it to do.
а в том, что он будет делать именно то,
о чём мы его попросим.
00:03:06
So then the trick
of working with AI becomes:
Так что основная сложность при работе с ИИ
How do we set up the problem
so that it actually does what we want?
в том, как поставить задачу,
чтобы он сделал именно то, что мы хотим.
So this little robot here
is being controlled by an AI.
Этот маленький робот управляется ИИ.
The AI came up with a design
for the robot legs
ИИ разработал конструкцию ног робота
and then figured out how to use them
to get past all these obstacles.
и придумал, как их использовать
для преодоления всех этих препятствий.
00:03:24
But when David Ha set up this experiment,
Но когда Дэвид Ха
проводил этот эксперимент,
he had to set it up
with very, very strict limits
ему пришлось установить
очень жёсткие ограничения
on how big the AI
was allowed to make the legs,
длинны ног, которые мог сделать ИИ,
because otherwise ...
потому что иначе...
(Laughter)
(Смех)
00:03:48
And technically, it got
to the end of that obstacle course.
И технически он преодолел
эту полосу препятствий.
So you see how hard it is to get AI
to do something as simple as just walk.
Так что вы видите, как сложно заставить ИИ
сделать что-то такое простое, как ходьба.
So seeing the AI do this,
you may say, OK, no fair,
Конечно, можно попробовать сказать:
«Нет, так не честно,
you can't just be
a tall tower and fall over,
ты не можешь просто стать башней и упасть,
you have to actually, like,
use legs to walk.
ты должен использовать ноги,
чтобы ходить».
00:04:07
And it turns out,
that doesn't always work, either.
И оказывается,
что даже это не всегда работает.
This AI's job was to move fast.
Задачей этого ИИ
было научиться быстро двигаться.
They didn't tell it that it had
to run facing forward
Но ему не сказали,
что нужно бежать лицом вперёд
Для просмотра параллельного текста полностью залогиньтесь или зарегистрируйтесь