StudyEnglishWords

4#

Что произойдёт, когда компьютеры станут умнее нас? Nick Bostrom - видеоролик

Изучайте английский язык с помощью параллельных субтитров ролика "Что произойдёт, когда компьютеры станут умнее нас?". Метод интервальных повторений для пополнения словарного запаса английских слов. Встроенный словарь. Всего 326 книг и 1726 познавательных видеороликов в бесплатном доступе.

страница 7 из 8  ←предыдущая следующая→ ...

00:13:34
it is still safe because it is fundamentally on our side
он всё равно будет безопасен, потому что он по существу на нашей стороне
because it shares our values.
и разделяет наши ценности.
I see no way around this difficult problem.
Я не вижу путей обхода этой сложной проблемы.
Now, I'm actually fairly optimistic that this problem can be solved.
Вообще я довольно оптимистичен, что эту проблему можно решить.
We wouldn't have to write down a long list of everything we care about,
Не нужно писать длинный список всего что нас волнует,
00:13:51
or worse yet, spell it out in some computer language
или ещё хуже, расшифровывать это на каком-нибудь компьютерном языке,
like C++ or Python,
как C++ или Python.
that would be a task beyond hopeless.
Это было бы безнадёжной задачей.
Instead, we would create an A.I. that uses its intelligence
Вместо этого мы бы создали ИИ, который использует свой интеллект
to learn what we value,
для познания того, чем мы дорожим.
00:14:06
and its motivation system is constructed in such a way that it is motivated
ИИ, который был бы мотивирован преследовать наши ценности
to pursue our values or to perform actions that it predicts we would approve of.
или выполнять действия, наше одобрение на которые он предсказал.
We would thus leverage its intelligence as much as possible
Следовательно, мы бы использовали его интеллект как можно больше,
to solve the problem of value-loading.
чтобы решить проблему наполнения ценностями.
This can happen,
Это может произойти,
00:14:25
and the outcome could be very good for humanity.
и результат может быть очень полезен для человечества.
But it doesn't happen automatically.
Но это не произойдёт автоматически.
The initial conditions for the intelligence explosion
Начальные условия для взрыва интеллекта
might need to be set up in just the right way
нуждаются в правильной установке,
if we are to have a controlled detonation.
если мы хотим иметь контролируемый взрыв.
00:14:42
The values that the A.I. has need to match ours,
Ценности ИИ должны согласовываться с нашими,
not just in the familiar context,
не просто в знакомых контекстах,
like where we can easily check how the A.I. behaves,
где мы можем легко проверить, как ИИ себя ведёт,
but also in all novel contexts that the A.I. might encounter
но также во всех новых контекстах, с которыми ИИ может столкнуться
in the indefinite future.
в неопределённом будущем.
00:14:53
And there are also some esoteric issues that would need to be solved, sorted out:
Также, есть несколько необычных проблем, которые нам необходимо решить:
the exact details of its decision theory,
точные детали его теории принятия решений,
how to deal with logical uncertainty and so forth.
как обращаться с логической неуверенностью и так далее.
So the technical problems that need to be solved to make this work
Технические проблемы, нужные для завершения этой работы,
look quite difficult --
выглядят весьма трудно,
00:15:08
not as difficult as making a superintelligent A.I.,
не так трудно, как создание сверхразумного ИИ,
but fairly difficult.
но довольно трудно.
Here is the worry:
Вот что нас волнует:
Making superintelligent A.I. is a really hard challenge.
создание сверхразумного ИИ — действительно сложная задача.
Making superintelligent A.I. that is safe
Создание сверхразумного и безопасного ИИ
00:15:23
involves some additional challenge on top of that.
включает в себя ещё некоторые дополнительные проблемы.
The risk is that if somebody figures out how to crack the first challenge
Риск в том, что кто-то сможет решить первую задачу
without also having cracked the additional challenge
без решения второй задачи,
of ensuring perfect safety.
без обеспечения безопасности.
So I think that we should work out a solution
Я думаю, мы должны заранее найти
скачать в HTML/PDF
share