StudyEnglishWords

4#

Что произойдёт, когда компьютеры станут умнее нас? Nick Bostrom - видеоролик

Изучайте английский язык с помощью параллельных субтитров ролика "Что произойдёт, когда компьютеры станут умнее нас?". Метод интервальных повторений для пополнения словарного запаса английских слов. Встроенный словарь. Всего 298 книг и 1682 познавательных видеоролика в бесплатном доступе.

страница 5 из 8  ←предыдущая следующая→ ...

00:09:27
This means that there is no necessary conenction between
Это значит, что нет обязательной связи между
being highly intelligent in this sense,
«быть очень интеллектуальным» в этом смысле
and having an objective that we humans would find worthwhile or meaningful.
и «иметь цель, которую мы люди нашли бы стоящей и значимой».
Suppose we give an A.I. the goal to make humans smile.
Предположим, что мы дали ИИ цель — «улыбнуть» людей.
When the A.I. is weak, it performs useful or amusing actions
Когда ИИ слаб, он выполняет полезные и забавные действия,
00:09:45
that cause its user to smile.
которые вызывают улыбку у пользователя.
When the A.I. becomes superintelligent,
Когда ИИ становится суперумным,
it realizes that there is a more effective way to achieve this goal:
он понимает, что существует более эффективный способ достичь эту цель:
take control of the world
взять мир под контроль
and stick electrodes into the facial muscles of humans
и вживлять электроды в лицевые мышцы людей,
00:09:58
to cause constant, beaming grins.
вызывая постоянные сияющие улыбки.
Another example,
Другой пример.
suppose we give A.I. the goal to solve a difficult mathematical problem.
Предположим, мы даём ИИ цель — решить трудную математическую проблему.
When the A.I. becomes superintelligent,
Когда ИИ становится суперумным,
it realizes that the most effective way to get the solution to this problem
он понимает, что самый эффективный способ решить проблему —
00:10:12
is by transforming the planet into a giant computer,
преобразовать планету в гигантский компьютер,
so as to increase its thinking capacity.
чтобы улучшить свою мыслительную способность.
And notice that this gives the A.I.s an instrumental reason
И заметьте, что это даёт ИИ инструментальное обоснование
to do things to us that we might not approve of.
делать для нас вещи, которые мы можем не одобрить.
Human beings in this model are threats,
Люди в этой модели являются угрозами —
00:10:24
we could prevent the mathematical problem from being solved.
мы могли препятствовать решению математической проблемы.
Of course, perceivably things won't go wrong in these particular ways;
Конечно, вещи не выйдут из-под контроля именно такими способами,
these are cartoon examples.
это надуманные примеры.
But the general point here is important:
Но главная суть здесь важна:
if you create a really powerful optimization process
если вы создаёте очень мощный процесс оптимизации
00:10:38
to maximize for objective x,
для максимизации цели «икс»,
you better make sure that your definition of x
вам лучше убедиться, что ваше определение «икс»
incorporates everything you care about.
включает всё, что вас волнует.
This is a lesson that's also taught in many a myth.
Это урок, который также давался во многих мифах.
King Midas wishes that everything he touches be turned into gold.
Король Мидас желает, чтобы всё, чего он касается, превращалось в золото.
00:10:55
He touches his daughter, she turns into gold.
Он трогает свою дочь, она превращается в золото.
He touches his food, it turns into gold.
Он трогает свою еду, она превращается в золото.
This could become practically relevant,
Это могло стать актуальным на практике,
not just as a metaphor for greed,
не только как метафора для жадности,
but as an illustration of what happens
но как иллюстрация возможности,
00:11:07
if you create a powerful optimization process
что будет, если вы создадите мощный процесс оптимизации
and give it misconceived or poorly specified goals.
и дадите ему неправильное представление или плохо определённые цели.
Now you might say, if a computer starts sticking electrodes into people's faces,
Вы можете сказать, что если компьютер начнёт вживлять электроды в лица людей,
we'd just shut it off.
мы просто отключим его.
A, this is not necessarily so easy to do if we've grown dependent on the system --
А) это не обязательно легко сделать, если мы стали зависимыми от системы.
00:11:28
like, where is the off switch to the Internet?
Например, где кнопка отключения интернета?
скачать в HTML/PDF
share