StudyEnglishWords

4#

Что произойдёт, когда компьютеры станут умнее нас? Nick Bostrom - видеоролик

Изучайте английский язык с помощью параллельных субтитров ролика "Что произойдёт, когда компьютеры станут умнее нас?". Метод интервальных повторений для пополнения словарного запаса английских слов. Встроенный словарь. Всего 326 книг и 1726 познавательных видеороликов в бесплатном доступе.

страница 6 из 8  ←предыдущая следующая→ ...

00:11:31
B, why haven't the chimpanzees flicked the off switch to humanity,
Б) почему шимпанзе не отключили кнопку человечества
or the Neanderthals?
или неандертальцы?
They certainly had reasons.
У них определённо были причины.
We have an off switch, for example, right here.
У нас есть кнопка выключения, например, прямо здесь.
(Choking)
(Душит)
00:11:45
The reason is that we are an intelligent adversary;
Причина в том, что мы интеллектуальные соперники:
we can anticipate threats and plan around them.
мы можем предвидеть угрозы и планировать обходные пути.
But so could a superintelligent agent,
Но это может и суперумный агент,
and it would be much better at that than we are.
и он будет намного лучше в этом, чем мы.
The point is, we should not be confident that we have this under control here.
Суть в том, что мы не должны быть уверены, что у нас это под контролем.
00:12:03
And we could try to make our job a little bit easier by, say,
И мы могли бы попытаться сделать нашу работу проще, скажем,
putting the A.I. in a box,
запихнув ИИ в коробку,
like a secure software environment,
в безопасную программную среду,
a virtual reality simulation from which it cannot escape.
виртуальную имитацию реальности из которой он не сможет сбежать.
But how confident can we be that the A.I. couldn't find a bug.
Но насколько мы можем быть уверены, что ИИ не сможет найти такую ошибку.
00:12:17
Given that merely human hackers find bugs all the time,
Учитывая, что даже человеческие хакеры находят ошибки всё время,
I'd say, probably not very confident.
я бы сказал, возможно, не очень уверены.
So we disconnect the ethernet cable to create an air gap,
Мы отсоединили сетевой кабель, чтобы создать воздушный зазор.
but again, like merely human hackers
Но опять же, человеческие хакеры
routinely transgress air gaps using social engineering.
регулярно нарушают воздушные зазоры, используя социальную инженерию.
00:12:35
Right now, as I speak,
В то время как я говорю,
I'm sure there is some employee out there somewhere
я уверен, где-то там есть некий работник,
who has been talked into handing out her account details
которого убедил раскрыть свой пароль
by somebody claiming to be from the I.T. department.
кто-то, утверждающий, что он из отдела ИТ.
More creative scenarios are also possible,
Возможно, будут ещё более творческие сценарии,
00:12:47
like if you're the A.I.,
как если бы ИИ
you can imagine wiggling electrodes around in your internal circuitry
представлялся вам шевелящимися электродами вокруг вашей внутренней схемы,
to create radio waves that you can use to communicate.
создающим радиоволны, которые вы можете использовать для общения.
Or maybe you could pretend to malfunction,
Или, может, вы могли бы симулировать сбои,
and then when the programmers open you up to see what went wrong with you,
и затем, когда программисты вскроют вас, что же с вами пошло не так,
00:13:01
they look at the source code -- Bam! --
они посмотрят на исходный код — Бам!
the manipulation can take place.
Манипуляция имеет место быть.
Or it could output the blueprint to a really nifty technology,
Или он может напечатать схему действительно отличной технологии,
and when we implement it,
и когда мы реализуем её,
it has some surreptitious side effect that the A.I. had planned.
будут некоторые тайные побочные эффекты, которые ИИ уже спланировал.
00:13:15
The point here is that we should not be confident in our ability
Суть здесь в том, что мы не должны быть уверены в нашей способности
to keep a superintelligent genie locked up in its bottle forever.
вечно держать сверхразумного джина взаперти в бутылке.
Sooner or later, it will out.
Рано или поздно он выйдет наружу.
I believe that the answer here is to figure out
Я верю, что ответ заключается в том, чтобы выяснить,
how to create superintelligent A.I. such that even if -- when -- it escapes,
как создать сверхразумный ИИ с учётом, что если он сбежит,
скачать в HTML/PDF
share