Опасность ИИ более странная, чем вы думаете. Janelle Shane - видеоролик
Изучение английского языка с помощью параллельных субтитров ролика "Опасность ИИ более странная, чем вы думаете".
Метод интервальных повторений для пополнения словарного запаса английских слов. Встроенный словарь.
Всего 828 книг и 2765 познавательных видеороликов в бесплатном доступе.
страница 3 из 3 ←предыдущая следующая→ ...
00:04:16
or that it couldn't use its arms.
или что нельзя использовать руки.
So this is what you get
when you train AI to move fast,
Так что часто, если вы пытаетесь
научить ИИ быстро передвигаться,
you get things like somersaulting
and silly walks.
у него получаются такие сальто
и глупые движения.
It's really common.
Это происходит очень часто.
So is twitching along the floor in a heap.
Или он просто ползает кучкой по полу.
00:04:32
(Laughter)
(Смех)
So in my opinion, you know what
should have been a whole lot weirder
Так что я считаю, что
Терминаторы должны были быть
is the "Terminator" robots.
гораздо более странными.
Hacking "The Matrix" is another thing
that AI will do if you give it a chance.
А ещё ИИ постоянно пытается
взломать «Матрицу».
So if you train an AI in a simulation,
Если вы обучаете ИИ в симуляции,
00:04:46
it will learn how to do things like
hack into the simulation's math errors
он научится использовать
её математические ошибки
and harvest them for energy.
для получения энергии.
Or it will figure out how to move faster
by glitching repeatedly into the floor.
Или он научится двигаясь быстрее,
постоянно врезаясь в пол.
When you're working with AI,
Когда вы работаете с ИИ,
it's less like working with another human
это совсем не похоже
на взаимодействие с другим человеком,
00:05:02
and a lot more like working
with some kind of weird force of nature.
это больше похоже
на какую-то странную силу природы.
And it's really easy to accidentally
give AI the wrong problem to solve,
И на самом деле очень легко случайно
поставить перед ИИ неправильную цель,
and often we don't realize that
until something has actually gone wrong.
даже того не осознавая,
пока что-то не пойдёт не так.
So here's an experiment I did,
Вот эксперимент, который я провела:
where I wanted the AI
to copy paint colors,
я хотела, чтобы ИИ
использовал существующие цвета,
00:05:21
to invent new paint colors,
чтобы придумывать новые
given the list like the ones
here on the left.
из подобных списков.
And here's what the AI
actually came up with.
И вот что из этого получилось.
[Sindis Poop, Turdly, Suffer, Gray Pubic]
[Какашки Синди, Дурацкий,
Страдание, Серый лобковый]
(Laughter)
(Смех)
00:05:39
So technically,
Технически
it did what I asked it to.
он сделал то, о чём я просила.
I thought I was asking it for,
like, nice paint color names,
Я думала, что прошу его придумать
красивые названия цветов,
but what I was actually asking it to do
но на самом деле я попросила его
was just imitate the kinds
of letter combinations
просто подражать комбинациям букв,
00:05:51
that it had seen in the original.
которые он видел в оригинале.
And I didn't tell it anything
about what words mean,
И я ничего не сказала ему о значении слов
or that there are maybe some words
или о том, что некоторые слова
that it should avoid using
in these paint colors.
лучше не использовать в названиях цветов.
So its entire world
is the data that I gave it.
Всё, что он знает о мире, —
это данные, которые я ему предоставила.
00:06:06
Like with the ice cream flavors,
it doesn't know about anything else.
Так же как со вкусами мороженого,
он не знает ничего другого.
So it is through the data
Так что именно посредством данных
that we often accidentally tell AI
to do the wrong thing.
мы случайно можем поручить ИИ
сделать что-то неправильное.
This is a fish called a tench.
Эта рыба называется линь.
Для просмотра параллельного текста полностью залогиньтесь или зарегистрируйтесь
←предыдущая следующая→ ...