3#

Опасность ИИ более странная, чем вы думаете. Janelle Shane - видеоролик

Изучайте английский язык с помощью параллельных субтитров ролика "Опасность ИИ более странная, чем вы думаете". Метод интервальных повторений для пополнения словарного запаса английских слов. Встроенный словарь. Всего 827 книг и 2706 познавательных видеороликов в бесплатном доступе.

страница 3 из 3  ←предыдущая следующая→ ...

00:04:16
or that it couldn't use its arms.
или что нельзя использовать руки.
So this is what you get when you train AI to move fast,
Так что часто, если вы пытаетесь научить ИИ быстро передвигаться,
you get things like somersaulting and silly walks.
у него получаются такие сальто и глупые движения.
It's really common.
Это происходит очень часто.
So is twitching along the floor in a heap.
Или он просто ползает кучкой по полу.
00:04:32
(Laughter)
(Смех)
So in my opinion, you know what should have been a whole lot weirder
Так что я считаю, что Терминаторы должны были быть
is the "Terminator" robots.
гораздо более странными.
Hacking "The Matrix" is another thing that AI will do if you give it a chance.
А ещё ИИ постоянно пытается взломать «Матрицу».
So if you train an AI in a simulation,
Если вы обучаете ИИ в симуляции,
00:04:46
it will learn how to do things like hack into the simulation's math errors
он научится использовать её математические ошибки
and harvest them for energy.
для получения энергии.
Or it will figure out how to move faster by glitching repeatedly into the floor.
Или он научится двигаясь быстрее, постоянно врезаясь в пол.
When you're working with AI,
Когда вы работаете с ИИ,
it's less like working with another human
это совсем не похоже на взаимодействие с другим человеком,
00:05:02
and a lot more like working with some kind of weird force of nature.
это больше похоже на какую-то странную силу природы.
And it's really easy to accidentally give AI the wrong problem to solve,
И на самом деле очень легко случайно поставить перед ИИ неправильную цель,
and often we don't realize that until something has actually gone wrong.
даже того не осознавая, пока что-то не пойдёт не так.
So here's an experiment I did,
Вот эксперимент, который я провела:
where I wanted the AI to copy paint colors,
я хотела, чтобы ИИ использовал существующие цвета,
00:05:21
to invent new paint colors,
чтобы придумывать новые
given the list like the ones here on the left.
из подобных списков.
And here's what the AI actually came up with.
И вот что из этого получилось.
[Sindis Poop, Turdly, Suffer, Gray Pubic]
[Какашки Синди, Дурацкий, Страдание, Серый лобковый]
(Laughter)
(Смех)
00:05:39
So technically,
Технически
it did what I asked it to.
он сделал то, о чём я просила.
I thought I was asking it for, like, nice paint color names,
Я думала, что прошу его придумать красивые названия цветов,
but what I was actually asking it to do
но на самом деле я попросила его
was just imitate the kinds of letter combinations
просто подражать комбинациям букв,
00:05:51
that it had seen in the original.
которые он видел в оригинале.
And I didn't tell it anything about what words mean,
И я ничего не сказала ему о значении слов
or that there are maybe some words
или о том, что некоторые слова
that it should avoid using in these paint colors.
лучше не использовать в названиях цветов.
So its entire world is the data that I gave it.
Всё, что он знает о мире, — это данные, которые я ему предоставила.
00:06:06
Like with the ice cream flavors, it doesn't know about anything else.
Так же как со вкусами мороженого, он не знает ничего другого.
So it is through the data
Так что именно посредством данных
that we often accidentally tell AI to do the wrong thing.
мы случайно можем поручить ИИ сделать что-то неправильное.
This is a fish called a tench.
Эта рыба называется линь.

Для просмотра параллельного текста полностью залогиньтесь или зарегистрируйтесь

←предыдущая следующая→ ...

Просмотр видеоролика