3#

Опасность ИИ более странная, чем вы думаете. Janelle Shane - видеоролик

Изучайте английский язык с помощью параллельных субтитров ролика "Опасность ИИ более странная, чем вы думаете". Метод интервальных повторений для пополнения словарного запаса английских слов. Встроенный словарь. Всего 789 книг и 2353 познавательных видеоролика в бесплатном доступе.

Опасность искусственного интеллекта заключается не в том, что он восстанет против нас, а в том, что он будет делать именно то, о чём мы его попросим, говорит исследователь ИИ Джанель Шейн. Рассказывая о странных, порой даже пугающих результатах работы алгоритмов ИИ, когда они пытаются выполнить такие человеческие задачи, как, например, создание новых вкусов мороженого или распознавание машин на дороге, Шейн показывает, почему ИИ пока что далёк от человеческого разума.

страница 1 из 5  ←предыдущая следующая→ ...

00:00:01
So, artificial intelligence
Итак, искусственный интеллект
is known for disrupting all kinds of industries.
известен тем, что вмешивается во все виды промышленности.
What about ice cream?
А как насчёт мороженого?
What kind of mind-blowing new flavors could we generate
Какие новые умопомрачительные вкусы мы можем создать
with the power of an advanced artificial intelligence?
с помощью продвинутого искусственного интеллекта?
00:00:19
So I teamed up with a group of coders from Kealing Middle School
Чтобы это выяснить, я объединилась с группой программистов
to find out the answer to this question.
из средней школы Килинга.
They collected over 1,600 existing ice cream flavors,
Они собрали более 1 600 уже существующих вкусов мороженого,
and together, we fed them to an algorithm to see what it would generate.
и мы загрузили их в алгоритм, чтобы посмотреть, что он сгенерирует.
And here are some of the flavors that the AI came up with.
И вот некоторые из вкусов, которые придумал ИИ.
00:00:40
[Pumpkin Trash Break]
[Тыквенная мусорная куча]
(Laughter)
(Смех)
[Peanut Butter Slime]
[Слизь арахисового масла]
[Strawberry Cream Disease]
[Клубничное заболевание]
(Laughter)
(Смех)
00:00:50
These flavors are not delicious, as we might have hoped they would be.
Эти вкусы не такие приятные, как мы надеялись.
So the question is: What happened?
Так что же произошло?
What went wrong?
Что пошло не так?
Is the AI trying to kill us?
ИИ пытается убить нас?
Or is it trying to do what we asked, and there was a problem?
Или он пытается сделать именно то, о чём мы его просили, и в этом проблема?
00:01:06
In movies, when something goes wrong with AI,
В фильмах, когда с ИИ что-то не в порядке,
it's usually because the AI has decided
обычно это потому, что ИИ решил,
that it doesn't want to obey the humans anymore,
что больше не хочет подчиняться людям
and it's got its own goals, thank you very much.
и имеет свои цели, спасибо большое.
In real life, though, the AI that we actually have
Однако в реальной жизни современный ИИ
00:01:20
is not nearly smart enough for that.
недостаточно умён для этого.
It has the approximate computing power
Его вычислительная мощность приблизительно совпадает
of an earthworm,
с дождевым червём
or maybe at most a single honeybee,
или максимум с одной пчелой.
and actually, probably maybe less.
Хотя на самом деле она, скорее всего, даже меньше.
00:01:32
Like, we're constantly learning new things about brains
Мы постоянно узнаём что-то новое о нашем мозге,
that make it clear how much our AIs don't measure up to real brains.
что показывает, как сильно ИИ отстаёт от нашего разума.
So today's AI can do a task like identify a pedestrian in a picture,
Например, современный ИИ может распознавать пешеходов на изображении,
but it doesn't have a concept of what the pedestrian is
но он не понимает, что такое пешеход,
beyond that it's a collection of lines and textures and things.
кроме набора линий, текстур и объектов.
00:01:53
It doesn't know what a human actually is.
Он не знает, что такое человек на самом деле.
So will today's AI do what we ask it to do?
Так что сделает ли современный ИИ то, о чём мы его попросим?
It will if it can,
Да, если сможет,
but it might not do what we actually want.
но в итоге может получиться не то, чего мы хотели на самом деле.
So let's say that you were trying to get an AI
Допустим, вы хотите, чтобы ИИ
00:02:06
to take this collection of robot parts
взял эти детали и собрал из них робота,
and assemble them into some kind of robot to get from Point A to Point B.
который сможет добраться из точки А в точку Б.
скачать в HTML/PDF
share

←предыдущая следующая→ ...