Почему ИИ невероятно умён и поразительно глуп. Yejin Choi - видеоролик
Изучайте английский язык с помощью параллельных субтитров ролика "Почему ИИ невероятно умён и поразительно глуп".
Метод интервальных повторений для пополнения словарного запаса английских слов. Встроенный словарь.
Всего 827 книг и 2706 познавательных видеороликов в бесплатном доступе.
страница 3 из 3 ←предыдущая следующая→ ...
00:05:04
yet randomly fails at such
basic common sense?
но от случая к случаю проваливает
такие простые тесты на здравый смысл?
AI today is unbelievably intelligent
and then shockingly stupid.
В настоящее время ИИ одновременно
и невероятно умён, и поразительно глуп.
(Laughter)
(Смех)
It is an unavoidable side effect
of teaching AI through brute-force scale.
Это неизбежный побочный эффект обучения ИИ
с помощью масштаба и метода решения в лоб.
Some scale optimists might say,
“Don’t worry about this.
Некоторые оптимисты, сторонники масштаба,
возможно, скажут: «Не беспокойся.
00:05:26
All of these can be easily fixed
by adding similar examples
Всё это можно легко исправить,
добавив подобные примеры
as yet more training data for AI."
в качестве обучающего материала для ИИ».
But the real question is this.
Но вот настоящий вопрос:
Why should we even do that?
зачем нам это?
You are able to get
the correct answers right away
Вы можете мгновенно дать правильный ответ
00:05:40
without having to train yourself
with similar examples.
без необходимости упражняться
на подобных примерах.
Children do not even read
a trillion words
Даже детям не нужно
прочитать триллион слов,
to acquire such a basic level
of common sense.
чтобы развить такой базовый уровень
здравого смысла.
So this observation leads us
to the next wisdom,
Это приводит нас
к следующей мудрой мысли:
choose your battles.
выбирай битвы.
00:05:56
So what fundamental questions
should we ask right now
Так какие же базовые вопросы
нам нужно задать себе и решить
and tackle today
прямо сейчас,
in order to overcome
this status quo with extreme-scale AI?
чтобы преодолеть этот статус кво
с ИИ гигантского масштаба?
I'll say common sense
is among the top priorities.
Я бы сказала, что здравый смысл
обладает приоритетом.
So common sense has been
a long-standing challenge in AI.
Здравый смысл —
это давняя проблема для ИИ.
00:06:16
To explain why, let me draw
an analogy to dark matter.
Чтобы объяснить, почему, позвольте мне
провести параллель с тёмной материей.
So only five percent
of the universe is normal matter
Только 5% Вселенной — обычная материя,
that you can see and interact with,
которую можно видеть,
с которой можно взаимодействовать.
and the remaining 95 percent
is dark matter and dark energy.
Остальные 95% —
это тёмная материя и тёмная энергия.
Dark matter is completely invisible,
Тёмная материя абсолютно невидима,
00:06:32
but scientists speculate that it's there
because it influences the visible world,
но учёные считают, что она есть,
потому что она влияет на видимый мир,
even including the trajectory of light.
включая даже траекторию света.
So for language, the normal matter
is the visible text,
В случае с языком обычная материя —
это видимый текст,
and the dark matter is the unspoken
rules about how the world works,
а тёмная материя — это негласные правила
о том, как работает мир,
including naive physics
and folk psychology,
включая интуитивную физику
и народную психологию,
00:06:51
which influence the way
people use and interpret language.
которые влияют на то, как люди
используют и понимают язык.
So why is this common sense
even important?
Так почему же здравый смысл так важен?
Well, in a famous thought experiment
proposed by Nick Bostrom,
В известном мысленном эксперименте,
предложенном Ником Бостромом,
AI was asked to produce
and maximize the paper clips.
ИИ попросили максимально увеличить
производство скрепок для бумаги.
And that AI decided to kill humans
to utilize them as additional resources,
Этот ИИ решил убить людей и использовать
их в качестве дополнительных ресурсов,
00:07:16
to turn you into paper clips.
решил превратить вас в скрепки для бумаги.
Because AI didn't have the basic human
understanding about human values.
Потому что у ИИ не было элементарного
человеческого понимания о ценностях.
Now, writing a better
objective and equation
Не сработает и лучшая постановка цели
that explicitly states:
“Do not kill humans”
и уравнение, которое прямо скажет:
will not work either
«Не убивай людей»,
00:07:32
because AI might go ahead
and kill all the trees,
потому что ИИ может решить
истребить все деревья,
Для просмотра параллельного текста полностью залогиньтесь или зарегистрируйтесь
←предыдущая следующая→ ...