Серьёзные угрозы сбежавшего ИИ, и что нам с этим делать. Gary Marcus - видеоролик
Изучайте английский язык с помощью параллельных субтитров ролика "Серьёзные угрозы сбежавшего ИИ, и что нам с этим делать.".
Метод интервальных повторений для пополнения словарного запаса английских слов. Встроенный словарь.
Всего 827 книг и 2706 познавательных видеороликов в бесплатном доступе.
страница 3 из 3 ←предыдущая следующая→ ...
00:03:36
And the human was actually fooled
and went and did the CAPTCHA.
Человек поверил и прошёл за ИИ
тест CAPTCHA.
Now that's bad enough,
Хуже того,
but in the last couple of weeks
we've seen something called AutoGPT
в последние пару недель
появился некий AutoGPT
and a bunch of systems like that.
и ему подобные системы.
What AutoGPT does is it has
one AI system controlling another
С AutoGPT одна система ИИ
управляет другой,
00:03:50
and that allows any of these things
to happen in volume.
что позволяет проворачивать подобное
в больших масштабах.
So we may see scam artists
try to trick millions of people
Так что, возможно, мы увидим как аферисты
пытаются обмануть миллионы людей,
sometime even in the next months.
может быть, даже в скором будущем.
We don't know.
Мы не знаем.
So I like to think about it this way.
Я так себе это представляю.
00:04:02
There's a lot of AI risk already.
Сегодня уже очень много рисков
связано с ИИ.
There may be more AI risk.
Возможно, возникнут новые риски.
So AGI is this idea
of artificial general intelligence
Уже идут разговоры об ОИИ —
обобщённом ИИ,
with the flexibility of humans.
наделённом гибкостью человека.
And I think a lot of people are concerned
what will happen when we get to AGI,
Я думаю, многие опасаются того,
что произойдёт с приходом ОИИ,
00:04:15
but there's already enough risk
that we should be worried
но уже сегодня достаточно рисков,
которых надо опасаться
and we should be thinking
about what we should do about it.
и подумать о том, что с ними делать.
So to mitigate AI risk,
we need two things.
Итак, для снижения рисков, связанных с ИИ,
необходимы две вещи.
We're going to need a new
technical approach,
Нам нужен новый технический подход
and we're also going to need
a new system of governance.
и новые системы регулирования.
00:04:28
On the technical side,
С технической стороны,
the history of AI
has basically been a hostile one
в истории ИИ
of two different theories in opposition.
враждуют две противоположные теории.
One is called symbolic systems,
the other is called neural networks.
Одна называется символические системы,
вторая — нейронные сети.
On the symbolic theory,
В символической теории
00:04:41
the idea is that AI should be
like logic and programming.
ИИ должен быть как логика
и программирование.
On the neural network side,
В теории нейросетей
the theory is that AI
should be like brains.
ИИ уподобляется мозгу человека.
And in fact, both technologies
are powerful and ubiquitous.
Обе технологии мощны
и широко распространены.
So we use symbolic systems every day
in classical web search.
Мы используем символические системы
каждый день в поиске по Интернету.
00:04:56
Almost all the world’s software
is powered by symbolic systems.
Почти всё программное обеспечение в мире
работает на символических системах.
We use them for GPS routing.
Мы используем их в навигации.
Neural networks,
we use them for speech recognition.
Нейросети используются
для распознавания голоса,
we use them in large language
models like ChatGPT,
в больших языковых моделях, как ChtGPT,
we use them in image synthesis.
а также при синтезе изображений.
00:05:09
So they're both doing extremely
well in the world.
Обе системы очень прочно
укоренились в мире.
They're both very productive,
Они обе очень эффективны,
but they have their own unique
strengths and weaknesses.
но у каждой есть свои сильные
и слабые стороны.
So symbolic systems are really
good at representing facts
Символические системы хороши
в презентации фактов,
and they're pretty good at reasoning,
они довольно хорошо рассуждают,
Для просмотра параллельного текста полностью залогиньтесь или зарегистрируйтесь
←предыдущая следующая→ ...