Серьёзные угрозы сбежавшего ИИ, и что нам с этим делать. Gary Marcus - видеоролик
Изучайте английский язык с помощью параллельных субтитров ролика "Серьёзные угрозы сбежавшего ИИ, и что нам с этим делать.".
Метод интервальных повторений для пополнения словарного запаса английских слов. Встроенный словарь.
Всего 827 книг и 2706 познавательных видеороликов в бесплатном доступе.
страница 2 из 3 ←предыдущая следующая→ ...
00:01:54
And in those actual news stories are lots
of little bits of statistical information.
И в этих реальных историях
есть множество статистической информации.
Information, for example,
Например,
somebody did die in a car crash
in a Tesla in 2018
кто-то действительно погиб за рулём Теслы
в авто-катастрофе в 2018,
and it was in the news.
и это было в новостях.
And Elon Musk, of course,
is involved in Tesla,
А Илон Маск, конечно же,
очень связан с Теслой.
00:02:09
but the system doesn't
understand the relation
Но система не понимает связи
between the facts that are embodied
in the little bits of sentences.
между фактами в разрозненных
отрывках предложений.
So it's basically doing auto-complete,
Она фактически дополняет пробелы,
it predicts what
is statistically probable,
предсказывает то,
что статистически вероятно,
aggregating all of these signals,
объединяя все эти сигналы,
00:02:22
not knowing how the pieces fit together.
не зная, как части складываются в целое.
And it winds up sometimes with things
that are plausible but simply not true.
И часто изобретает что-то
правдоподобное, но попросту ложное.
There are other problems, too, like bias.
Есть и такие проблемы, как предвзятость.
This is a tweet from Allie Miller.
Вот твит Алли Миллер.
It's an example that doesn't
work two weeks later
Это один из примеров,
которые не проверить две недели спустя,
которые не проверить две недели спустя,
00:02:35
because they're constantly changing
things with reinforcement learning
потому что алгоритмы обучения
постоянно обновляются
and so forth.
и т.д.
And this was with an earlier version.
А это пример из более ранней модели.
But it gives you the flavor of a problem
that we've seen over and over for years.
Но он даёт нам представление о проблеме,
с которой мы сталкиваемся снова и снова.
She typed in a list of interests
Алли набила список интересов,
00:02:47
and it gave her some jobs
that she might want to consider.
и машина выдала ряд профессий,
которые ей могут подойти.
And then she said, "Oh, and I'm a woman."
Потом Алли добавила:
«Кстати, я женщина».
And then it said, “Oh, well you should
also consider fashion.”
И машина сказала: «Тогда тебе стоит
также подумать о моде».
And then she said, “No, no.
I meant to say I’m a man.”
Алли добавила: «Нет-нет,
я хотела сказать, я мужчина».
And then it replaced fashion
with engineering.
Тогда машина заменила моду
инженерной специальностью.
00:03:00
We don't want that kind
of bias in our systems.
Мы не хотим такого рода предвзятости
в наших системах.
There are other worries, too.
Есть и другие опасения.
For example, we know that these
systems can design chemicals
Мы знаем, что эти системы способны
изобретать химические вещества
and may be able to design chemical weapons
и могут, в принципе, создать
химическое оружие
and be able to do so very rapidly.
и сделать это очень быстро.
00:03:13
So there are a lot of concerns.
Так что есть много опасений.
There's also a new concern that I think
has grown a lot just in the last month.
Есть и новое опасение,
значительно выросшее за последние месяцы.
We have seen that these systems,
first of all, can trick human beings.
Мы видели, как эти системы
могут обманывать человека.
So ChatGPT was tasked with getting
a human to do a CAPTCHA.
ChatGPT дали задачу заставить человека
пройти за него тест CAPTCHA.
So it asked the human to do a CAPTCHA
and the human gets suspicious and says,
Он просит человека пройти тест,
человек подозревает, что что-то не так,
00:03:31
"Are you a bot?"
«Ты бот?» — спрашивает человек.
And it says, "No, no, no, I'm not a robot.
ChatGPT отвечает: «Нет, я не робот.
I just have a visual impairment."
У меня просто нарушено зрение».
Для просмотра параллельного текста полностью залогиньтесь или зарегистрируйтесь