Почему ИИ невероятно умён и поразительно глуп. Yejin Choi - видеоролик
Изучайте английский язык с помощью параллельных субтитров ролика "Почему ИИ невероятно умён и поразительно глуп".
Метод интервальных повторений для пополнения словарного запаса английских слов. Встроенный словарь.
Всего 827 книг и 2706 познавательных видеороликов в бесплатном доступе.
Специалист в области компьютерных наук Еджин Чой объясняет текущее состояние таких массивных систем ИИ, как ChatGPT, и выделяет три главные проблемы с новейшими большими языковыми моделями (включая забавные примеры того, как они не справляются с элементарными задачами на здравый смысл). Она приглашает нас в новую эпоху, где ИИ становится похожим на новый биологический вид, обладающий интеллектом, и показывает нам преимущества систем ИИ меньшего размера, обучаемых на основе человеческих норм и ценностей. (С последующими вопросами от главы TED Криса Андерсона).
страница 1 из 3 ←предыдущая следующая→ ...
00:00:00
So I'm excited to share a few spicy
thoughts on artificial intelligence.
Рада поделиться с вами мыслями,
вызывающими неоднозначную реакцию,
об искусственном интеллекте.
об искусственном интеллекте.
But first, let's get philosophical
Но для начала давайте пофилософствуем,
by starting with this quote by Voltaire,
начав с цитаты Вольтера,
an 18th century Enlightenment philosopher,
философа-просветителя XVIII века,
who said, "Common sense is not so common."
который сказал: «Здравый смысл
присущ отнюдь не всем».
00:00:18
Turns out this quote
couldn't be more relevant
Оказывается, эта цитата сегодня
to artificial intelligence today.
как нельзя кстати подходит к теме ИИ.
Despite that, AI
is an undeniably powerful tool,
Несмотря на это, ИИ —
бесспорно, мощный инструмент,
beating the world-class "Go" champion,
который победил
мирового чемпиона по игре в го,
acing college admission tests
and even passing the bar exam.
блестяще сдаёт вступительные экзамены
в ВУЗы и даже экзамены на адвоката.
00:00:34
I’m a computer scientist of 20 years,
Я уже 20 лет работаю
в области компьютерных наук
and I work on artificial intelligence.
и занимаюсь искусственным интеллектом.
I am here to demystify AI.
Я хочу развеять мифы об ИИ.
So AI today is like a Goliath.
ИИ сегодня подобен Голиафу.
It is literally very, very large.
Он огромен в буквальном смысле слова.
00:00:50
It is speculated that the recent ones
are trained on tens of thousands of GPUs
Считается, что новые модели тренируют
на сотнях тысяч графических процессоров
and a trillion words.
и триллионах слов.
Such extreme-scale AI models,
Кажется, что такие гигантские модели ИИ,
often referred to as "large
language models,"
часто называемые
«большими языковыми моделями»,
appear to demonstrate sparks of AGI,
демонстрируют возможности AGI,
00:01:08
artificial general intelligence.
универсального искусственного интеллекта.
Except when it makes
small, silly mistakes,
Однако бывает, что он делает
маленькие нелепые ошибки,
which it often does.
и это случается часто.
Many believe that whatever
mistakes AI makes today
Многие считают, что какие бы ошибки
ни делал ИИ сегодня,
can be easily fixed with brute force,
ситуацию можно легко исправить
методом решения в лоб,
00:01:22
bigger scale and more resources.
пользуясь бóльшим масштабом
и бóльшими ресурсами.
What possibly could go wrong?
Что же тут может пойти не так?
So there are three immediate challenges
we face already at the societal level.
Уже сегодня мы как общество столкнулись
с тремя непосредственными проблемами.
First, extreme-scale AI models
are so expensive to train,
Во-первых, гигантские модели ИИ
очень дорого обучать,
and only a few tech companies
can afford to do so.
так что только всего несколько IT-компаний
могут себе это позволить,
00:01:44
So we already see
the concentration of power.
и мы уже наблюдаем
концентрацию власти.
But what's worse for AI safety,
Но, что ещё хуже в плане безопасности ИИ,
we are now at the mercy
of those few tech companies
сегодня мы находимся во власти
этих немногих технологических компаний,
because researchers
in the larger community
потому что исследователи
из более широкого сообщества
do not have the means to truly inspect
and dissect these models.
не располагают средствами
для тщательного изучения и анализа этих моделей.
для тщательного изучения и анализа этих моделей.
00:02:04
And let's not forget
their massive carbon footprint
И давайте не забывать
про их большие углеродные выбросы
and the environmental impact.
и воздействие на окружающую среду.
And then there are these additional
intellectual questions.
Кроме того, есть много дополнительных
интеллектуальных вопросов.
Can AI, without robust common sense,
be truly safe for humanity?
Может ли ИИ, не обладая здравым смыслом,
быть поистине безопасным для человечества?
And is brute-force scale
really the only way
И действительно ли масштаб
и метод решения в лоб —
00:02:25
and even the correct way to teach AI?
единственный и правильный
способ обучения ИИ?
So I’m often asked these days
Меня часто спрашивают,
whether it's even feasible
to do any meaningful research
можно ли провести какое-либо
содержательное исследование
without extreme-scale compute.
без экстремальных вычислений.
And I work at a university
and nonprofit research institute,
Я работаю в университете и некоммерческом
научно-исследовательском институте
00:02:38
so I cannot afford a massive GPU farm
to create enormous language models.
и не могу себе позволить огромный кластер
GPU для гигантских языковых моделей.
Для просмотра параллельного текста полностью залогиньтесь или зарегистрируйтесь
←предыдущая следующая→ ...