Как управлять искусственным интеллектом, даже если его трудно предсказать. Helen Toner - видеоролик
Изучение английского языка с помощью параллельных субтитров ролика "Как управлять искусственным интеллектом, даже если его трудно предсказать".
Метод интервальных повторений для пополнения словарного запаса английских слов. Встроенный словарь.
Всего 828 книг и 2744 познавательных видеоролика в бесплатном доступе.
страница 3 из 3 ←предыдущая следующая→ ...
00:04:22
But what they mean by that
is not that it's inherently mysterious
Но они подразумевают вовсе не то,
что всё по своей природе таинственно
and we have no way
of looking inside the box.
и что мы не можем заглянуть внутрь ящика.
The problem is that when
we do look inside,
Проблема в том, что, заглянув внутрь,
what we find are millions,
мы обнаружим миллионы,
billions or even trillions of numbers
миллиарды или даже триллионы чисел,
00:04:37
that get added and multiplied together
in a particular way.
которые складываются
и умножаются определённым образом.
What makes it hard for experts
to know what's going on
По сути, экспертам сложно понять,
что происходит,
is basically just,
there are too many numbers,
потому что цифр слишком много,
and we don't yet have good ways
of teasing apart what they're all doing.
и у нас пока нет чётких способов
разграничить их действия.
There's a little bit more to it
than that, but not a lot.
В этом есть нечто большее,
но далеко не всё.
00:04:55
So how do we govern this technology
Как же нам управлять этой технологией,
that we struggle
to understand and predict?
которую нам трудно понять и предсказать?
I'm going to share two ideas.
Я поделюсь двумя идеями.
One for all of us
and one for policymakers.
Одна для всех нас
и одна для разработчиков технологии.
First, don't be intimidated.
Во-первых, не пугайтесь.
00:05:10
Either by the technology itself
Либо самой технологией,
or by the people
and companies building it.
либо людьми и компаниями, создающими ее.
On the technology,
Что касается технологии,
AI can be confusing, but it's not magical.
ИИ может сбивать с толку,
но это не волшебство.
There are some parts of AI systems
we do already understand well,
Некоторые части систем ИИ
мы уже хорошо понимаем,
00:05:24
and even the parts we don't understand
won't be opaque forever.
и даже то, в чём мы не разбираемся,
не останется непонятным навсегда.
An area of research
known as “AI interpretability”
В области исследований,
известной как «интерпретируемость ИИ»,
has made quite a lot of progress
in the last few years
за последние несколько лет
был достигнут значительный прогресс
in making sense of what all those
billions of numbers are doing.
в понимании того,
что делают все эти миллиарды чисел.
One team of researchers, for example,
Например, одна группа исследователей
00:05:41
found a way to identify
different parts of a neural network
нашла способ идентифицировать
различные части нейронной сети
that they could dial up or dial down
по которым они могли бы
устанавливать связь,
to make the AI's answers
happier or angrier,
чтобы сделать ответы ИИ
более счастливыми или злыми,
more honest,
более честными,
more Machiavellian, and so on.
более макиавеллианскими и так далее.
00:05:55
If we can push forward
this kind of research further,
Если мы сможем продолжить
подобные исследования,
then five or 10 years from now,
то через пять-десять лет
we might have a much clearer
understanding of what's going on
мы сможем лучше понять,
что происходит
inside the so-called black box.
в так называемом чёрном ящике.
And when it comes to those
building the technology,
А когда дело доходит
до разработчиков технологии,
00:06:09
technologists sometimes act as though
они иногда делают вид,
if you're not elbows deep
in the technical details,
что если вы не разбираетесь
в технических деталях,
then you're not entitled to an opinion
on what we should do with it.
то не имеете права высказывать
своё мнение, что нам с этим делать.
Expertise has its place, of course,
Конечно, опыт имеет значение,
but history shows us how important it is
но история показывает нам,
насколько важно,
Для просмотра параллельного текста полностью залогиньтесь или зарегистрируйтесь
←предыдущая следующая→ ...