Эра слепой веры в «большие данные» должна закончиться. Cathy O'Neil - видеоролик
Изучайте английский язык с помощью параллельных субтитров ролика "Эра слепой веры в «большие данные» должна закончиться".
Метод интервальных повторений для пополнения словарного запаса английских слов. Встроенный словарь.
Всего 827 книг и 2706 познавательных видеороликов в бесплатном доступе.
страница 3 из 3 ←предыдущая следующая→ ...
00:04:41
Well, what if they replaced
their hiring process
Что, если бы они заменили процесс найма
with a machine-learning algorithm?
машинным алгоритмом?
That sounds good, right?
Неплохо, не так ли?
Think about it.
Подумайте об этом.
The data, what would the data be?
Данные, какими будут данные?
00:04:51
A reasonable choice would be the last
21 years of applications to Fox News.
Разумно было бы проанализировать 21 год
опыта приёма на работу в Fox News.
Reasonable.
Разумно.
What about the definition of success?
Как насчёт определения успеха?
Reasonable choice would be,
Разумным было бы выбрать
well, who is successful at Fox News?
тех, кто преуспевает в Fox News?
00:05:03
I guess someone who, say,
stayed there for four years
Я думаю, тех, кто скажем,
проработал там четыре года
and was promoted at least once.
и получил продвижение хотя бы один раз.
Sounds reasonable.
Звучит разумно.
And then the algorithm would be trained.
А затем алгоритм
можно было бы натренировать.
It would be trained to look for people
to learn what led to success,
Он мог бы искать людей,
которые способны достичь успеха,
00:05:17
what kind of applications
historically led to success
узнать, какие из претендентов на должность
были успешными в прошлом.
by that definition.
По этому определению.
Now think about what would happen
Подумайте о том, что произошло бы,
if we applied that
to a current pool of applicants.
если применить эту формулу
ко всем претендентам.
It would filter out women
Женщин можно сразу исключить,
00:05:31
because they do not look like people
who were successful in the past.
потому что среди них немного тех,
кто достиг успеха в прошлом.
Algorithms don't make things fair
Алгоритмы не обеспечивают справедливости.
if you just blithely,
blindly apply algorithms.
Если вы безропотно,
слепо применяете алгоритмы,
They don't make things fair.
они не обеспечат честность.
They repeat our past practices,
Они повторяют наш прошлый опыт,
00:05:48
our patterns.
наши шаблоны.
They automate the status quo.
Они автоматизируют статус-кво.
That would be great
if we had a perfect world,
Было бы здорово, если бы
у нас был идеальный мир,
but we don't.
но у нас его нет.
And I'll add that most companies
don't have embarrassing lawsuits,
Кстати, большинство компаний
обошлись без судебных процессов,
00:06:02
but the data scientists in those companies
но учёным в данных компаниях
are told to follow the data,
велено следить за данными,
to focus on accuracy.
чтобы сосредоточиться на их точности.
Think about what that means.
Подумайте, что это значит.
Because we all have bias,
it means they could be codifying sexism
Поскольку все мы не лишены предвзятости,
данные могут кодифицировать сексизм
00:06:15
or any other kind of bigotry.
или другие формы дискриминации.
Thought experiment,
Вот мысленный эксперимент,
because I like them:
потому что мне они нравятся:
an entirely segregated society --
общество с полной сегрегацией —
racially segregated, all towns,
all neighborhoods
расовое разделение во всех
городах, всех районах.
00:06:31
and where we send the police
only to the minority neighborhoods
Мы отправляем полицию только
в окрестности меньшинств
to look for crime.
расследовать преступления.
The arrest data would be very biased.
Данные об аресте будут очень предвзятыми.
What if, on top of that,
we found the data scientists
А что, если, мы нашли бы специалистов
and paid the data scientists to predict
where the next crime would occur?
и заплатили им за прогноз
места следующего преступления?
00:06:47
Minority neighborhood.
Окрестность меньшинств.
Or to predict who the next
criminal would be?
Или же за прогнозирование
следующего преступника?
A minority.
Кто-то из меньшинств.
The data scientists would brag
about how great and how accurate
Специалисты обработки данных хвалятся тем,
насколько гениальны и точны
their model would be,
их модели,
00:07:00
and they'd be right.
и они правы.
Now, reality isn't that drastic,
but we do have severe segregations
Теперь реальность не настолько радикальна,
но у нас есть серьёзное разделение
Для просмотра параллельного текста полностью залогиньтесь или зарегистрируйтесь
←предыдущая следующая→ ...