Тысячи студентов в Англии недовольны противоречивым использованием алгоритма для определения результатов GCSE и A-level в этом году. Они не смогли сдать экзамены из-за изоляции, поэтому алгоритм использовал данные о результатах школ за предыдущие годы для определения оценок. Это означало, что около 40% результатов A-level в этом году оказались ниже прогнозируемых, что оказывает огромное влияние на то, что студенты смогут делать дальше. Результаты GCSE должны быть опубликованы в четверг. Существует множество примеров алгоритмов, принимающих важные решения о нашей жизни, при этом мы не обязательно знаем, как и когда они это делают. Вот некоторые из них:

1. Социальные сети

Во многих отношениях, платформы социальных сетей - это просто гигантские алгоритмы.

По сути, они разрабатывают то, что вас интересует, а затем дают вам больше, используя столько точек данных, сколько они могут получить в свои руки. Каждое «лайк», щелчок сохраняется. Большинство приложений также собирают больше данных из ваших привычек просмотра веб-страниц или географических данных. Идея состоит в том, чтобы предугадывать контент, который вы хотите, и продолжать прокрутку - и это работает. И те же самые алгоритмы, которые знают, что вам нравится видео с милыми котиками, также используются для продажи вам вещей.

2. Страхование

Будь то страхование дома, автомобиля, здоровья или любой другой формы страхования, ваш страховщик должен каким-то образом оценить вероятность того, что что-то действительно пойдет не так. По словам Тимандры Харкнесс, автора книги «Большие данные: имеет ли размер», во многих отношениях страховая отрасль первой использовала данные о прошлом для определения будущих результатов - это основа всего сектора.

"Все мы знаем, что если вы переедете на другой почтовый индекс, ваша страховка вырастет или упадет. «Это не из-за вас, а потому, что другие люди с большей или меньшей вероятностью стали жертвами преступлений, несчастных случаев или чего-то подобного».

3. Здравоохранение

Искусственный интеллект делает большие шаги в диагностике различных состояний и даже предлагает пути лечения.

Исследование, опубликованное в январе 2020 года, показало, что алгоритм выявил лучшие результаты, чем врачи, когда дело дошло до выявления рака груди по маммограмме.

Однако это требует огромного количества данных о пациентах для обучения программ. «Существует тонкая грань между поиском захватывающих новых способов улучшения ухода и опережением ожиданий пациентов».

4. Правоохранительные органы Теоретически алгоритмы обладают способностью выполнять научно-фантастические обещания «прогнозируемой полицейской деятельности» - используя данные, например, где в прошлом, когда и кем происходило преступление, для прогнозирования того, кто мог совершить нынешнее преступление.

Но этот метод может вызвать алгоритмическую предвзятость и даже алгоритмический расизм. «Это такая же ситуация, как и с оценками на экзаменах», - говорит Арик Чоудхури из технологического аналитического центра WebRoots Democracy. «Почему вы судите об одном человеке на основании того, что исторически делали другие люди?». Дело в том, что камеры с распознаванием лиц более точны при распознавании белых лиц, потому что о них больше данных. «Вопрос в том, тестируете ли вы его на достаточно разнообразной демографической группе людей?» - говорит Арик. «Чего вы не хотите, так это ситуации, когда некоторые группы ошибочно идентифицируются как преступники из-за алгоритма».