Манипуляция людьми. Девять алгоритмов, которые уже принимают за вас решения

В апреле 2017 года по всему миру разошлась видеозапись того, как американского доктора азиатского происхождения силой вытаскивают с борта рейса United Airways в чикагском аэропорту О'Хара.

На авиакомпанию обрушился шквал критики. United Airways хотела снять доктора Дэвида Дао с рейса, так как компании было необходимо доставить в Луисвил членов экипажа отбывающего вскоре оттуда другого рейса.

Но мало кто заметил один из главных элементов этой истории: решение снять доктора Дао с рейса было принято компьютером. А точнее, компьютерной программой, которая, скорее всего, указала пальцем на доктора еще до того, как тот прибыл в аэропорт.

Это классический пример того, как компьютерные программы, то есть алгоритмы, принимают решения, которые отражаются на нашей повседневной жизни, и что часто мы об этом не подозреваем.

В отличие от алгоритмов Google, Netflix или Facebook, многие из решений таких компьютерных программ, как, например, в истории с компанией United Airways, не зависят напрямую от того, что мы делаем.

Подобные алгоритмы применяются все чаще: теперь они могут решать, следует ли приглашать кандидата на работу на собеседование, с кем мы отправимся на свидание или даже каким будет наш тюремный срок.

Эксперты уже озабочены отсутствием прозрачности в том, как именно используется искусственный интеллект в процессе принятия решений.

Вот несколько примеров того, как алгоритмы, возможно, уже влияют на вашу жизнь.

В недалеком будущем вам, может быть, придется пожимать руку коллеге-роботу

1. Искусственный интеллект (ИИ) решает, получите ли вы работу

На сегодняшний день большая часть поданных компании резюме отвергаются до того, как их увидит живой человек.

Это происходит потому, что все больше компаний используют системы Applicant Tracking Systems — компьютерные программы, которые автоматически управляют некоторыми стадиями найма, в особенности на стадии отсеивания непригодных кандидатов из тысяч поступающих резюме.

Согласно оценкам экспертов, в США более 70% поступающих резюме фильтруются ИИ до того, как они попадают в руки менеджеров. Компании таким образом экономят время и деньги.

Но не все уверены в непредвзятости подобных алгоритмов.

Исследователи Гидеон Манн и Кэти О'Нил опубликовали в Harvard Business Review статью, в которой утверждают, что компьютерные программы, свободные от человеческих предубеждений и предпочтений, могут привести к новым, искусственным предубеждениям.

Кредит, полученный этой парой, скорее всего, был утвержден алгоритмом

2. Вы хотите кредит? Ваш профиль в соцсетях может повлиять на решение банка

Традиционно, когда человек хотел получить кредит у финансового учреждения, решение по его запросу принималось на основе анализа вероятности того, что он этот кредит сможет выплатить, учитывая размеры его долга по отношению к доходам, а также его кредитную историю.

Теперь это не так. Кредитоспособность потенциального клиента определяется алгоритмами, изучающими данные из целого ряда источников — от истории закупок до того, какую именно информацию человек разыскивал в прошлом в интернете, а также его поведение в социальных сетях.

Проблема состоит в том, что этот нетрадиционный способ сбора информации для оценки кредитоспособности может происходить без ведома и согласия клиента.

Существуют также серьезные вопросы по поводу открытости кода подобных алгоритмов, а также возможности того, что в коде могут отразиться даже неосознанные предубеждения писавших его людей.

3. ИИ может помочь найти любовь всей жизни, но не с тем, кого вы ожидали

Любовь все чаще ищут через интернет

Ни для кого не секрет, что сайты знакомств применяют алгоритмы для рассылки информации о подходящих кандидатах.

При этом, однако, не совсем ясно, как именно они используют свои алгоритмы.

В 2017 году eHarmony, один из крупнейших и самых успешных сайтов знакомств в мире, объявил, что изменял профили некоторых клиентов, чтобы они выглядели более привлекательными.

Компания игнорировала некоторые из предпочтений клиентов, в особенности часть их «лайков» и негативного отношения.

Подобная практика вполне могла вызвать гнев тех, кто потратил время и силы на то, чтобы ответить на все 400 вопросов анкеты eHarmony, требующиеся для создания профиля на сайте.

Но даже сайты вроде Tinder, применяющие несложные критерии (географическое положение, возраст и сексуальные предпочтения), прибегают к подобного рода уловкам.

Каждому пользователю приложения выдается секретный «рейтинг привлекательности». Рейтинг составляет сама кампания, чтобы «облегчить совместимость».

Компания, которой принадлежит Tinder, держит свой алгоритм в секрете, но ее руководство уже намекало, что то, сколько раз пользователь проводит пальцем по экрану направо или налево (таким образом пользователи указывают Tinder, кто им нравится или не нравится), имеет ключевое значение в определении «рейтинга привлекательности».

4. Алгоритм может определить вашу наркозависимость и решить, предоставлять ли вам медицинскую страховку

В 2016 году более 40 тысяч человек скончались в США из-за передозировки опиоидов

Неправильное использование и передозировка легальными опиоидами стала главной причиной непредвиденной смерти в США. Специалисты в области здравоохранения уже довольно часто называют это эпидемией.

Для борьбы с ней ученые и власти разрабатывают проекты, управляемые ИИ.

Например, недавно в штате Теннесси компания Blue Cross, предоставляющая медицинскую страховку, и компьютерная компания Fuzzy Logix объявили о создании совместного алгоритма, способного проанализировать не менее 742 показателей, чтобы определить риск использования препаратов не по назначению или же потенциальных наркозависимых.

Но тут возникают этические проблемы: среди прочего, алгоритм исследует данные о медицинской истории человека, а также его личные данные.

Сторонники подобных программ говорят, что они могут спасать жизни, а также уменьшить число случаев, когда люди злоупотребляют системой медицинской страховки: у наркозависимых на 79% больше шансов того, что им потребуется дорогостоящее лечение.

Согласно оценкам, в одной лишь Америке рынок продаж программ искусственного интеллекта для системы здравоохранения вырастет с 670 млн долларов в 2016-м до 8 млрд долларов к 2022-му году. Не стоит забывать, что эти оценки были сделаны до того, как Amazon объявил, что намерен войти на рынок медицинских услуг.

Защитники использования ИИ в секторе медицины заявляют, что это поможет быстрее принимать решения, а также снизить число неверных решений, совершенных из-за ошибок человека.

5. Алгоритмы влияют даже на кино

Многие жалуются на то, что Голливуд использует давно отработанные формулы при создании своих блокбастеров.

Но сейчас речь идет не только о том, как именно написать сценарий и какому актеру отдать роль. Киностудии теперь используют алгоритмы, чтобы понять, какие деньги фильм принесет.

Сразу несколько компаний предлагают киностудиям подобные услуги.

Их программы не только сравнивают сценарий с огромной базой данных предыдущих фильмов, но и утверждают, что могут предсказать, как повлияют на кассовый успех фильма корректировки сценария и выбор определенных актеров.

С такими консультантами и их алгоритмами работают крупнейшие голливудские киностудии — Paramount, Universal, Warner Bros.

6. Алгоритмы влияют на то, за кого вы голосуете

Во время президентской кампании 2008 году Бараку Обаме помогло не только обаяние

В наше время, когда для политиков аналитическая обработка данных становится более важной, чем приятная улыбка, алгоритмы резвычайно важны в поисках поддержки избирателей.

Хотя многие были впечатлены риторикой Барака Обамы, заручившегося в 2008 году выдвижением в кандидаты в президенты от Демократической партии, многих не меньше впечатлило то, как его кампания использовала алгоритмы.

При помощи компьютерных программ эксперты его штаба выявляли избирателей, еще не решивших, за кого они будут голосовать, используя данные из множества источников.

Почти 10 лет спустя Эммануэль Макрон одержал неожиданную победу на президентских выборах во Франции, применив ту же тактику: он использовал алгоритмы для того, чтобы определить, какие регионы страны больше всего поддерживают перемены.

7. Полиция использует алгоритмы, чтобы вычислить, преступник вы или нет

Всем известно, что власти Китая внимательно следят за поведением своего населения размером в 1,3 млрд человек.

При этом китайские власти считают, что можно пойти дальше.

В 2015 году правительство объявило о создании системы наблюдения «Полицейское облако» — для прогноза преступлений. Этот алгоритм использует множество источников данных — от его личной информации до медицинской истории и даже информации о доставке пищи на дом.

Правозащитники обвиняют власти Китая в нарушении права граждан на частную жизнь и заявляют, что при помощи этой системы правительство лишь пытается подавить инакомыслие.

Но Китай — не единственная страна, где полиция прибегает к помощи алгоритмов. Во многих местах в США полиция уже более 10 лет прибегает к компьютерной обработке данных. Некоторые полицейские силы Великобритании еще в 2012 году начали применять алгоритмы криминальной картографии, предсказывающие, в каких именно местах возможна вспышка преступности.

Тем, кто знаком с фильмом «Особое мнение», легко понять, как работает эта компьютерная программа: данные о видах преступной деятельности, мест происшествий, дате и времени года указывают на районы, где, с большой вероятностью, будут совершены преступления.

Согласно исследованию Королевского объединенного института оборонных исследований, алгоритмы в 10 раз эффективнее для борьбы с преступлениями, которые могут произойти в будущем, чем просто бессистемное распределение полиции по городским районам.

Однако система PredPol, которую используют полиция Манчестера, вызвала разногласия в США.

Согласно американскому исследованию, этот алгоритм создает эффект, при котором полицейские направлялись в одни и те же районы, вне зависимости от истинного уровня преступности в этих местах.

8. Компьютер может отправить вас в тюрьму

Судьи как минимум в 10 штатах США определяют меру пресечения для преступников при помощи компьютерной программы COMPAS.

Этот алгоритм оценки риска якобы может предсказать вероятность того, совершит ли осужденный в будущем новое преступление.

Самый известный случай применения программы COMPAS произошел в 2013 году в штате Висконсин, где некий Эрик Лумис получил семилетний срок заключения за то, что скрывался от полиции и находился за рулем автомобиля без разрешения хозяина машины.

Во время слушаний о вынесении меры пресечения обвинения представило суду оценку степени риска, заключавшуюся в том, что Лумис, скорее всего, вновь вернется к преступной деятельности. Оценка была основана на интервью с осужденным, а также на результатах анализа COMPAS.

Его степень риска была оценена как высокая.

Адвокаты Лумиса подали апелляцию, выдвинув целый ряд аргументов, в том числе то, что COMPAS был разработан частной компанией, которая держит в секрете информацию о том, как именно это программа работает.

Его адвокаты также утверждали, что права Лумиса были нарушены, так как этот алгоритм принимает во внимание пол и расовую принадлежность подсудимого.

В 2016 году неправительственная организация ProPublic опубликовала исследование 10 тыс. подобных дел в штате Флорида, согласно которому подобные алгоритмы часто предсказывают, что чернокожие люди представляют больший риск, а белые — меньший. В рамках исследования рассматривались дела заключенных, вышедших на свободу двумя годами ранее.

Тем не менее Верховный суд США в 2017 году отказался пересмотреть дело Лумиса.

9. От ИИ зависят даже наши деньги

Забудьте кадры из кино, где растрепанные брокеры на бирже что-кричат, машут руками и получают инструкции по своим мобильным телефонам.

Сделки на бирже все чаще основаны на расчетах компьютеров, чьи алгоритмы могут работать со скоростью, которая и не приснится человеку. Купля и продажа акций и других финансовых документов может быть заключена за доли секунды.

Сторонники такого развития говорят, что, так как машины не подвержены эмоциям, они ведут себя более рационально.

Но в 2010 году многие стали ставить это утверждение под вопрос, после того как в результате неясного сбоя в компьютерной торговой системе произошел неожиданный спад, и финансовые рынки США потеряли триллион долларов.

В 2017 году банк JP Morgan опубликовал доклад, согласно которому на долю алгоритмов и автоматизированных компьютерных систем приходится почти 90% всего объема купли-продажи акций на биржах США.

Фернандо Дуарте, Би-би-си