Улыбнись перед камерой — плюсы и минусы технологии распознавания лиц
Технология распознавания лиц укрепляется во многих отраслях и в ближайшие годы может затронуть нас всех. Но где мы увидим преимущества и на какие проблемы стоит обратить внимание с правовой и этической точек зрения?
Положительные стороны
Искусственный интеллект и распознавание лиц означают, что фотография может быть быстро отсканирована против тысяч других людей на предмет возможного совпадения, полученного из любого места, от пограничных контрольно-пропускных пунктов до расследования случаев торговли людьми. Это также может предсказать изменение внешнего вида с течением времени. Это уже привело к ошеломляющему эффекту в Индии, где 3000 пропавших детей были обнаружены всего за четыре дня после сравнения предоставленных родителями фотографий с фотографиями, сделанными в центрах помощи детям по всей стране.
Многие генетические нарушения сопровождаются тонкими чертами лица, и алгоритмы начинают идентифицировать их с помощью простого сканирования лица. Более сложным испытаниям даже удалось определить конкретную генетическую мутацию, вызвавшую определенный синдром. Надежда состоит в том, что эта технология в конечном счете конкурирует с традиционным генетическим тестированием с точки зрения точности, превосходя его и в скорости и в стоимости.
Интернет вещей
Интернет вещей, все более распространенная фраза для объяснения расширения подключения к Интернету для повседневных объектов, становится все более доступной в наших домах, от дверных звонков и камер безопасности до холодильников и термостатов. По сути, обычные бытовые устройства теперь могут быть «умными».
Интернет вещей может в некотором смысле сделать нашу жизнь проще и удобнее, но вместе с этим появляется возможность создавать, хранить и обмениваться новыми данными, что делает его уязвимым для взлома. С историями о системах безопасности, скомпрометированных лампочками, о кофейных автоматах, используемых для заражения компьютеров вымогателями, эти возможности могут показаться абсурдными, но следует ли нам относиться к ним серьезно? Некоторые устройства, такие, как интеллектуальные дверные звонки, используют технологию распознавания лиц, и существует множество проблем, связанных с ее использованием и применением.
Технология распознавания лиц — проблемы
Использование технологии распознавания лиц поднимает вопросы об эффективности, предвзятости, воздействии на права человека и законодательной основе. Технология распознавания лиц обладает способностью милитаризовать полицейскую деятельность в общественных местах. Она использовалась в других странах для нацеливания на уязвимые общины и ограничения законного и незаконного протеста.
Ученные подчеркивают, что массовое наблюдение за невинными людьми публично нарушает три статьи Конвенции о правах человека:
- статья 10: «Право на свободу выражения мнений»;
- статья 11: «Право на свободу собраний и ассоциаций»;
- статья 8: «Право на частную жизнь».
Вызывает серьезное беспокойство тот факт, что неизбирательное использование технологии распознавания лиц в общественной сфере подавляет нонконформистские способы проявления и выражения. Технологии распознавания лиц и их использование нормализовали повсеместную практику наблюдения в общественных местах и, тем самым, подорвали несколько неотъемлемых прав.
Программное обеспечение для распознавания лиц начинает использовать полиция по всей Великобритании, однако количество ложных срабатываний остается высоким во многих случаях использования. Кроме того, человеческие проверки и противовесы встречаются не так часто, когда компьютерное принятие решений принимается за точное, с ограниченным или отсутствующим человеческим контролем.
Программное обеспечение для распознавания лиц учитывает данные, с которыми оно обучается, и из-за профилей людей, разрабатывающих эту технологию, существует тенденция к использованию мужчин-европеоидов. Это приводит к низким показателям идентификации женщин и лиц с более темной кожей, при этом одно исследование неправильно идентифицирует женщин с более темной кожей у мужчин в 31% случаев.
В марте 2017 года Управление по подотчетности правительства США обнаружило, что эти технологии на 15% менее точны для женщин и этнических меньшинств. Когда эта технология используется в сценариях с высокими ставками, такими как выявление подозреваемых в совершении преступления, нетрудно понять, как это могло бы увековечить существующее расовое предубеждение в рамках закона.
В то время как биометрическая идентификация требует от вас сознательного представления
В феврале 2017 года правительство предоставило неосужденным лицам право просить полицию удалить их изображения из базы данных изображений лиц, находящихся под стражей. Год спустя было подано 67 заявок на удаление, из которых только 34 были успешными (расследование Ассоциации прессы, данные 37 из 43 полицейских сил на английском языке).
Открытый характер такого рода технологий имеет последствия, выходящие далеко за рамки правоохранительных и других регулируемых органов. Нарушение конфиденциальности может иметь серьезные последствия, когда оно совершается компанией, но оно может иметь разрушительные последствия, если оно используется отдельными лицами для совершения преступлений и преследования. Еще неизвестно, смогут ли законодатели во всем мире идти в ногу со скоростью развития инноваций, таких как внедряет Amazon и другие крупные разработчики продуктов.
Любые технологии распознавания лиц, разработанные для использования государственными органами или государственными учреждениями, должны быть открытыми, прозрачными и подотчетными. Жизненно важно, чтобы этапы проектирования, разработки и развертывания в области технологических инноваций и адаптации были открыты как для внутренних, так и для внешних специалистов по оценке, чтобы они могли самостоятельно подтверждать результаты.
Технология должна быть развернута только тогда, когда она:
- соответствует законам о защите данных и правам человека, этическим нормам и административному праву,
- напрямую связана с давней и этической политикой,
- работает в соответствии с первоначальной постановкой задачи.
