Шумные разбирательства, связанные с доступом посторонних к данным, собираемым разными высокотехнологичными побрякушками, происходят теперь довольно часто. Особенно этим грешат разнообразные компоненты «умного дома». В прошлом месяце произошел занятный скандал, связанный с очередным таким устройством: на этот раз, камерой слежения Ring от Amazon.

Amazon Ring - человек за ширмой искусственного интеллекта

Компания продает линейку миниатюрных камер, которые предполагается прикреплять у дверных звонков, в гаражах и на книжных полках, не только в качестве возможности следить за своим домом в отъезде, но и как способ создания некоего частного соседского дозора при помощи скопления камер с пересекающимися углами обзора, которое якобы должно помочь полиции обнаруживать и задерживать грабителей и прочих преступников.

Несмотря на то, что заявленной миссией разработчиков Ring было обеспечение безопасности, то, как они обошлись с записями с камер своих клиентов оказалось весьма далеким от какой-либо безопасности. С 2016 года Ring предоставлял своей команде разработчиков, находящейся на Украине, почти неограниченный доступ к хранящимся в облачном хранилище Amazon записям с каждой камеры Ring во всем мире.

Более того, на момент предоставления доступа украинцам, видеофайлы не были зашифрованы, поскольку руководство компании посчитало, что «шифрование понизит стоимость компании» из-за расходов на его внедрение и потерянных прибылей, вызванных ограничением доступа. Украинской команде также дали доступ к базе данных, которая позволяла связать каждое отдельное видео с соответствующим пользователем Ring.

Одновременно с этим, компания без особой на то надобности предоставляла руководству и инженерам из США привилегированный доступ к порталу технической поддержки. Это позволяло им получать круглосуточный видеопоток с камер некоторых клиентов, вне зависимости от того, было это необходимым для их работы или нет. Человеку, у которого был этот уровень доступа - сравнимый с печально известным «режимом бога» на картах Uber, позволявшим отслеживать движение всех пассажиров, - было достаточно адреса электронной почты клиента, чтобы посмотреть видео с камер из его дома.

Интересно и то, что решение предоставить неограниченный доступ сотрудникам на Украине было вызвано недостатками программ по распознаванию лиц и объектов, которыми пользовалась компания. Ring продвигает свою продукцию как некую распределенную сеть видеонаблюдения для жилых кварталов, некий автоматический аналог добровольной дружины.

Вот так на самом деле выглядит обучение ИИ

Эта задача требует от программного обеспечения большего, чем просто транслировать видео - она требует понимать, что на видео происходит, например, уметь отличать возвращающегося домой мужа от грабителя, собаки или дерева. Пользователи Ring постоянно жаловались техподдержке на то, что система поднимает тревогу в тех случаях, когда ничего предосудительного не происходит.

Хотя технологии компьютерного зрения развиваются в последние годы довольно быстро, создать с нуля программу, которая будет распознавать объекты по-прежнему требует много денег и времени. Чтобы обойти эту проблему, компания Ring использовала украинских «операторов по работе с данными» в качестве костыля, подпирающего свои не слишком впечатляющие разработки. Эти люди должны были вручную выделять и помечать объекты на видео, чтобы обучить программное обеспечение распознавать их в будущем. Судя по всему, этот процесс до сих пор идет, поскольку украинский филиал Ring Labs все еще набирает людей на эти должности. От претендентов требуется быстро и четко распознавать и помечать объекты на видео и быть готовыми к долгому, монотонному труду, задачи которого быстро меняются.

Таким образом, за всеми маркетологическими россказнями о самообучающемся искусственном интеллекте и распределенной системе слежения скрывается команда информационных батраков, день за днем выделяющих рамочками лица незнакомцев, чтобы придать некое подобие человеческой смекалки плохо обучающемуся алгоритму. Что закономерно, потому что бизнесу не интересны настоящие инновации и прогресс, если можно обойтись бесправной и дешёвой рабочей силой.

В заключение, хочется обратить внимание на то, что безопасность имущества и жизни обеспеченных жителей богатых стран от притязаний их менее удачливых сограждан осуществляется силами таких же не слишком удачливых людей, но из стран победнее. Система в очередной раз заставляет бедных из разных стран бороться за интересы богатых, в данном случае, к счастью, только лишь в заочной форме.

Опубликовано: 2019.02.22
VPS и VPN для обхода блокировки Tor
Дополнительные методы обхода блокировки Tor и других сервисов российской интернет-цензурой.
2023.01.29
Обход блокировки Tor в России
Как вопреки современной российской интернет-цензуре можно скачать Tor Browser и обойти блокировку Tor сети.
2023.01.29
Tor Browser - установка и запуск
Подробно рассматриваем как правильно установить Tor Browser, дополнение статьи по его настройке для повышения анонимности.
2023.01.29
Tor Browser - настройка на анонимность
Настраиваем Tor Browser для повышения анонимности при работе в интернете.
2023.01.29
Обход блокировки Tor Project. Версия 2021
К концу 2021 года в России начали блокировки Tor Project. Рассматриваем возможные способы решения этой проблемы.
2021.12.22
Автоматизация и будущее работы
Обзор книги "Автоматизация и будущее работы". Недавно нам попалась книга западного экономиста и левого публициста Аарона Бенанава, выпущенная уже в самый разгар пандемии, которая во многом перекликается с нашими собственными соображениями насчет производительности труда, базового безусловного дохода и автоматизации. Она также содержит некоторые новые для нас и интересные, а главное, подкрепленные фактами и статистической информацией мысли и выводы.
2020.12.17
«Офисный планктон» глазами рабочего
Взгляды современного рабочего на тех, кого принято называть "офисным планктоном". Несмотря на некоторую неформатность изложения мысли автора, мы находим этот материал очень познавательным и полезным, т.к. в отличии от большинства офисно-диванных мыслителей, автор не только показывает наличие неприязни между офисными и производственными работниками, но и старается вскрыть её причины, объяснить суть экономически уязвимого положения "офисного планктона", и главное - объясняет, как можно сделать иначе.
2020.05.01
2020.10.23 Новости Старшего Брата
Пандемия COVID-19 с ее всевозможными ограничениями со стороны властей и брожениями умов со стороны населения стала настоящим фестивалем разнообразных технологических средств отслеживания перемещения, общения и прочих сторон жизни людей. Но совсем зацикливаться на пандемии и порожденных ею чрезвычайных мерах не стоит. Бизнес и так вполне счастлив последить за клиентами и сотрудниками, а правительства - побороться с вредными для статус кво идеями.
2020.05.27 COVID-19 вскрывает правду
В конце марта мы опубликовали материал посвящённый предпосылкам пандемии COVID-19. В те дни болезнь только наносила свои первые удары по мировой экономике и больше пугала самим фактом своего существования. Сегодня она стала почти обыденностью, на первые места постепенно выходят последствия запущенного ею кризиса, доходчиво объясняющие кому и какое будущее на самом деле подготовила рыночная экономика.
2020.03.24 Обновление Tor Browser 9.0.7
23 марта 2020 года Tor Project выпустили обновление Tor Browser до версии 9.0.7, устраняющее проблему безопасности в маршрутизаторе Tor, и значительно меняющее поведение браузера при выборе наиболее безопасного (Safest) уровня настроек.
2020.02.01 ProtonMail vs Роскомнадзор
Среди людей, интересующихся вопросами анонимной работы в интернете, достаточно широко известен почтовый сервис ProtonMail, позиционирующий себя как надёжная с точки зрения анонимности электронная почта, защищающая своих пользователей строгими швейцарскими законами в отношении личной информации. На его примере мы и рассмотрим, можно ли верить словам подобных сервисов о том, что они не выдают данные своих пользователей.
2020.01.25 Капитализм надоел большинству
Большинство жителей мира разочаровались в капитализме и либеральной демократии, большинство россиян хотят решительных перемен, но не по либерально-рыночному образцу, вопиющее глобальное неравенство продолжает расти, а крупный бизнес пребывает в ожидании нового экономического кризиса. Всё это - не фантазии радикальных мечтателей или революционная пропаганда, а реальные результаты недавних исследований, проведенных официальными учреждениями и фондами. Мы свели эти данные в краткий обзор настроений в мире.