Шумные разбирательства, связанные с доступом посторонних к данным, собираемым разными высокотехнологичными побрякушками, происходят теперь довольно часто. Особенно этим грешат разнообразные компоненты «умного дома». В прошлом месяце произошел занятный скандал, связанный с очередным таким устройством: на этот раз, камерой слежения Ring от Amazon.

Amazon Ring - человек за ширмой искусственного интеллекта

Компания продает линейку миниатюрных камер, которые предполагается прикреплять у дверных звонков, в гаражах и на книжных полках, не только в качестве возможности следить за своим домом в отъезде, но и как способ создания некоего частного соседского дозора при помощи скопления камер с пересекающимися углами обзора, которое якобы должно помочь полиции обнаруживать и задерживать грабителей и прочих преступников.

Несмотря на то, что заявленной миссией разработчиков Ring было обеспечение безопасности, то, как они обошлись с записями с камер своих клиентов оказалось весьма далеким от какой-либо безопасности. С 2016 года Ring предоставлял своей команде разработчиков, находящейся на Украине, почти неограниченный доступ к хранящимся в облачном хранилище Amazon записям с каждой камеры Ring во всем мире.

Более того, на момент предоставления доступа украинцам, видеофайлы не были зашифрованы, поскольку руководство компании посчитало, что «шифрование понизит стоимость компании» из-за расходов на его внедрение и потерянных прибылей, вызванных ограничением доступа. Украинской команде также дали доступ к базе данных, которая позволяла связать каждое отдельное видео с соответствующим пользователем Ring.

Одновременно с этим, компания без особой на то надобности предоставляла руководству и инженерам из США привилегированный доступ к порталу технической поддержки. Это позволяло им получать круглосуточный видеопоток с камер некоторых клиентов, вне зависимости от того, было это необходимым для их работы или нет. Человеку, у которого был этот уровень доступа - сравнимый с печально известным «режимом бога» на картах Uber, позволявшим отслеживать движение всех пассажиров, - было достаточно адреса электронной почты клиента, чтобы посмотреть видео с камер из его дома.

Интересно и то, что решение предоставить неограниченный доступ сотрудникам на Украине было вызвано недостатками программ по распознаванию лиц и объектов, которыми пользовалась компания. Ring продвигает свою продукцию как некую распределенную сеть видеонаблюдения для жилых кварталов, некий автоматический аналог добровольной дружины.

Вот так на самом деле выглядит обучение ИИ

Эта задача требует от программного обеспечения большего, чем просто транслировать видео - она требует понимать, что на видео происходит, например, уметь отличать возвращающегося домой мужа от грабителя, собаки или дерева. Пользователи Ring постоянно жаловались техподдержке на то, что система поднимает тревогу в тех случаях, когда ничего предосудительного не происходит.

Хотя технологии компьютерного зрения развиваются в последние годы довольно быстро, создать с нуля программу, которая будет распознавать объекты по-прежнему требует много денег и времени. Чтобы обойти эту проблему, компания Ring использовала украинских «операторов по работе с данными» в качестве костыля, подпирающего свои не слишком впечатляющие разработки. Эти люди должны были вручную выделять и помечать объекты на видео, чтобы обучить программное обеспечение распознавать их в будущем. Судя по всему, этот процесс до сих пор идет, поскольку украинский филиал Ring Labs все еще набирает людей на эти должности. От претендентов требуется быстро и четко распознавать и помечать объекты на видео и быть готовыми к долгому, монотонному труду, задачи которого быстро меняются.

Таким образом, за всеми маркетологическими россказнями о самообучающемся искусственном интеллекте и распределенной системе слежения скрывается команда информационных батраков, день за днем выделяющих рамочками лица незнакомцев, чтобы придать некое подобие человеческой смекалки плохо обучающемуся алгоритму. Что закономерно, потому что бизнесу не интересны настоящие инновации и прогресс, если можно обойтись бесправной и дешёвой рабочей силой.

В заключение, хочется обратить внимание на то, что безопасность имущества и жизни обеспеченных жителей богатых стран от притязаний их менее удачливых сограждан осуществляется силами таких же не слишком удачливых людей, но из стран победнее. Система в очередной раз заставляет бедных из разных стран бороться за интересы богатых, в данном случае, к счастью, только лишь в заочной форме.

Опубликовано: 2019.02.22
Мировая несправедливость и борьба с нею
Существование в нашем обществе богатых и сверхбогатых ни для кого не секрет. Также для многих не является секретом и то, что их богатство есть результат не столько «выдающихся личных качеств», которых иногда нет вовсе, сколько труда множества других людей, обеспеченных гораздо хуже, а зачастую и вовсе откровенно нищих. Разумеется, такая ситуация вызывает ощущение глубокой несправедливости у большинства людей, живущих своим трудом, а у некоторых даже желание хоть что-нибудь с этим сделать. В этом материале мы рассмотрим масштаб этой проблемы и поговорим о том, что и почему нужно делать для её решения, а что не нужно.
2019.09.04
Чем плох безусловный базовый доход
Вызывающий рост социального расслоения, наблюдаемый сегодня, делает все более популярной идею "безусловного базового дохода", предлагаемую "заботящимися о народе" западными политиками, общественными деятелями и прочей интеллектуальной обслугой современного порядка. Несмотря на внешнюю привлекательность этой идеи, она является враждебной как для борьбы за права угнетённых слоёв общества в существующей системе, так и для борьбы за более справедливое общественное устройство в целом. В этом материале мы разбираемся, почему это так и кому это нужно.
2019.07.29
Гигономика 2035
Мы в очередной раз обращаем внимание на всё более и более мрачные прогнозы будущего, ждущего подавляющее большинство людей в случае сохранения существующей политической и экономической системы. И раздаются эти прогнозы уже вовсе не из уст одиночек, а выходят из-под пера работников серьёзных государственных организаций в "развитых" странах.
2019.07.21
IPBES: Сеть жизни планеты под угрозой
Тревожными научными докладами о надвигающейся экологической катастрофе, подписанными сотнями ученых со всего света, уже сложно удивить. Похожие исследования, доклады и обращения выпускались и в прошлом году, и в позапрошлом. Не обошёлся без подобного доклада и этот год.
2019.05.21
Лабораторные крысы
В нашем материале о производительности труда мы уже упоминали так называемую "новую экономику" и то, что весь этот "динамичный, гибкий и свободный" цифровой мир не сулит обычному человеку ничего хорошего. Весьма кстати нам на глаза попалась развернутая рецензия на книгу, которая дотошно и без прикрас описывает мир современных стартапов и его практики трудоустройства и работы. Поэтому, мы решили привести здесь большую часть этой рецензии, снабдив ее собственными комментариями.
2019.04.23
Настройка Tor Browser
Переходим к практической части темы сохранения анонимности в интернете - установке, настройке и азам грамотного использования Tor Browser, являющегося сегодня наиболее популярным решением в этой области. Статья окажется полезной тем, кому действительно важно сохранение анонимности, а не только обход блокировок Роскомнадзора.
2019.04.07
Противники анонимности и их методы
Аноним должен хорошо понимать, кто ему противостоит, какие методы против него могут быть использованы, и чем это может грозить. В этом материале мы разбираемся, кто является основными противниками в деле сохранения анонимности в сети - кому и чем она мешает, и откуда они получают данные о нас.
2019.04.07
2019.09.14 Человеческие винтики ИИ
Мы уже затрагивали тему разрушения привычного стабильного трудоустройства глобальным рынком, которое иногда называют гигономикой, равно как и то, что за вывеской "искусственный интеллект" часто скрывается каторжный труд малооплачиваемых работников из стран победнее, выполняющих рутинные операции, пока еще недоступные машине. В последнее время нам на глаза попалось сразу несколько новостей по этой тематике, одна из которых объединяет темы интеллектуальных чернорабочих и непостоянного трудоустройства.
2019.08.13 Исчерпание ресурсов и истощение почв
За последнее время вышло в свет множество сообщений и докладов, касающихся глобального экологического кризиса, материалы о котором мы публиковали неоднократно. Мы решили собрать некоторые из них в подборку, которая наглядно демонстрирует всю серьезность стоящих перед человечеством проблем в области окружающей среды и необходимость неотложного их решения.
2019.08.05 Прорыва дамбы в Бразилии можно было избежать
Мы уже рассказывали о том, как рыночная система убивает людей во имя прибыли, на примере двух авиакатастроф с участием лайнера Boeing 737 MAX. Случай с прорывом дамбы в Бразилии в январе 2019 года, погубившим около трех сотен человек, тоже принадлежит к этой категории. Выяснилось, что немецкая компания, проводившая обследование этой дамбы признала безопасным заведомо проблемное сооружение, опасаясь за судьбу своих многомиллионных контрактов с владельцами шахты.
2019.06.16 Москва и Россия
Ни для кого не секрет, что положение в Москве и прочих регионах России существенно разнится. Хоть это и не способно уже никого всерьез удивить, оставить целиком равнодушным этот факт тоже не может, особенно в последние годы, когда благосостояние населения РФ в среднем снижается. Кто-то считает, что столь привилегированное положение столицы нормально и неизбежно, но мы придерживаемся другого взгляда на природу этой проблемы и ее возможное решение.
2019.04.13 Роскомнадзор для Великобритании
Когда российские власти вводили топорную цензуру в сети посредством Роскомнадзора, прикрываясь темой защиты детей от вредной информации, многие либеральные публицисты утверждали, что такое может быть «только у нас». Теперь оказалось, что в этом сомнительном начинании Россия лишь несколько опередила «свободные страны», которые принято ставить ей в пример - в данном случае, Великобританию.