Шумные разбирательства, связанные с доступом посторонних к данным, собираемым разными высокотехнологичными побрякушками, происходят теперь довольно часто. Особенно этим грешат разнообразные компоненты «умного дома». В прошлом месяце произошел занятный скандал, связанный с очередным таким устройством: на этот раз, камерой слежения Ring от Amazon.

Amazon Ring - человек за ширмой искусственного интеллекта

Компания продает линейку миниатюрных камер, которые предполагается прикреплять у дверных звонков, в гаражах и на книжных полках, не только в качестве возможности следить за своим домом в отъезде, но и как способ создания некоего частного соседского дозора при помощи скопления камер с пересекающимися углами обзора, которое якобы должно помочь полиции обнаруживать и задерживать грабителей и прочих преступников.

Несмотря на то, что заявленной миссией разработчиков Ring было обеспечение безопасности, то, как они обошлись с записями с камер своих клиентов оказалось весьма далеким от какой-либо безопасности. С 2016 года Ring предоставлял своей команде разработчиков, находящейся на Украине, почти неограниченный доступ к хранящимся в облачном хранилище Amazon записям с каждой камеры Ring во всем мире.

Более того, на момент предоставления доступа украинцам, видеофайлы не были зашифрованы, поскольку руководство компании посчитало, что «шифрование понизит стоимость компании» из-за расходов на его внедрение и потерянных прибылей, вызванных ограничением доступа. Украинской команде также дали доступ к базе данных, которая позволяла связать каждое отдельное видео с соответствующим пользователем Ring.

Одновременно с этим, компания без особой на то надобности предоставляла руководству и инженерам из США привилегированный доступ к порталу технической поддержки. Это позволяло им получать круглосуточный видеопоток с камер некоторых клиентов, вне зависимости от того, было это необходимым для их работы или нет. Человеку, у которого был этот уровень доступа - сравнимый с печально известным «режимом бога» на картах Uber, позволявшим отслеживать движение всех пассажиров, - было достаточно адреса электронной почты клиента, чтобы посмотреть видео с камер из его дома.

Интересно и то, что решение предоставить неограниченный доступ сотрудникам на Украине было вызвано недостатками программ по распознаванию лиц и объектов, которыми пользовалась компания. Ring продвигает свою продукцию как некую распределенную сеть видеонаблюдения для жилых кварталов, некий автоматический аналог добровольной дружины.

Вот так на самом деле выглядит обучение ИИ

Эта задача требует от программного обеспечения большего, чем просто транслировать видео - она требует понимать, что на видео происходит, например, уметь отличать возвращающегося домой мужа от грабителя, собаки или дерева. Пользователи Ring постоянно жаловались техподдержке на то, что система поднимает тревогу в тех случаях, когда ничего предосудительного не происходит.

Хотя технологии компьютерного зрения развиваются в последние годы довольно быстро, создать с нуля программу, которая будет распознавать объекты по-прежнему требует много денег и времени. Чтобы обойти эту проблему, компания Ring использовала украинских «операторов по работе с данными» в качестве костыля, подпирающего свои не слишком впечатляющие разработки. Эти люди должны были вручную выделять и помечать объекты на видео, чтобы обучить программное обеспечение распознавать их в будущем. Судя по всему, этот процесс до сих пор идет, поскольку украинский филиал Ring Labs все еще набирает людей на эти должности. От претендентов требуется быстро и четко распознавать и помечать объекты на видео и быть готовыми к долгому, монотонному труду, задачи которого быстро меняются.

Таким образом, за всеми маркетологическими россказнями о самообучающемся искусственном интеллекте и распределенной системе слежения скрывается команда информационных батраков, день за днем выделяющих рамочками лица незнакомцев, чтобы придать некое подобие человеческой смекалки плохо обучающемуся алгоритму. Что закономерно, потому что бизнесу не интересны настоящие инновации и прогресс, если можно обойтись бесправной и дешёвой рабочей силой.

В заключение, хочется обратить внимание на то, что безопасность имущества и жизни обеспеченных жителей богатых стран от притязаний их менее удачливых сограждан осуществляется силами таких же не слишком удачливых людей, но из стран победнее. Система в очередной раз заставляет бедных из разных стран бороться за интересы богатых, в данном случае, к счастью, только лишь в заочной форме.

Опубликовано: 2019.02.22
Производительность труда и социальное обеспечение
После того, как летом 2018 года российское правительство объявило о предстоящем повышении пенсионного возраста, страну захлестнула волна справедливого возмущения очередным сокращением социальных обязательств. Мы решили подробнее рассмотреть эту тему, чтобы ответить на вопросы - что именно мешает современному обществу обеспечивать достойную старость людям, почему новые технологии, повышающие производительность труда, не делают жизнь большинства лучше, а лишь усиливают потогонку, и, наконец, как должно выглядеть социальное обеспечение в обществе будущего?
2019.02.19
Богатые нас не спасут
Средства массовой информации любят освещать масштабное жертвование средств богатыми на благотворительные цели. Но в последнее время даже журналистика "развитых" стран начинает задаваться вопросом, действительно ли подачки миллиардеров способны решить фундаментальные проблемы современного общества. Мы собрали ряд таких заметок, в том числе весьма интересную рецензию известного экономиста Джозефа Стиглица на недавно вышедшую книгу по этой тематике, перевели их и снабдили собственным комментарием.
2018.12.02
Трудящееся большинство
Мы часто говорим, что выступаем от имени трудящегося большинства людей. Однако, послушав современные СМИ и разнообразных публицистов, вполне можно усомниться, существует ли это большинство вообще. Все это подтолкнуло нас выяснить, действительно ли мы, живущие своим трудом, создающие и поддерживающие в рабочем состоянии все блага общества, составляем большинство работающего населения России, и вообще - сколько нас, таких, в ней?
2018.11.24
Власть и работа
Наша жизнь подчинена жёсткому ритму, принуждающему крутиться, как белка в колесе, чтобы просто выжить. Мы часто пеняем на плохие власти, которые не думают о народе, но в них ли дело? Сегодня мы поговорим о том, кто на самом деле заставляет нас так жить, какие цели преследует, и как это связано с нашей работой.
2018.09.07
Капитализм и разрушение планеты
К 50-летнему юбилею Римского клуба его сопредседатели Эрнст Вайцзеккер и Андерс Вийкман вместе с 35 другими специалистами выпустили большой доклад, посвященный текущему кризисному состоянию нашей планеты и способам преодоления этого кризиса. Данный доклад привлек наше внимание тем, что его авторы открыто и прямо называют современную социально-экономическую систему основной причиной продолжающегося разрушения человеческой среды обитания, а также недостаточности предпринимаемых по этому поводу мер. Поэтому мы решили перевести несколько отрывков из этого доклада, снабдив их своими комментариями.
2018.07.16
Второе предупреждение ученых человечеству
В конце прошлого года более пятнадцати тысяч учёных поставили свои подписи под вторым по счету предупреждением человечеству о грозящем ему глобальном экологическом кризисе, подкрепленным современными данными. Представляем наш перевод данного публичного обращения, снабженный некоторыми собственными дополнениями и комментариями по этому вопросу.
2018.02.21
Кому выгодно?
Конец «социального государства» Великобритании и почему Лондон - не Британия, как можно дважды заработать на смерти 71 человека, о роботах управляющих людьми во имя сверхдоходов Джефа Безоса, и о том как высшая власть России спешит спасать «честные заработки» российских олигархов.
2018.01.28
2019.03.17 Миллиардеры богатеют, остальные беднеют
Не так давно нам на глаза попалась новость о еще одном исследовании, которое показывает, что, вопреки всем словам о социальном прогрессе и борьбе с бедностью, регулярно мелькающим в СМИ, в реальности всё обстоит ровным счётом наоборот.
2019.03.10 Снижение биоразнообразия - угроза продовольствию
Снижение разнообразия биологических видов в результате разрушения среды их обитания и перепромысла - одна из составляющих текущего экологического кризиса. Однако, не всегда упоминается, чем именно это грозит человеку.
2019.02.27 Все для вашего удобства и безопасности
Еще немного новостей из мира тотальной электронной слежки. Нет, речь идет не о "1984" Оруэлла или "Дивном новом мире" Хаксли - просто очередные известия о Facebook и Google в стиле "никогда такого не было, и вот опять".
2019.02.08 Классовая исповедь Германа Клименко
Успешный интернет-делец не стесняясь делится мудростью с подельниками по классу.