Как использование искусственного интеллекта в системах, похожих на Google Glass, может как помочь, так и нанести ущерб нашей конфиденциальности

1. Около Глин Муди

/>

Помните Google Glass? Пять лет назад это был новый горячий аксессуар для тех, кто хотел жить на переднем крае технологий. Но как только Google Glasses начали использоваться публично, люди поняли, что представляют собой массовое вторжение в частную жизнь всех, кто находится рядом. Как говорит Википедия : «Гарнитура подверглась серьезной критике и принятию законодательных мер в связи с вопросами конфиденциальности и безопасности».

В 2015 году Google объявил, что прекратит продажу прототипа Google Glass «Glass Explorers». С тех пор идея устройства на голову с встроенной камерой от первого лица исчезла из поля зрения общественности, но идея, безусловно, не ушла. Многие могут удивиться, узнав, что Google тихо перезапустил Google Glass еще в 2017 году, на этот раз в форме Glass Enterprise edition , В это время, Грани сообщили :

Основные обновления между оригинальной версией Glass и корпоративной версией: улучшенная камера (с повышенным разрешением с 5 мегапикселей до 8), увеличенный срок службы батареи, более быстрый Wi-Fi и процессор, а также новый красный индикатор, который включается при записи видео. Электроника Glass также была сделана модульной в форме так называемого Glass Pod, который можно отсоединять и прикреплять к совместимым с Glass оправам, которые могут включать в себя такие вещи, как защитные очки и очки по рецепту.

Как следует из названия, версия Google Glass Enterprise предназначена непосредственно для бизнеса, а не для конечных пользователей. Это частично ответ на негативную реакцию людей на устройства, используемые в общественных местах. Но в статье 2017 года в Wired отмечается, что даже в более контролируемой рабочей среде Есть еще вопросы конфиденциальности , Одна компания, использующая Google Glasses, обсуждала идею установки «бара для ванной», где люди могли бы повесить свои гарнитуры, чтобы убедиться, что никто не снимает фотографии в неподходящем контексте. В офисах или на заводе Google Очки могут по-прежнему использоваться для записи других, говорящих или делающих вещи без их разрешения.

Недавний академический исследовательский проект занял интересный подход смягчить эту проблему. Немецкая команда во главе с Андреас Буллинг Профессор кафедры взаимодействия человека с компьютером и когнитивных систем в Университете Штутгарта и руководитель группы перцептивных пользовательских интерфейсов в Институте информатики Макса Планка:

Мы представляем PrivacEye, проверенную концепцию системы, которая обнаруживает конфиденциальные повседневные ситуации и автоматически включает и отключает камеру от первого лица с помощью механического затвора. Чтобы закрыть затвор, PrivacEye обнаруживает чувствительные ситуации из видео с камеры от первого лица, используя сквозную модель глубокого обучения. Чтобы открыть затвор без визуального ввода, PrivacEye использует отдельную меньшую камеру для глаз, чтобы обнаружить изменения в движениях глаз пользователя, чтобы измерить изменения в «уровне конфиденциальности» текущей ситуации.

Использование физического затвора таким способом довольно неуклюже, а необходимость во второй камере является дополнительным неудобством. Но что примечательно, так это то, что методы искусственного интеллекта применяются для автоматического определения того, может ли социальный контекст быть чувствительным к конфиденциальности. Если это так, камера от первого лица не может записывать. Чтобы установить, было ли это необходимо, исследователи использовали нейронную сеть, которая контролировала движения глаз человека, носящего камеру от первого лица. Одним из преимуществ этого подхода является то, что он не является навязчивым для других присутствующих людей, в отличие от альтернативных систем, которые смотрят на окружающую среду, чтобы оценить ситуации, связанные с конфиденциальностью.

Маркеры движений глаз включали фиксации, саккады (быстрые, одновременные движения обоих глаз между двумя или более точками фиксации в одном и том же направлении), мигает, диаметр зрачка и траектории сканирования. Основная идея состоит в том, чтобы использовать нейронную сеть для выявления корреляции между моделями движения глаз и уровнем чувствительности к частной жизни, который испытывает человек, носящий наушники с камерой. Хотя работа немецкой команды носит предварительный характер, они считают, что она имеет потенциал:

Мы уверены, что быстро растущие возможности современных глубоких нейронных сетей в скором времени позволят подтолкнуть наш проверенный концептуальный прототип к эффективному реальному приложению, обеспечивающему сохранение конфиденциальности в повседневном использовании «всегда включенных» интеллектуальных очков. в настоящее время.

Как и все инструменты, нейронные сети могут использоваться выгодно и вредно. Те же самые методы, используемые для анализа движений глаз в целях защиты конфиденциальности, также могут применяться с менее благоприятными результатами, как указал другой исследовательский проект, возглавляемый профессором Буллингом. Академическая статья написание работы пояснил:

Помимо того, что мы можем воспринимать наше окружение, движения глаз также являются окном в наш разум и богатым источником информации о том, кто мы, как мы себя чувствуем и что мы делаем. Здесь мы показываем, что движения глаз во время ежедневного задания предсказывают аспекты нашей личности. Мы отслеживали движения глаз 42 участников, в то время как они выполняли поручение в университетском кампусе, а затем оценивали их личностные качества, используя хорошо разработанные вопросники. Используя современный метод машинного обучения и богатый набор функций, кодирующих различные характеристики движения глаз, мы смогли надежно предсказать четыре черты личности Большой Пятерки (невротизм, экстраверсия, приятность, добросовестность), а также восприятие любопытство только от движений глаз.

Еще раз важно отметить, что это следует рассматривать как предварительное расследование, хотя и с многообещающим результатом. Необходимо сделать гораздо больше исследований, прежде чем можно будет окончательно заявить, что движения глаз подходят для прогнозирования личности людей. Возможно, наиболее важным результатом работы, проведенной Буллингом и его коллегами-исследователями, является не то, что они нашли, а то, как они нашли это.

В обоих случаях необработанные данные наблюдений - такие как фиксация взгляда, саккады и моргание глаз - были поданы в систему нейронной сети. Затем программное обеспечение ИИ искало скрытые паттерны в этих данных: в первом случае корреляция движений глаз с ситуациями, чувствительными к конфиденциальности, а во втором - корреляция движений глаз с чертами личности. Кажется, что интересные модели были найдены для обоих - хотя они должны быть подтверждены другими исследователями, и с более крупными тренировочными наборами.

Применение методов искусственного интеллекта, таких как нейронные сети, не ограничивается движениями глаз. Это может быть легко применено к любому богатому набору личных данных. Очевидные возможности включают такие вещи, как сердцебиение, проводимость кожи, тон голоса, движения рук и схемы ходьбы, не говоря уже о нефизических, таких как шаблоны онлайн-публикации или стили цифровой записи. Вполне может быть, что некоторые или все они подвержены анализу ИИ, чтобы выявить закономерности, о которых не знают те, кто генерирует данные. Еще раз, эта информация может использоваться для всех видов соответствующих целей - общественной безопасности, повышения эффективности, личных консультаций и т. Д. - или она может использоваться для новых видов невидимого наблюдения.

По мере того, как подобные Google Glass продукты становятся все более распространенными на предприятии, возможно, даже поползая обратно в общественное пространство, описанное выше исследование станет особенно уместным. Однако точно такие же виды анализа на основе ИИ могут и будут применяться к другим продуктам, которые собирают, возможно, случайно, личную информацию. Все более изощренный автоматизированный анализ в реальном времени неизбежно выявит аспекты нашей частной жизни в неожиданных и зачастую нежелательных деталях.

Избранные изображения Google X ,

Около Глин Муди

Глин Муди - независимый журналист, который пишет и говорит о конфиденциальности, наблюдении, цифровых правах, открытых источниках, авторском праве, патентах и ​​общих вопросах политики, касающихся цифровых технологий. Он начал освещать бизнес-использование Интернета в 1994 году и написал первую основную функцию о Linux, которая появилась в Wired в августе 1997 года. Его книга «Код повстанцев» - первая и единственная подробная история появления открытого кода. в то время как его последующая работа «Цифровой код жизни» исследует биоинформатику - пересечение вычислений с геномикой.