Право на свободу мысли в XXI веке: угрозы со стороны новых технологий

В современном цифровом обществе люди просто фантонируют своими личными данными. Долгое время они терялись, безвозвратно уходили, как вода в песок или смывались потоками времени. Теперь же новые технологии захватывают и сохраняют их любое долгое время, а при желании могут хранить их попросту бесконечно. Технологические бегемоты, такие как Facebook и Google, обладают беспрецедентно огромным массивом пользовательских данных. Аналитические компании хранят и используют в своих целях тысячи данных о миллионах и миллионах людей со всего мира. А органы национальной безопасности могут получить доступ к еще большему объему таких данных.

И главное, что эти данные теперь можно анализировать, используя передовые алгоритмы машинного обучения, чтобы выявлять ненаблюдаемые внутренние состояния людей. Это можно назвать «поведенческим чтением». Наблюдаемое поведение людей, включая выражение лица, действия, их имущество, покупки, музыкальные предпочтения, посещенные веб-сайты, слова, используемые в сообщениях Facebook, и «лайки», зарегистрированные в социальных сетях, можно использовать для того, чтобы сделать выводы об их ненаблюдаемом внутреннем мире.

Например, нейронные сети с глубоким обучением в настоящее время лучше распознают сексуальность людей по их лицам, чем другие люди, создавая угрозу конфиденциальности и безопасности геев и женщин. Не так давно пользователи социальных сетей были шокированы сообщениями о том, что их подробную личную информацию можно использовать для того, чтобы предсказать поведение, исходя из того, какие страницы в Facebook им "понравились«.

Все это уже используется для различного рода финансовых и политических целей. Существующую на данный момент система капиталистических отношений утверждает, что человеческий опыт является бесплатным сырьем, которое можно использовать для выявления мыслей, чувств, намерений и интересов людей, прогнозирования их поведения и последующей монетизации, продавая такие прогнозы рекламодателям.

Микротаргетирование использует личные данные, собранные о людях, чтобы нацелить их на желаемую политическую рекламу, которая, теоретически, должна быть максимально эффективной. Это было в основе скандала связанного с Cambridge Analytica. Хотя эффект микротаргетирования при изменении политических взглядов, вероятно, невелик, он, возможно, будет оказывать все большее влияние на явку избирателей. И в некоторых отдельных ситуациях, прежде всего в политике, это может иметь решающее значение.

Поэтому использование технологий по чтению нашего поведения представляет собой потенциальную угрозу для (СВМ) в отношении простых людей, пользователей цифровых технологий. И уже сегодня нам необходимо решить, как существующие на сегодняшний день технологии должны использовать данные других людей.

Чтение мозга

Несмотря на то, что необходимо проявлять значительную осторожность, чтобы не преувеличить способность нейробиологии расшифровывать мысли используя считывание мозговой активности людей («чтение мозга»), следует признать, что в этой области уже достигнут значительный прогресс. В то время как в некоторых работах изучалось, как можно предсказать политические позиции на основе структуры мозга, большинство исследований было сосредоточено на расшифровке конкретных мыслей и восприятий.

Ранние исследования были в состоянии предсказать с высокой степенью точности, на какой тип предварительно определенного объекта (лицо, дом, кошка и т. д.) человек смотрел, основываясь на его нервной активности. А теперь технологии могут использовать нейронную активность людей, чтобы предсказать, какие изображения люди просматривают. Данные визуализации мозга также можно использовать для расшифровки того, что люди слышат, и для прогнозирования объектов, о которых люди мечтали.

С некоторым успехом эти исследования также пытались определить вербальные мысли людей из их нервной системы и активности мускулатуры горла. Нейронная активность, когда люди имитируют речь, теперь может быть непосредственно преобразована в узнаваемую речь. Основным достижением стала способность декодировать мысли людей, которых система декодирования ранее не обучалась распознавать. Такие подходы работают по принципу, что слова представлены в мозгу как семантические векторы. То есть любое слово может быть представлено тем, насколько оно связано с конечным числом специфических признаков. Каждое слово в базовом словаре из 30000 слов может быть представлено уникальным шаблоном оценок по этим векторам. Когда вы знаете нейронную активность, связанную с каждой из этих функций, вы можете потенциально расшифровать любое слово, которое кто-то думает.

Уже возможно понять основные намерения людей. Можно даже предсказать, что будут делать участники (для самых основных задач), прежде чем они сами это осознают. К счастью возможность использования этой информации для прогнозирования намерений людей в режиме реального времени все еще ограничена. Например, способность прогнозировать намерения людей по активности их мозга, когда они играют в компьютерную игру-шутер от первого лица, в настоящее время ограничена предсказанием предполагаемых движений.

Тем не менее государственное финансирование на подобного рода исследования в Соединенных Штатах поступило от армии, ВВС, разведки и Агентства по перспективным исследованиям в области обороны (DARPA). А кроме того поступают и значительные частные инвестиции. Ежегодные расходы на нейротехнологии для коммерческой отрасли уже оцениваются в 100 миллионов долларов США и продолжают расти. Facebook объявил о планах создания компьютерного интерфейса для мозга, который предназначен для расшифровки мыслей пользователей и передачи их в Facebook и активно финансирует исследования в этой области. Microsoft запатентовала технологию чтения мозга. А Илон Маск и его компания Neuralink уже презентовали интерфейс компьютер-мозг. Прогресс в этой области может быть настолько быстрым, что уже имеет глубокие последствия для (СВМ) и представляет реальную угрозу.

Так группа Morningside (совместная работа нейробиологов, нейротехнологов, специалистов по этике и инженеров машинного интеллекта) недавно отметила, что «технологические разработки означают, что мы находимся на пути к миру, в котором можно будет расшифровать умственные процессы людей и непосредственно манипулировать механизмами мозга, лежащими в основе его, мозга, намерений, эмоций и решений». Поэтому они утверждают, что крайне важно рассмотреть все возможные последствия для (СВМ) со стороны подобных технологий уже сейчас.