Все, что вы скажете колонке Alexa, будет отправлено в Amazon

Amazon отключила две ключевые функции конфиденциальности в своих умных колонках Alexa, стремясь внедрить «агентские возможности» на основе искусственного интеллекта и получить прибыль от популярных устройств.

Начиная с 28 марта, устройства Alexa будут отправлять все аудиозаписи в облако для обработки. Если вы решите не сохранять эти записи, функции персонализации будут отключены.

Как работают голосовые помощники?

Голосовой ассистент работает, постоянно слушая «слово для активации», например, «Alexa». После активации он записывает произнесенную команду и сопоставляет ее с действием, например, воспроизведением музыкального трека. Соответствие между произнесенной командой и действием требует того, что компьютерные ученые называют пониманием естественного языка, что может занять много компьютерной мощности.

Обработка команд может осуществляться локально (на самом устройстве), или же звуковые записи могут быть загружены в облако для обработки. Обработка на устройстве значительно улучшилась за последние годы, но она все еще менее точна, чем использование облака, где доступно больше компьютерных мощностей.

Сегодня Amazon вносит два изменения

Устройства Alexa по умолчанию отправляют записи в облако. Однако некоторые высококлассные модели Echo ранее поддерживали настройку под названием «Не отправлять голосовые записи».

Если эта настройка была включена, все записи обрабатывались локально. На практике лишь небольшая часть пользователей Echo (около 0,03 процента) имела этот параметр включенным.

В первом изменении этот параметр будет отключен, и все записи будут отправляться в облако.

Как только вы окажетесь в облаке, записи можно удалить или сохранить.

Сохраненные записи используются для функции Amazon Voice ID, которая различает голоса людей из одного дома и имеет целью обеспечить персонализированный опыт.

Пользователи Alexa также имеют параметр «Не сохранять записи», который, если его включить, удаляет облачные записи после их обработки. Второе изменение заключается в том, что если включить параметр «Не сохранять записи», Voice ID перестанет работать, а вместе с ним и доступ к персонализированным функциям, таким как события календаря, предназначенные для пользователя.

Это двухэтапное изменение означает, что пользователям Alexa придется идти на компромисс между конфиденциальностью и функциональностью.

Alexa теряет много денег

Проще говоря, Amazon нужны устройства Echo, чтобы начать зарабатывать деньги.

Как подробно описал американский эксперт по голосовым помощникам Джозеф Туроу, Amazon начал продавать устройства Echo очень дешево как «лидер убыточности». Amazon заявляет, что продала более 500 миллионов устройств Alexa, но только с 2017 по 2021 год компания потеряла на этом проекте более 25 миллиардов долларов США.

Amazon надеется, что генеративный ИИ сможет изменить ситуацию, инвестировав 8 миллиардов долларов США в конкурента OpenAI — компанию Anthropic.

В феврале Amazon запустила новую систему Alexa+ на базе искусственного интеллекта. Она обещает более естественное взаимодействие и возможность выполнять такие задачи, как бронирование авиабилетов. Пока Alexa+ доступна только в Соединенных Штатах.

«Агентские возможности», такие как бронирование авиабилетов, требуют детальной информации о пользователе, от имени которого они действуют. Это может включать такие данные, как желаемые продукты или услуги.

Голосовая идентификация и данные из устных команд помогают Amazon привязывать предпочтения к конкретному человеку.

Посредник с искусственным интеллектом

Как Alexa+ поможет Amazon зарабатывать деньги? Первый способ — через прямую плату за подписку: со временем сервис будет доступен только членам Amazon Prime или людям, которые платят 19,99 долларов США в месяц.

Но что может оказаться более важным, так это то, что она поможет Amazon позиционировать себя как посредника между покупателями и продавцами. Это то, что Amazon уже делает с помощью своей существующей платформы электронной коммерции.

Легко увидеть систему в действии, когда вы ищете товар на сайте Amazon. Наряду с товарами, продаваемыми непосредственно Amazon, вам будут представлены товары от многих продавцов, каждый из которых платит Amazon за то, чтобы быть включенным в список.

Все платят платформе

Агентские возможности, вероятно, имеют похожую бизнес-модель. Поставщики услуг — такие как авиакомпании или компании по бронированию ресторанов — платят Amazon, когда Alexa+ направляет к ним клиентов.

Решение Amazon является частью более широкого явления, которое называют «капитализмом платформ». Это касается краудсорсингового контента социальных медиа-платформ, предприятий «экономики совместного пользования», таких как AirBnb, и автоматизированной работы таких компаний, как Uber, выполняющих услуги по перевозке пассажиров на заказ.

Платформенный капитализм принес выгоды потребителям, но в целом наибольшие выгоды получают те, кто владеет платформами и разрабатывает их инфраструктуру, услуги и ограничения.

Как защитить свою приватность

После получения штрафа в размере 25 миллионов долларов США от Федеральной торговой комиссии США за хранение записей детских голосов вопреки американскому законодательству, Amazon пересмотрела настройки приватности Alexa.

Настройки можно просмотреть и изменить в приложении Alexa на вашем смартфоне в разделе «Больше > Конфиденциальность Alexa». Пользователи Alexa могут просмотреть настройки в разделе «Управление данными Alexa», чтобы выбрать, как долго хранить записи и какие из них удалять. Записи также можно удалить с помощью голосовой команды.

Когда Alexa+ станет доступнее, пользователям нужно будет решить, комфортно ли им делиться данными о своих предпочтениях с Amazon, чтобы включить агентские возможности.

Какие существуют альтернативы?

Для пользователей, которым неудобны настройки конфиденциальности, доступные в Alexa, лучшим выбором может стать частный голосовой ассистент.

Одним из примеров является Home Assistant Voice Preview. Он дает людям возможность обрабатывать голосовые записи на устройстве, но он предлагает меньше функций, чем Alexa, и не может работать со многими другими сервисами. Он также не очень удобен для пользователей, поскольку больше ориентирован на технических специалистов.

Кэти Рейд, кандидат наук, Школа кибернетики, Австралийский национальный университет