Новые функции ИИ в Apple Watch нормализуют идею о том, что технологии всегда слушают

Apple пытается добиться того, чтобы потребители приняли и даже приветствовали новую реальность: ваши устройства постоянно слушают.

На прошедшем в среду мероприятии по случаю презентации iPhone «Surprise and Shine», где компания представила новую линейку устройств, настоящим сюрпризом оказался не складной iPhone, а то, как печально известный своей заботой о конфиденциальности технологический гигант решил, что его часы теперь смогут обрабатывать звук в реальном времени и расшифровывать сказанное.

Означает ли это, что вас постоянно записывают, если у человека, с которым вы общаетесь, есть Apple Watch? Не совсем — хотя некоторых это всё равно может заставить чувствовать себя некомфортно.

Это также поднимает вопрос о том, действительно ли потребители хотят такую технологию или Apple пошла по этому пути, опасаясь, что другая компания, например OpenAI, вскоре представит собственное конкурентное ИИ-устройство.

Сегодня ряд стартапов исходит из того, что расшифровка с помощью ИИ — важный сценарий использования ИИ потребителями. Пока чаще всего речь идёт о расшифровке заметок с совещаний, лекций или интервью. Некоторые компании, такие как ИИ-кулон Friend и Bee от Amazon, пошли ещё дальше и создали постоянно доступных ИИ-компаньонов, которые помогают запоминать события дня, пассивно делая заметки.

Apple решила пойти немного другим путём. Благодаря функциям «интеллектуальной обработки аудио», «Live Rewind» и «Siri Recap» в новых часах компания балансирует между доступностью и практической пользой, с одной стороны, и технологией, которая начинает казаться навязчивой, с другой.

Сама по себе функция Audio Intelligence кажется полезной для глухих и слабослышащих людей: с помощью встроенного ИИ она может предупреждать владельцев Apple Watch о таких звуках, как сирены, сигналы тревоги, звонки в дверь, плач младенца и других. Она работает даже тогда, когда iPhone владельца не находится рядом, и в некоторых случаях может спасти жизнь — например, если сработал пожарный извещатель или датчик угарного газа. Вряд ли кто-то станет возражать против такого применения аудио-ИИ.

Однако Live Rewind и Siri Recap выходят за рамки вспомогательных технологий и переходят в более неоднозначную область.

Хотя меры Apple по защите данных могут сделать эти функции более приемлемыми для некоторых пользователей, всё же остаётся вероятность, что нормализация технологий прослушивания — не лучший шаг для компании, ориентированной на конфиденциальность. Особенно с учётом более широкой негативной реакции потребителей на технологии наблюдения, такие как камеры Flock, центры обработки данных для ИИ и приложения с ИИ в целом.

Для начала функция ИИ Live Rewind позволяет вернуться на 15 секунд назад и расшифровать только что сказанное, дважды нажав на цифровую коронку часов. Затем эту расшифровку можно сохранить в новом отдельном приложении Siri от Apple, чтобы позже вернуться к информации.

Apple предполагает, что эту функцию можно использовать, чтобы запомнить «рекомендацию книги, блестящую идею коллеги или что-то, что вы не расслышали с первого раза», однако это также означает, что можно фактически зафиксировать слова человека, который вовсе не подразумевал, что их будут записывать, и сохранить их в заметках.

Это затрагивает вопросы согласия — не только с этической, но и с юридической точки зрения. Например, производитель ИИ-устройств Plaud советует клиентам получить предусмотренное законом согласие перед началом записи. В условиях использования Bee от Amazon пользователям напоминают, что именно они, а не Amazon, несут полную ответственность за соблюдение законодательства о конфиденциальности данных несовершеннолетних.

Поскольку Apple не сохраняет аудио, непонятно, как судебная система будет обращаться с этими новыми расшифровками, состоящими только из текста. Возможно, заметки можно будет представить в суде в качестве доказательств, но отсутствие аудиозаписи может затруднить их аутентификацию или проверку. Кроме того, правила допустимости таких материалов, вероятно, будут различаться в разных штатах.

Помимо юридических вопросов, сама идея о том, что человек может постоянно вести запись с часов, имеет культурные последствия.

Исследования показывают, что записывающие устройства уже повлияли на поведение людей в реальной жизни, как социальные сети и культура наблюдения за данными. Осознание того, что вас могут записать в любой момент, сдерживает взаимодействие с окружающими и самовыражение.

Однако для записи фотографии или видео от снимающего всё ещё требуется довольно очевидное действие: нужно поднять телефон и направить его на происходящее. А быстро записать фрагмент аудио, чтобы превратить его в расшифровку, всего лишь нажав на цифровую коронку часов, — гораздо менее заметный жест, хотя при этом, как заявляет Apple, раздаются звуковой сигнал и сопровождающая действие полноэкранная анимация микрофона.

Другая новая функция Apple Watch, «Siri Recap», использует фоновое прослушивание, чтобы «делать общие заметки» о ваших разговорах, которые можно просматривать в приложении Siri для iOS. На основе записанного и обобщённого ИИ материала эти заметки будут автоматически получать заголовок, краткое содержание и ключевые пункты. Это не будут дословные расшифровки.

Apple предполагает, что такая функция может пригодиться, например, для записи итогов совещания или важной информации с родительского собрания.

Компания также попыталась заверить пользователей, что разрабатывала эти функции прослушивания с уважением к конфиденциальности пользователей.

Apple отмечает, что Siri Recap, в отличие от некоторых других носимых устройств с ИИ, по умолчанию не включена постоянно. Вместо этого можно выбрать, когда она будет активна, например только на работе или только в течение дня. Кроме того, функцию можно в любой момент включить или выключить в Пункте управления.

Примечательно, что Apple подчёркивает: она не создаёт и не хранит аудиозаписи, а исходный звук недоступен даже самой Apple. Компания также не идентифицирует и не связывает записи с конкретными говорящими, а защищает созданные расшифровки и сводки сквозным шифрованием.

Достаточно ли этого, чтобы потребители не сочли функцию жуткой, — другой вопрос. Либо Apple удалось найти правильный баланс между практической пользой и конфиденциальностью, либо компанию ждёт негативная реакция потребителей.