OpenAI стремится превзойти Anthropic благодаря новым мерам защиты конфиденциальности клиентов

По мере того как модели ИИ становились мощнее, рос и потенциал их неправомерного использования — как и требования к защитным механизмам, способным предотвращать такие злоупотребления. Теперь компаниям, занимающимся ИИ, приходится балансировать между соблюдением конфиденциальности своих корпоративных клиентов и мониторингом использования сервисов на предмет возможных проблем.

Увидев возможность превзойти своего конкурента Anthropic, OpenAI объявила о подходе к мониторингу злоупотреблений, ориентированном на конфиденциальность. Компания представляет в предварительном режиме для отдельных клиентов новую услугу, которую называет Private Safety Processing. Это автоматизированная система, отслеживающая потенциальные злоупотребления и одновременно не сохраняющая никаких данных клиента.

Эта система явно противоречит недавно объявленной Anthropic политике хранения данных. Эта политика, вызвавшая недовольство некоторых клиентов, позволяет лаборатории, занимающейся ИИ, хранить пользовательские данные (все их сеансы — и содержащиеся в них разговоры) в течение 30 дней в случае «охватываемых моделей». По словам компании, к ним относятся все модели класса Mythos и «будущие модели с аналогичными возможностями».

Эта политика, объявленная в июле, была разработана в целях безопасности, чтобы лаборатория могла выявлять и анализировать потенциальные нарушения. Однако она серьёзно обеспокоила некоторые компании, работающие с большими объёмами конфиденциальных данных и не желающие, чтобы лаборатория, занимающаяся ИИ, хранила (или проверяла) их.

OpenAI — как и большинство других компаний, занимающихся ИИ, — уже обеспечивает клиентам относительно высокий уровень конфиденциальности, придерживаясь политики, известной как Zero Data Retention. ZDR использует агентов внутри API OpenAI для мониторинга злоупотреблений на уровне отдельных сеансов. Благодаря этому компания не сохраняет данные клиентов, однако компании по-прежнему могут выявлять подозрительную активность без необходимости вмешательства человека. Стоит отметить, что Anthropic также в целом придерживается ZDR — за исключением «охватываемых моделей», таких как Fable.

В OpenAI заявляют, что Private Safety Processing — это новая технология, расширяющая сферу применения ZDR. Компания описывает её как форму долгосрочного мониторинга безопасности, которая оценивает входные и выходные данные нескольких разговоров, а не только одного. И вновь мониторинг осуществляет агент, который при срабатывании выявляет взаимодействия и анализирует их в разных сеансах на предмет признаков потенциального злоупотребления.

Новая технология помогает OpenAI выявлять вредоносное использование ИИ, происходящее на протяжении нескольких сеансов, сообщил TechCrunch представитель компании. Злоумышленник — гипотетически человек, пытающийся разработать вредоносное ПО для кибератаки, — может распределить свои запросы во времени, чтобы избежать обнаружения. Private Safety Processing способен анализировать эти многочисленные разговоры на предмет признаков злоупотребления без проверки разговоров пользователя человеком.

Если система срабатывает, она может отправить OpenAI «узко определённый сигнал», предупреждающий о конкретном типе активности, заявляют в компании. Основываясь на этом сигнале, OpenAI затем может решить, «необходимо ли применение мер», говорится в сообщении. Если это необходимо, OpenAI свяжется с клиентом, чтобы получить дополнительные сведения или совместно решить проблему, а клиент по своему усмотрению может предоставить OpenAI данные, сообщил представитель компании.

В отличие от этого Anthropic отмечает, что проверка данных клиентов человеком возможна, но только «через контролируемый канал доступа», к которому имеет доступ «небольшая группа одобренных проверяющих». Каждый такой сеанс проверки «записывается в защищённый от несанкционированного изменения журнал, который проверяющие не могут подавить или изменить», заявляет компания.

Корпоративное соперничество между OpenAI и Anthropic сейчас обострено: обе компании ищут любую возможность получить преимущество друг над другом. Недавний отчёт показал, что во втором квартале OpenAI росла медленнее Anthropic. По имеющимся данным, годовой темп выручки Anthropic теперь составляет 65 миллиардов долларов. Инвесторы Anthropic заявили, что компания может провести IPO при оценке в 2 триллиона долларов, а OpenAI также работает над выходом на биржу.