OpenAI прагне перевершити Anthropic завдяки новим заходам із захисту конфіденційності клієнтів

У міру того як моделі ШІ ставали потужнішими, зростав і потенціал їхнього неналежного використання — як і вимоги до запровадження запобіжників безпеки, здатних не допустити таких зловживань. Тепер компаніям у сфері ШІ доводиться балансувати між повагою до конфіденційності своїх корпоративних клієнтів і моніторингом використання на предмет можливих проблем.

Відчувши нагоду випередити свого конкурента Anthropic, OpenAI щойно оголосила про орієнтований на конфіденційність підхід до моніторингу зловживань. Компанія презентує новий сервіс для окремих клієнтів, який називає Private Safety Processing. Це автоматизована система, що стежить за потенційними зловживаннями, водночас не зберігаючи жодних даних клієнта.

Ця система явно суперечить нещодавно оголошеній політиці Anthropic щодо зберігання даних. Ця політика, яка викликала невдоволення деяких клієнтів, дозволяє лабораторії ШІ зберігати дані користувачів — усі їхні сесії та розмови в них — протягом 30 днів, якщо йдеться про «охоплені моделі». До таких моделей належать усі моделі класу Mythos і «майбутні моделі з подібними можливостями», заявляє компанія.

Цю політику, оголошену в липні, було розроблено з міркувань безпеки, щоб лабораторія могла перевіряти й аналізувати потенційні порушення. Однак вона серйозно занепокоїла деякі підприємства, які працюють із великими обсягами конфіденційних даних і не хочуть, щоб лабораторія ШІ зберігала (або перевіряла) їх.

OpenAI — як і більшість інших компаній у сфері ШІ — уже забезпечує клієнтам відносний рівень конфіденційності, дотримуючись політики, відомої як Zero Data Retention. ZDR використовує агентів в OpenAI API для моніторингу зловживань на рівні окремих сесій. Таким чином, дані клієнтів не зберігаються компанією, але компанії все одно можуть виявляти шкідливу активність без втручання людини. Варто зазначити, що Anthropic також здебільшого дотримується ZDR — за винятком «охоплених моделей», таких як Fable.

OpenAI заявляє, що Private Safety Processing — це нова технологія, яка розширює сферу дії ZDR. Компанія описує її як форму довгострокового моніторингу безпеки, що оцінює вхідні та вихідні дані кількох розмов, а не лише однієї. Знову ж таки, моніторинг здійснює агент, який у разі спрацьовування фіксує взаємодії та аналізує їх у різних сесіях на предмет ознак потенційного зловживання.

Нова технологія допомагає OpenAI виявляти зловмисне використання ШІ, яке відбувається протягом кількох сесій, повідомив представник компанії TechCrunch. Зловмисник — гіпотетично хтось, хто намагається розробити шкідливе програмне забезпечення для кібератаки, — може розподіляти свої запити, щоб уникнути виявлення. Private Safety Processing може аналізувати ці численні розмови на предмет ознак зловживань без перевірки розмов користувача людиною.

Якщо система спрацьовує, вона може надіслати OpenAI «чітко визначений сигнал», який попереджає про конкретний тип активності, заявляє компанія. Ґрунтуючись на цьому сигналі, OpenAI може вирішити, «чи необхідно вжити заходів», повідомляє вона. Якщо так, OpenAI зв’яжеться з клієнтом, щоб отримати більше контексту або спільно вирішити проблему, а клієнт може на власний розсуд вирішити поділитися даними з OpenAI, повідомив представник компанії.

Натомість Anthropic зазначає, що перевірка даних клієнтів людьми може відбуватися, але лише «через контрольований канал доступу», який передбачає участь «невеликої групи затверджених перевіряльників». Кожна така сесія перевірки «записується в захищений від несанкціонованих змін журнал, який перевіряльники не можуть приховати чи змінити», заявляє компанія.

Корпоративна конкуренція між OpenAI та Anthropic наразі загострюється: обидві компанії шукають будь-яку можливість отримати перевагу одна над одною. Нещодавній звіт показав, що у другому кварталі OpenAI зростала повільніше, ніж Anthropic. За повідомленнями, річний темп доходів Anthropic тепер становить 65 мільярдів доларів. Інвестори Anthropic заявили, що компанія може провести IPO з оцінкою у 2 трильйони доларів, тоді як OpenAI також працює над проведенням IPO.