OpenAI се стреми да надмине Anthropic с нови мерки за защита на личните данни на клиентите

С нарастването на мощността на моделите с изкуствен интелект се увеличи и потенциалът те да бъдат използвани неправомерно — както и призивите за предпазни механизми, които да предотвратят подобни злоупотреби. Сега компаниите за изкуствен интелект трябва да лавират деликатно между зачитането на поверителността на корпоративните си клиенти и наблюдението на употребата за евентуални проблеми.

Усещайки възможност да надмине конкурента си Anthropic, OpenAI току-що обяви ориентиран към поверителността подход за безопасност при наблюдението за злоупотреби. Компанията представя предварителна версия на нова услуга за избрани клиенти, която нарича Private Safety Processing. Това е автоматизирана система, която следи за потенциални злоупотреби, като същевременно не съхранява никакви данни на клиента.

Тази система очевидно е в противоречие с наскоро обявената политика на Anthropic за съхранение на данни. Политиката, която раздразни някои клиенти, позволява на лабораторията за изкуствен интелект да съхранява потребителски данни (всичките им сесии — и разговорите в тях) за период от 30 дни, когато става въпрос за „обхванати модели“. Тези модели включват всички модели от класа Mythos и „бъдещи модели със сходни възможности“, посочва компанията.

Тази политика, обявена през юли, беше създадена с цел осигуряване на безопасност, като позволява на лабораторията да преглежда и анализира потенциални нарушения. Тя обаче дълбоко обезпокои някои предприятия, които обработват големи количества чувствителни данни и не искат те да бъдат съхранявани (или проверявани) от лабораторията за изкуствен интелект.

OpenAI — както повечето други компании за изкуствен интелект — вече осигурява на клиентите относително ниво на поверителност, като спазва политика, известна като Zero Data Retention. ZDR използва агенти в рамките на OpenAI API, за да следи за злоупотреби на ниво отделна сесия. По този начин данните на клиентите не се съхраняват от компанията, но компаниите все пак могат да сканират за неправомерна активност без необходимост от човешка намеса. Струва си да се отбележи, че Anthropic също до голяма степен спазва ZDR — с изключение на „обхванатите модели“, като Fable.

OpenAI заявява, че Private Safety Processing е нова технология, която разширява обхвата на ZDR. Компанията я описва като форма на дългосрочно наблюдение за безопасност, което оценява входовете и изходите от множество разговори — а не само от един. И в този случай наблюдението се извършва от агент, който, ако бъде задействан, улавя взаимодействията и ги анализира между отделните сесии за признаци на потенциална злоупотреба.

Новата технология помага на OpenAI да открива злонамерена употреба на изкуствен интелект, която се осъществява в рамките на множество сесии, заяви говорител на компанията пред TechCrunch. Злонамерен участник — хипотетично някой, който се опитва да създаде зловреден софтуер за кибератака — може да разпредели заявките си във времето, за да избегне откриването. Private Safety Processing може да анализира тези множество разговори за признаци на злоупотреба, без човешки преглед на разговорите на потребителя.

В случай че системата бъде задействана, тя може да изпрати до OpenAI „тясно дефиниран сигнал“, който предупреждава за конкретен тип активност, посочва компанията. Въз основа на този сигнал OpenAI може да реши дали „са необходими мерки за прилагане на правилата“, заявява тя. Ако това е така, OpenAI ще се свърже с клиента за повече контекст или за да работи с него по проблема, а клиентът може по свое усмотрение да избере да сподели данни с OpenAI, заяви говорителят.

За разлика от това Anthropic отбелязва, че може да се извършва човешки преглед на клиентски данни, но само „чрез контролиран път за достъп“, който включва „малък набор от одобрени проверяващи“. Всяка една от тези сесии за преглед е „записана в защитен от подправяне журнал, който проверяващите не могат да потискат или променят“, посочва компанията.

Корпоративната конкуренция между OpenAI и Anthropic в момента е напрегната, като и двете компании търсят всяка възможност да получат предимство пред другата. Неотдавнашен доклад показа, че приходите на OpenAI за второто тримесечие са нараснали по-бавно от тези на Anthropic. Годишният темп на приходите на Anthropic според съобщенията вече е 65 милиарда долара. Инвеститори на Anthropic заявиха, че компанията може да проведе първично публично предлагане при оценка от 2 трилиона долара, докато OpenAI също работи по своето първично публично предлагане.