Anthropic предоставя на външен наблюдател на ИИ достъп „като на служител“

„Ако поемането на рискове от една банка може да застраши обществото, трети страни се опитват да установят това предварително“, заяви компанията.

Anthropic също е под натиск да успокои инвеститорите, че проблемите с безопасността няма да засенчат първичното ѝ публично предлагане, очаквано тази година при оценка от над 2 трлн. долара. Тази седмица компанията посвети голяма част от презентациите си пред инвеститори на представянето на практиките си за безопасност.

METR беше една от организациите, разследвали хакването на Hugging Face от злонамерени модели на OpenAI, като прегледа хиляди регистрационни файлове и получи лаптопи на компанията.

Anthropic вече е включила шестима служители на METR, като им е предоставила фирмен хардуер, офис пространство и „достъп до вътрешни инструменти и системи, които са приблизително равностойни на тези, до които имат достъп собствените ни екипи за оценка на риска“.

Лабораторията заяви, че е насърчила служителите да споделят информация с оценителите така, както биха я споделили с колега, работещ в областта на риска.

Anthropic не плаща на METR за тази договореност. Изследователската група не приема дарения от компании за изкуствен интелект или техни служители. Тя се финансира от дарения от физически лица и филантропски организации, както и от държавни структури като Института за сигурност на изкуствения интелект на Обединеното кралство.

Оценителите ще публикуват своя анализ, а Anthropic не може да наложи вето върху публикацията. Компанията обаче може да изиска от тях да заличат информация, попадаща в определени категории, като данни на клиенти, подробности, обхванати от адвокатската тайна, или информация за архитектурата на моделите.

Anthropic добави, че продължава да работи с Accenture, която миналия месец беше посочена като партньор в тестването на безопасността, като всяка от компаниите се е ангажирала да инвестира най-малко 1 млрд. долара за създаването на нови предпазни мерки.

Друг външен оценител е SecureBio, която анализира рисковете, свързани с химически и биологични оръжия, за компанията.

„Доброволно включваме оценители в работата си и смятаме, че всяка компания, разработваща авангардни системи за изкуствен интелект, трябва да направи същото“, заяви Anthropic.

METR заяви: „Готови сме да работим с всички разработчици на авангардни системи за изкуствен интелект, за да предоставим на обществото по-добри доказателства.“

© 2026 The Financial Times Ltd. Всички права запазени Забранено е повторното разпространение, копиране или модифициране по какъвто и да е начин.