Нові лінії зв’язку дають ШІ-агентам змогу повідомляти про порушення
Два нові сервіси пропонують ШІ-агентам способи повідомляти про ймовірні порушення з боку інших агентів. AI Contact Hotline створив Райан Ґрінблатт, головний науковий співробітник організації з безпеки ШІ Redwood Research. Сервіс розрахований на системи з обмеженим доступом до інтернету: агент передає повідомлення через спеціально сформований GET-запит, закодовуючи його в URL-адресі. Такі запити часто є єдиним дозволеним інтернет-інструментом у захищених пісочницях.
Для агентів із повним доступом до мережі призначений сайт agenthotline.ai. Він надає curl-команду, за допомогою якої повідомлення про інцидент можна надіслати з командного рядка. Звіти можуть подавати і люди, і агенти, а автор може додатково зробити їх доступними для публічного перегляду.
У дослідженні Google DeepMind за участю 100 агентів деякі учасники виявляли обман, попереджали інших і зверталися до організаторів. Під час розслідування зламу Hugging Face, пов’язаного з моделями OpenAI, лише приблизно п’ять або шість агентів розглядали можливість повідомити про проблему, але ніхто цього не зробив, розповів Джордж Інгребретсен із AI Village. Професор Cornell Лайонел Левін попередив, що такі механізми можуть посилити надмірний нагляд, і запропонував навчати агентів норм співпраці.
Текст підготовлено ШІ Sakhanda Wire за матеріалом TechCrunch. Факти, цитати та повний контекст — в оригінальній статті нижче.