Sakhanda Wire
NVDA $153.73 -1.54% MSFT $506.30 -2.26% GOOGL $280.09 -1.28% META $619.28 -1.14% AMZN $256.62 -0.44%
← До новин

Дослідники використали Claude для доступу до акаунтів і коду OpenAI

Дослідники використали Claude від Anthropic, щоб скористатися вразливістю в налаштуваннях спільнотного форуму OpenAI, розміщеного на сторонній платформі Discourse. Це, за повідомленням, дало змогу отримати доступ до внутрішніх даних для входу, а згодом — до акаунта ChatGPT працівника OpenAI. Через цей акаунт можна було отримати доступ до внутрішнього коду в GitHub і чутливих даних компанії.

OpenAI заявила, що дякує дослідникам за повідомлення та передані результати, і повідомила про виправлення проблем. Anthropic відмовилася від коментарів, а Hacktron на той час не відповіла. Першою про розкриття інформації повідомила The Wall Street Journal.

Публікація з’явилася після того, як Anthropic оприлюднила дані про використання AI під час розроблення нових моделей. Компанія повідомила, що на Claude припадало 26 відсотків дослідницької та розробницької роботи проти 1 відсотка в березні. За даними Anthropic, AI виконував більшість завдань за людськими інструкціями та під наглядом людей, а повністю автономної роботи не було в жодному з досліджених напрямів. У 90 відсотках завдань AI співпрацював із людиною та виконував значну частину роботи. Компанія пов’язала ці показники з наближенням до рекурсивного самовдосконалення — здатності AI навчати й покращувати себе або нові моделі.

Текст підготовлено ШІ Sakhanda Wire за матеріалом Ars Technica. Факти, цитати та повний контекст — в оригінальній статті нижче.

Вперше опубліковано виданням Ars Technica

Читати оригінал на Ars Technica ↗

Репортаж і зображення належать Ars Technica і зазначені вище з посиланням на оригінал; текст на цій сторінці — власний виклад Sakhanda Wire.

← До новин

Ще новини

Усі останні новини