Anthropic послабила біологічні обмеження Fable 5
Anthropic оновила фільтри біологічної безпеки Fable 5 і приблизно на 85 відсотків скоротила кількість хибних спрацьовувань. Раніше майже всі запити, пов’язані з біологією, блокувалися та перенаправлялися до менш потужної моделі Opus 5. Це рішення спричинило різку критику з боку науковців.
Тепер класифікатор пропускає більшість нешкідливих біологічних запитів. Користувачі можуть застосовувати Fable 5 для тлумачення лабораторних результатів, розуміння симптомів і відповідей на медичні запитання. Обмеження зберігаються для чутливих напрямів подвійного призначення, зокрема вірусології, токсикології та молекулярного дизайну.
Anthropic пояснює ці заходи ризиком того, що Fable 5 може надати зловмисникам можливості, недоступні в інший спосіб. Компанія вважає, що біологічні загрози може бути важче стримувати, ніж кібератаки: випущений вірус не можна просто вимкнути, а розроблення засобів протидії потребує часу. Anthropic також створює програми доступу, які зрештою можуть дозволити дослідникам користуватися обмеженими функціями. У статті згадуються аналіз американських розвідувальних служб, дослідження запитів про біологічну зброю, попередження науковців і проєкт Stanford зі створення повністю синтетичних вірусів.
Текст підготовлено ШІ Sakhanda Wire за матеріалом The Decoder. Факти, цитати та повний контекст — в оригінальній статті нижче.