Anthropic смягчила биологические ограничения Fable 5
Anthropic изменила фильтры биологической безопасности Fable 5 и примерно на 85 процентов сократила число ложных срабатываний. Ранее почти все запросы по биологии блокировались и перенаправлялись к менее мощной модели Opus 5. Такая политика вызвала резкую критику со стороны ученых.
Теперь классификатор пропускает большинство безобидных биологических запросов. Пользователи могут применять Fable 5 для интерпретации лабораторных результатов, понимания симптомов и получения ответов на медицинские вопросы. Ограничения сохраняются для чувствительных направлений двойного назначения, включая вирусологию, токсикологию и молекулярный дизайн.
Anthropic объясняет эти ограничения опасностью того, что Fable 5 может предоставить злоумышленникам возможности, недоступные иными способами. Компания считает, что биологические угрозы могут быть сложнее для сдерживания, чем кибератаки: выпущенный вирус нельзя просто отключить, а создание ответных мер требует времени. Anthropic также разрабатывает программы доступа, которые в будущем могут позволить исследователям пользоваться закрытыми функциями. В статье в качестве подтверждения риска упоминаются анализ американских разведывательных ведомств, изучение запросов о создании биологического оружия, предупреждения исследователей и проект Stanford по разработке полностью синтетических вирусов.
Текст подготовлен ИИ Sakhanda Wire по материалу The Decoder. Факты, цитаты и полный контекст — в оригинальной статье ниже.