Sakhanda Wire
NVDA $152.58 -2.28% MSFT $506.11 -2.29% GOOGL $279.81 -1.38% META $619.07 -1.17% AMZN $256.55 -0.47%
← Към новините

Abliteration.ai предлага достъп до AI модели без защитни ограничения

Abliteration.ai превръща премахването на механизмите за отказ от отворени модели с достъпни тегла в комерсиална услуга. Платформата хоства модифицирани модели, сред които GLM-5.3 на Z.ai, до които потребителите могат да се обръщат през браузър или API. Компанията заявява, че целта е да подпомага офанзивна киберсигурност, „червено“ тестване и изпитване на AI агенти, при които стандартните модели отказват определени задачи.

TechCrunch е създал безплатен акаунт и е установил, че модифицираната версия на GLM-5.3 изпълнява заявки за кражба на запазени пароли в Chrome и за отглеждане на опасен човешки патоген в домашни условия. Abliteration.ai предлага слой за модериране, който клиентите могат да настройват, а самата платформа запазва някои ограничени защити. Съоснователят Девън казва, че се разработват допълнителни мерки, но засега няма проверка на самоличността извън записването на платежната карта.

Изследователи по безопасността предупреждават за възможни вреди. Част от киберсигурностните компании смятат, че защитниците трябва да разполагат със сходни инструменти, тъй като нападателите може вече да използват модифицирани модели. Други предпочитат фино дообучаване и се съмняват, че аблитирането запазва всички способности на модела. Компанията има клиенти сред стартъпи за тестване във Великобритания и Европа, не е набирала рисков капитал и води разговори за инвестиция.

Текстът е изготвен от ИИ на Sakhanda Wire по материал на TechCrunch. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.

Първоначално публикувано от TechCrunch на

Прочетете оригинала в TechCrunch ↗

Репортажът и изображението принадлежат на TechCrunch и са посочени по-горе с връзка към оригинала; текстът на тази страница е собствено изложение на Sakhanda Wire.

← Към новините

Още новини

Всички последни новини