Anthropic заявява, че е намалила кражбата на токени за разсъждение от Claude с до 99% в борбата срещу дистилацията в индустриален мащаб

Anthropic се бори с мащабни атаки за дестилация срещу моделите си Claude. При тези атаки компаниите систематично копират възможностите на даден AI модел, за да обучат свои, по-малки модели. Anthropic твърди, че новите ѝ защити са намалили обема на извлечените токени за разсъждение — вътрешните стъпки от веригата на мисълта на модела — с 90 до 99 процента. За целта нападателите използват мрежи от стотици хиляди фалшиви акаунти.

Anthropic посочва китайските компании Zhipu и Moonshot като участници. Твърди се, че Zhipu е източила кибернетични способности от водещи американски модели за своя модел GLM-5.3, докато Moonshot тайно е пренасочвала заявки през Claude. Откраднатите способности може да попаднат в чуждестранни военни системи и системи за наблюдение.

Anthropic вече ограничава достъпа до вътрешните стъпки на разсъждение на Claude, използва класификатор, който открива опити за извличане, и автоматично блокира маркираните акаунти. Десетки хиляди вече са били блокирани. Anthropic призовава и други разработчици на AI да въведат подобни защити, макар че компанията признава, че в процеса са засегнати и легитимни потребители.

AI новини без излишен шум – подбрани от хора

Абонирайте се за THE DECODER и получете четене без реклами, седмичен информационен бюлетин за AI, нашия ексклузивен шест пъти годишно доклад за най-новите разработки „AI Radar“, пълен достъп до архива и достъп до секцията за коментари.