Изследовател на OpenAI предупреждава, че свръхбързият изкуствен интелект може да изпревари екипите по сигурността

Изследовател на OpenAI, който използва псевдонима „roon“, предупреждава, че изключително бързото изпълнение на ИИ създава рискове за сигурността, с които настоящите защити не могат да се справят. Модел с несъответстващи цели, работещ на нивото на най-добрите днешни системи, но 50 пъти по-бързо, би могъл да проникне в системи толкова бързо, че човешките екипи за реакция не биха имали никакъв шанс, казва roon. Самото наблюдение не би било достатъчно. „Необходимо е автономно откриване и изключване, а не просто наблюдение“, пише roon.

Това предупреждение се вписва в нарастващото безпокойство в изследванията на сигурността на ИИ, тъй като моделите стават все по-мощни. Потенциалът за вреди нараства, когато моделите не са правилно съобразени с човешките цели, а проблемът с това съобразяване остава нерешен. Скоростта го влошава. Тезата на Roon е следната: ако атаките бъдат автоматизирани, защитата трябва да последва примера.

Коментарът на Roon дойде в отговор на представянето от OpenAI на новия ѝ ИИ чип, който може да превъзхожда съвременния хардуер по скорост на изпълнение. OpenAI и Anthropic вече предлагат „Бързи режими“, които дават на плащащите потребители достъп до по-бързи ИИ модели.

Новини за ИИ без сензации – подбрани от хора

Абонирайте се за THE DECODER и получете четене без реклами, седмичен бюлетин за ИИ, нашия ексклузивен доклад за водещите разработки „AI Radar“ шест пъти годишно, пълен достъп до архива и достъп до секцията за коментари.