AlphaProof Code провери криптографското ядро на Signal за четири седмици
Google DeepMind представи AlphaProof Code — система с изкуствен интелект, предназначена математически да проверява дали даден софтуер отговаря на предварително определени изисквания за сигурност. При демонстрация със системата за криптиране на Signal тя провери действителното криптографско ядро, което работи на устройствата на потребителите, за четири седмици. По-рано подобни задачи обикновено са отнемали години.
Експерти първо са формулирали формални изисквания за сигурност. След това агенти, базирани на Gemini Carbon, са създали над шест милиона реда доказателствен код на езика Lean. Около един процент от кодовата база е бил отбелязан за преглед от хора. Два бъга, умишлено добавени за теста, са били открити незабавно.
Според изследователите на DeepMind Pushmeet Kohli и Swarat Chaudhuri предишни опити са стигали само до теоретичния дизайн. AlphaProof Code помага при създаването на спецификациите и след това независимо доказва, че програмният код ги изпълнява. Техническият директор на Signal Ehren Kret заяви, че подходът може да засили доверието в защитата на личните данни на фона на нарастващи заплахи, свързани с ИИ. DeepMind планира разширяване към електропреносни мрежи и медицински устройства чрез системи като CodeMender.
Текстът е изготвен от ИИ на Sakhanda Wire по материал на The Decoder. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.