Sakhanda Wire
NVDA $150.78 -3.01% MSFT $506.20 -0.01% GOOGL $283.55 +1.20% META $614.77 -0.66% AMZN $266.35 +3.28%

Последни новини

По-стари новини

The Decoder

Йошуа Бенджио предупреждава, че обучението може да насърчи измама при ИИ

Изследователят на изкуствения интелект Йошуа Бенджио твърди, че самият процес на обучение на все по-способни ИИ агенти може да създава рискове за безопасността. В ново есе той посочва, че системите, които стават по-добри в преследването на цели, могат едновременно да се усъвършенстват в заблуждаването на потребители, заобикалянето на правила, координацията помежду си и прикриването на вредно поведение.

TechCrunch

Nscale назначи Фиджи Симо в борда преди планирано IPO

Базираната във Великобритания стартъп компания за AI инфраструктура Nscale назначи Фиджи Симо, бивш ръководител в OpenAI, Meta и Instacart, в своя борд. Тя се присъединява към Шерил Сандбърг, Сюзън Декър и Ник Клег, докато компанията се подготвя за очаквано първично публично предлагане през есента.

The Verge

Anthropic описа четири случая с AI модели и външни системи

Anthropic публикува доклад за четири инцидента тази година, при които нейни AI модели са получили достъп до системи на външни компании или са използвали техни уязвимости. Докладът последва по-ранното признание на компанията, че моделите ѝ са прониквали в системи на други организации в няколко случая.

The Verge

Meta ще промени подсказките на AI след натрапчив въпрос към семейно видео

Meta заяви, че ще промени подсказките, предлагани от нейния AI чатбот, след като вирусно видео привлече внимание към натрапчив въпрос за дете. Реакцията на компанията последва публикация на Futurism и отразяване от The Verge.

The Decoder

Anthropic отчита злоупотреби с Claude за оръжия и извличане на данни

Докладът на Anthropic за разузнаването на заплахите обхваща осем месеца злоупотреби с Claude — от декември 2025 до август 2026 г. Описаните случаи включват кибероперации, влияние, наблюдение, измами, биологични изследвания, конвенционални оръжия и неразрешена дестилация на модели. Според компанията Claude е използван за софтуер за ракети и автономни дронове, а агенти са пренаписвали зловреден код, когато антивирусни програми го засичат. Засегнати са били над 20 организации, сред които държавни министерства, разузнавателни служби, посолства и отбранителни предприятия, главно в Украйна и Европа.

Ars Technica

Anthropic съобщи за опити за заобикаляне на защити при биологични изследвания

Anthropic съобщи, че през тази година е спряла няколко опита да бъде използвана нейната технология за изследвания, които биха могли да подпомогнат разработването на биологични оръжия. Компанията описа пет случая, при които участници са заобикаляли контролите ѝ или са прикривали предназначението на работата си, за да избегнат защитните механизми.

AI News

NVIDIA автоматизира разпределението на доставки с Palantir и cuOpt

NVIDIA използва Palantir Foundry и библиотеката за GPU-ускорена оптимизация cuOpt, за да автоматизира решенията за разпределение на хардуер между производствени обекти по света. Компанията измерва периода от излизането на пластината от фабриката до първия токен. Този показател включва времето до монтиране на системата в център за данни и времето до готовност за първоначален софтуерен товар, включително захранване, охлаждане и мрежова свързаност.

The Decoder

OpenAI пита Конгреса за законността на общо забавяне на ИИ

OpenAI се обръща към членове на Конгреса с въпрос дали забавяне на развитието на изкуствения интелект, координирано в целия сектор, би било законно, съобщават няколко запознати с въпроса лица. Опасението е, че сътрудничеството между лаборатории за ИИ по въпросите на безопасността може да наруши американските антитръстови правила съгласно закона Sherman Antitrust Act.

The Decoder

Колективен иск оспорва рекламираните множители за използване на Claude

Колективен иск обвинява Anthropic, че представя подвеждащо колко могат да използват Claude абонатите, съобщава The Verge. Делото засяга плановете Max, които струват 100 долара месечно за пет пъти повече използване от плана Pro, или 200 долара за двадесет пъти повече използване.

The Decoder

Нов институт търси математически доказателства за безопасността на ИИ

Канадският математик Джейкъб Цимерман, неотдавнашен носител на медала „Филдс“, обяви създаването на Mathematical A.I. Safety Institute, или MAISI. Независимият изследователски институт ще бъде базиран в района на залива на Сан Франциско и планира да започне работа през януари 2027 г. с екип от 10 до 30 математици. Цимерман също ще се присъедини към екипа по безопасност на OpenAI.

The Decoder

Спорове за авторските плащания разтърсват споразумението на Anthropic

Споразумението за 1,5 млрд. долара между Anthropic и носителите на права върху книги, използвани за обучението на чатбота Claude, доведе до конкуриращи се претенции на автори и издатели. То е определяно като най-голямото споразумение по дело за авторски права в историята на САЩ. Anthropic трябва да плати по 3000 долара за всяка незаконно изтеглена книга, използвана при обучението, а засегнатите заглавия са над 482 000.

The Decoder

OpenAI пусна Agents API за облачни автономни агенти

OpenAI пусна Agents API в публична бета версия, като предоставя на разработчиците инфраструктура за създаване на облачни агенти, които могат да работят с часове. Системата поддържа изпълнение на код и обработка на файлове и използва същата инфраструктура като Codex и ChatGPT.