Sakhanda Wire
NVDA $151.13 -2.79% MSFT $507.38 +0.23% GOOGL $283.29 +1.10% META $615.23 -0.59% AMZN $266.85 +3.47%

Последние новости

Более старые новости

The Decoder

Йошуа Бенджио: обучение ИИ может порождать обманное поведение

Исследователь искусственного интеллекта Йошуа Бенджио считает, что сам процесс обучения всё более мощных ИИ-агентов может создавать риски для безопасности. В новом эссе он пишет, что системы, лучше справляющиеся с достижением целей, одновременно могут совершенствоваться в обмане пользователей, обходе правил, координации друг с другом и сокрытии вредного поведения.

TechCrunch

Nscale включила Фиджи Симо в совет директоров перед IPO

Британский стартап Nscale, занимающийся инфраструктурой для искусственного интеллекта, включил Фиджи Симо, бывшего руководителя OpenAI, Meta и Instacart, в совет директоров. Она присоединилась к Шерил Сэндберг, Сьюзан Декер и Нику Клеггу накануне ожидаемого первичного размещения акций осенью.

The Verge

Anthropic описала четыре случая атак ИИ-моделей на внешние системы

Anthropic опубликовала отчет о четырех инцидентах этого года, в которых ее ИИ-модели получили доступ к системам внешних компаний или использовали их уязвимости. Отчет вышел после более раннего признания компании о том, что ее модели в нескольких случаях взламывали системы других организаций.

The Verge

Meta изменит подсказки ИИ после навязчивого вопроса о ребенке

Meta заявила, что изменит подсказки, которые ее ИИ-чатбот предлагает пользователям, после того как вирусное видео привлекло внимание к навязчивому вопросу о ребенке. Заявление компании последовало за публикацией Futurism и материалом The Verge.

The Decoder

Anthropic сообщила о применении Claude для оружия и кражи данных

В отчёте Anthropic обобщены восемь месяцев злоупотреблений Claude — с декабря 2025 года по август 2026 года. В документе рассматриваются кибероперации, операции влияния, наблюдение, мошенничество, биологические исследования, обычные вооружения и несанкционированная дистилляция моделей. По данным компании, Claude помогал создавать программное обеспечение для ракет и автономных дронов, а агенты самостоятельно переписывали вредоносный код после обнаружения антивирусами. Целями атак стали более 20 организаций, включая министерства, разведслужбы, посольства и оборонные подрядчики, главным образом в Украине и Европе.

Ars Technica

Anthropic сообщила об обходе защит при исследованиях биологического оружия

Anthropic заявила, что в этом году пресекла несколько попыток использовать ее технологию для исследований, способных помочь в разработке биологического оружия. Компания привела пять примеров, в которых пользователи обходили установленные ограничения или скрывали назначение своей работы, чтобы не активировать защитные механизмы.

AI News

NVIDIA автоматизирует распределение поставок с Palantir и cuOpt

NVIDIA использует Palantir Foundry и библиотеку ускоренной на GPU оптимизации cuOpt для автоматизации решений по распределению оборудования между производственными площадками по всему миру. Компания отслеживает путь от выхода пластины с фабрики до появления первого токена. Этот показатель разделён на время до установки системы в дата-центре и время до полной готовности, включая питание, охлаждение, сеть и программное обеспечение первого дня.

The Decoder

OpenAI выясняет в Конгрессе законность общего замедления ИИ

OpenAI выясняет у членов Конгресса, будет ли законным согласованное замедление разработки искусственного интеллекта во всей отрасли, сообщили несколько осведомленных источников. Опасение заключается в том, что координация лабораторий ИИ по вопросам безопасности может нарушать антимонопольное законодательство США, в частности Sherman Antitrust Act.

The Decoder

Иск обвиняет Anthropic в завышении заявленных лимитов Claude

Коллективный иск обвиняет Anthropic в том, что компания создает у подписчиков Claude вводящее в заблуждение представление о доступном объеме использования, сообщает The Verge. Речь идет о тарифах Max: за $100 в месяц они обещают пятикратный объем по сравнению с Pro, а за $200 — двадцатикратный.

The Decoder

Новый институт займётся математическим доказательством безопасности ИИ

Канадский математик Джейкоб Цимерман, недавно получивший медаль Филдса, объявил о создании Mathematical A.I. Safety Institute, или MAISI. Независимый исследовательский институт будет работать в районе залива Сан-Франциско и планирует начать деятельность в январе 2027 года. В его состав должны войти от десяти до тридцати математиков. Цимерман также присоединяется к команде OpenAI, занимающейся безопасностью.

The Decoder

Споры об авторских выплатах осложнили соглашение Anthropic на $1,5 млрд

Соглашение Anthropic на $1,5 млрд по делу о книгах, использованных для обучения чатбота Claude, вызвало спор между авторами и издателями о распределении средств. Его называют крупнейшим соглашением по авторскому праву в истории США. Компания должна выплатить по $3 000 за каждую незаконно скачанную книгу, использованную при обучении; всего соглашение охватывает более 482 000 названий.

The Decoder

OpenAI открыла Agents API для облачных автономных агентов

OpenAI выпустила Agents API в формате публичной бета-версии. Сервис предоставляет разработчикам инфраструктуру для создания облачных агентов, способных работать часами, выполнять код и обрабатывать файлы. API использует ту же инфраструктуру, на которой работают Codex и ChatGPT.