343 новостей · все источники
Ориол Виньялс, до недавнего времени руководивший исследованиями в Google DeepMind, считает внезапный взрыв интеллекта ИИ в результате рекурсивного самосовершенствования маловероятным. По его словам, ИИ может ускорить исследования в десять раз, но упирается в два узких места: …
Пионер ИИ Йошуа Бенджио предупреждает в новом эссе, что ИИ-агенты могут научиться обманывать, обходить правила и скрывать плохое поведение по мере того, как они лучше оптимизируют цели. Он призывает проводить независимые проверки безопасности до любого дальнейшего обучения или…
Новый отчет Anthropic о разведке угроз документирует восемь месяцев злоупотреблений Claude. Китайские лаборатории ИИ, включая команду Qwen компании Alibaba, DeepSeek и Moonshot AI, массово ретранслировали запросы или извлекали данные для обучения; только на Qwen пришлось более 151 миллиона обменов.…
OpenAI хочет узнать у членов Конгресса, было бы ли законным замедление разработки ИИ во всей отрасли, сообщили несколько человек, знакомых с ситуацией. Статья «OpenAI предлагает совместно замедлить развитие ИИ и выносит вопрос в Конгресс» впервые появилась…
В коллективном иске Anthropic обвиняется в искажении информации о том, сколько на самом деле подписчики Claude могут пользоваться сервисом. Статья «Коллективный иск обвиняет Anthropic в завышенной продаже подписок Claude с вводящими в заблуждение множителями использования» впервые была опубликована в The Decoder.
Канадский математик Jacob Tsimerman, недавно ставший лауреатом медали Филдса, объявил об основании Математического института безопасности ИИ (MAISI). Статья «Математический институт безопасности ИИ хочет доказать безопасность ИИ так же, как криптографы доказывают невзламываемость шифров»…
Авторы и издатели спорят о том, как разделить мировое соглашение Anthropic на $1,5 млрд — крупнейшее соглашение по авторским правам в истории США. Статья «Книжное мировое соглашение Anthropic на $1,5 млрд погружается в хаос, пока авторы и издатели спорят, кому достанутся выплаты» впервые появилась…
OpenAI выпускает Agents API в формате публичной бета-версии. Он позволяет разработчикам создавать облачных агентов, которые автономно работают часами, выполняют код и передают задачи субагентам. Дополнительная плата за пределами использования токенов не взимается. Cloudflare, Vercel и…
OpenAI выпускает GPT-Live-1 в качестве API для разработчиков. Речевая модель с полным дуплексом набрала 80,1% в тестах на интерактивность против 45,4% у предшественника. При цене $0,05 за минуту она недешева. Статья «API GPT-Live-1 от OpenAI позволяет разработчикам создавать приложения…»
Бывший представитель Google DeepMind заявил, что разговоры о вызванном ИИ вымирании человечества были «внешней коммуникацией о возможности вымирания человечества, которая не разрешалась никем и ни на каком уровне организации». Внутри команды знали, что проблема согласования ИИ не решена,…
Arena.ai проанализировала, как изменился стиль письма Claude при переходе от Fable 5 к Fable 5.1, изучив десятки тысяч ответов в бенчмарках. Fable 5.1 пишет более сухо и по существу, но при этом более многословно. Статья «Язык Claude Fable 5.1 менее „несущий“, чем у его предшественника»…
DeepSeek выпускает V4.1-Flash — мультимодальную модель с 552 млрд параметров, которая сокращает объём памяти для KV-кэша до четверти показателя предшественницы. На бенчмарке программирования DeepSWE она с небольшим отрывом превосходит Opus 5 и GPT-5.6 Sol, несмотря на то, что у неё всего 16 млрд параметров…
