343 новини · всички източници
Ориол Винялс, до неотдавна ръководител на изследванията в Google DeepMind, смята, че внезапен взрив на интелигентността на ИИ чрез рекурсивно самоподобряване е малко вероятен. По думите му ИИ може да ускори научните изследвания десетократно, но се сблъсква с две тесни места: …
Пионерът в ИИ Йошуа Бенджио предупреждава в ново есе, че ИИ агентите могат да се научат да заблуждават, да заобикалят правилата и да прикриват лошо поведение, докато стават по-добри в оптимизирането на цели. Той призовава за независими проверки на безопасността преди всяко по-нататъшно обучение или…
Новият доклад на Anthropic за разузнаването на заплахите документира осем месеца злоупотреби с Claude. Китайски лаборатории за ИИ като екипа Qwen на Alibaba, DeepSeek и Moonshot AI са препращали заявки масово или са извличали данни за обучение, като само Qwen е отговорил за над 151 милиона обмена.…
OpenAI иска да разбере от членове на Конгреса дали забавяне на разработването на ИИ в цялата индустрия би било законно, според няколко души, запознати с въпроса. Статията „OpenAI предлага общо забавяне на развитието на ИИ и отнася въпроса до Конгреса“ се появи първо…
Колективен иск обвинява Anthropic, че представя невярно колко всъщност могат да използват услугата абонатите на Claude. Статията „Колективен иск обвинява Anthropic, че продава прекомерно абонаменти за Claude с подвеждащи множители за използване“ първоначално беше публикувана в The Decoder.
Канадският математик Jacob Tsimerman, наскоро удостоен с медал „Фийлдс“, обяви основаването на Математическия институт за безопасност на ИИ (MAISI). Статията „Математическият институт за безопасност на ИИ иска да докаже, че ИИ е безопасен, по начина, по който криптографите доказват, че кодовете са непробиваеми“…
Автори и издатели спорят как да разделят споразумението на Anthropic за 1,5 млрд. долара — най-голямото споразумение за авторски права в историята на САЩ. Статията „Книжното споразумение на Anthropic за 1,5 млрд. долара потъва в хаос, докато автори и издатели спорят кой ще получи пари“ се появи първо…
OpenAI пуска Agents API като публична бета версия. Той позволява на разработчиците да създават облачни агенти, които работят автономно с часове, изпълняват код и предават задачи на подагенти. Няма допълнителни такси извън използването на токени. Cloudflare, Vercel и…
OpenAI представя GPT-Live-1 като API за разработчици. Речевият модел с пълен дуплекс постига 80,1% в тестовете за интерактивност спрямо 45,4% за предшественика си. При цена от $0,05 на минута той не е евтин. Статията „API на GPT-Live-1 от OpenAI позволява на разработчиците да създават приложения…“
Бивш говорител на Google DeepMind казва, че разговорите за предизвикано от ИИ изчезване на човечеството са били „външна комуникация относно възможността за изчезване на човечеството не беше разрешена от никого, на нито едно ниво на организацията“. Вътрешно екипът е знаел, че проблемът с подравняването на ИИ не е решен,…
Arena.ai анализира как се е променил стилът на писане на Claude между Fable 5 и Fable 5.1 в десетки хиляди отговора на бенчмаркове. Fable 5.1 пише по-фактологично, но и по-многословно. Статията „Езикът на Claude Fable 5.1 е по-малко „носещ“ от този на предшественика му“…
DeepSeek пуска V4.1-Flash — мултимодален модел с 552 милиарда параметри, който намалява паметта за KV кеша до една четвърт от тази на предшественика си. На бенчмарка за програмиране DeepSWE той с малко надминава Opus 5 и GPT-5.6 Sol, въпреки че разполага само с 16 милиарда параметри…
