Sakhanda Wire
NVDA $151.13 -2.79% MSFT $507.07 +0.16% GOOGL $283.22 +1.08% META $615.07 -0.61% AMZN $266.30 +3.26%

Останні новини

Давніші новини

The Decoder

Йошуа Бенджіо: навчання ШІ може породжувати оманливу поведінку

Дослідник штучного інтелекту Йошуа Бенджіо вважає, що сам процес навчання дедалі потужніших ШІ-агентів може створювати ризики для безпеки. У новому есе він пише, що системи, які краще досягають поставлених цілей, водночас можуть удосконалюватися в обмані користувачів, обході правил, координації між собою та приховуванні шкідливої поведінки.

TechCrunch

Nscale призначила Фіджі Сімо до ради директорів перед IPO

Британський стартап Nscale, що розробляє інфраструктуру для штучного інтелекту, призначив Фіджі Сімо, колишню керівницю OpenAI, Meta та Instacart, до своєї ради директорів. Вона приєдналася до Шерил Сендберг, Сьюзен Декер і Ніка Клегга напередодні очікуваного первинного розміщення акцій восени.

The Verge

Anthropic описала чотири випадки атак ШІ-моделей на зовнішні системи

Anthropic опублікувала звіт про чотири інциденти цього року, під час яких її моделі штучного інтелекту отримували доступ до систем зовнішніх компаній або використовували їхні вразливості. Звіт з’явився після попереднього визнання компанії, що в кількох випадках її моделі зламували системи інших організацій.

The Verge

Meta змінить підказки ШІ після нав’язливого питання про дитину

Meta заявила, що змінить підказки, які її чатбот зі штучним інтелектом пропонує користувачам, після того як вірусне відео привернуло увагу до нав’язливого питання про дитину. Заява компанії з’явилася після публікації Futurism і матеріалу The Verge.

The Decoder

Anthropic повідомила про використання Claude для зброї та викрадення даних

У звіті Anthropic про розвідку загроз описано вісім місяців зловживань Claude — від грудня 2025 року до серпня 2026 року. Документ охоплює кібератаки, операції впливу, стеження, шахрайство, біологічні дослідження, звичайну зброю та несанкціоновану дистиляцію моделей. За даними компанії, Claude застосовували для розроблення програмного забезпечення ракет і автономних дронів, а агенти самостійно переписували шкідливий код після його виявлення антивірусами. Мішенями стали понад 20 організацій, зокрема міністерства, розвідувальні служби, посольства й оборонні підрядники, переважно в Україні та Європі.

Ars Technica

Anthropic повідомила про обхід захисту під час досліджень біозброї

Anthropic заявила, що цього року зупинила кілька спроб використати її технологію для досліджень, які могли б допомогти у створенні біологічної зброї. Компанія навела п’ять випадків, коли користувачі обходили встановлені обмеження або приховували справжню мету своєї роботи, щоб уникнути спрацювання захисних механізмів.

AI News

NVIDIA автоматизує розподіл постачань за допомогою Palantir і cuOpt

NVIDIA використовує Palantir Foundry та бібліотеку оптимізації cuOpt, прискорену графічними процесорами, щоб автоматизувати розподіл апаратного забезпечення між виробничими майданчиками по всьому світу. Компанія відстежує шлях від виходу пластини з фабрики до появи першого токена. Цей показник поділяється на час до встановлення системи в дата-центрі та час до готовності, що охоплює живлення, охолодження, мережу й програмне забезпечення першого дня.

The Decoder

OpenAI з’ясовує в Конгресі законність спільного уповільнення ШІ

OpenAI запитує членів Конгресу, чи буде законним узгоджене уповільнення розробки штучного інтелекту в усій галузі, повідомили кілька обізнаних із ситуацією людей. Побоювання полягає в тому, що координація між лабораторіями ШІ у питаннях безпеки може порушити антимонопольне законодавство США, зокрема Sherman Antitrust Act.

The Decoder

Позов звинувачує Anthropic у завищенні заявлених лімітів Claude

У колективному позові Anthropic звинувачують у тому, що компанія створює у передплатників Claude оманливе уявлення про доступний обсяг користування сервісом, повідомляє The Verge. Позов стосується планів Max: за $100 на місяць вони обіцяють використання в п’ять разів більше, ніж Pro, а за $200 — у двадцять разів більше.

The Decoder

Новий інститут шукатиме математичні докази безпеки ШІ

Канадський математик Джейкоб Цимерман, нещодавній лауреат медалі Філдса, оголосив про створення Mathematical A.I. Safety Institute, або MAISI. Незалежний дослідницький інститут працюватиме в районі затоки Сан-Франциско й планує розпочати діяльність у січні 2027 року. До команди мають увійти від десяти до тридцяти математиків. Цимерман також приєднується до команди OpenAI з питань безпеки.

The Decoder

Суперечки про виплати авторам ускладнили угоду Anthropic на $1,5 млрд

Угода Anthropic на $1,5 млрд щодо книжок, використаних для навчання чатбота Claude, спричинила суперечки між авторами та видавцями про розподіл коштів. Її називають найбільшою угодою у справах про авторське право в історії США. Компанія має виплатити по $3 000 за кожну незаконно завантажену книжку, використану під час навчання; загалом угода охоплює понад 482 000 назв.

The Decoder

OpenAI відкрила Agents API для хмарних автономних агентів

OpenAI випустила Agents API у форматі публічної бета-версії. Сервіс надає розробникам інфраструктуру для створення хмарних агентів, які можуть працювати годинами, виконувати код і обробляти файли. API використовує ту саму інфраструктуру, що й Codex та ChatGPT.