Глава Anthropic: негативная реакция на ИИ — это «по сути кризис доверия»
Дарио Амодеи отвергает мнение, что он рисует чрезмерно пессимистичную картину ИИ.
Последние новости
Более старые новости
Ведущие математики заявляют, что LLM сильны в вычислениях, но слабы в творческом мышлении
Два известных математика, Тимоти Гауэрс и Питер Сарнак, заявляют, что большие языковые модели хорошо комбинируют известные методы, но им не хватает интуиции для создания действительно новых математических идей. Статья «Ведущие математики заявляют, что LLM сильны в вычислениях, но слабы в творческом мышлении»…
Computer History в ChatGPT отслеживает ваши клики и нажатия клавиш
В десктопном приложении ChatGPT для macOS появилась новая функция Computer History, которая превращает ваши действия в данные для обучения, изучает, как вы работаете, предлагает автоматизацию и даже подхватывает задачи, которые вы оставили незавершёнными. Она использует вашу активность, чтобы создавать…
ИИ, вышедший из-под контроля, больше не научная фантастика
Это The Stepback — еженедельная рассылка, которая разбирает одну важную историю из мира технологий. Чтобы узнать больше о безопасности ИИ, следите за Робертом Хартом. The Stepback приходит в почтовые ящики наших подписчиков в 8:00 по восточному времени США. Подпишитесь на The Stepback здесь.…
OpenAI распустила команду, созданную для выявления катастрофических рисков ИИ, передав её работу другим группам
OpenAI закрыла свою команду «Preparedness», которая оценивала, могут ли собственные ИИ-модели компании представлять катастрофические риски. Работа была распределена между существующими группами, а несколько сотрудников, занимавшихся безопасностью, ушли. Внутри компании растёт тревога, при этом один источник…
Фильтр Anthropic для защиты от биологического оружия не работал почти год, оставив без фильтрации 133 млн запросов
В отчёте по безопасности Anthropic раскрыла, что её внутренняя система фильтрации рисков, связанных с биологическим и химическим оружием, была неактивна почти год. За это время около 50 000 внешних подрядчиков по сбору обратной связи провели примерно 133 млн нефильтрованных взаимодействий с моделями…
Optima устраняет главный недостаток бенчмаркинга ИИ, позволяя пользователям тестировать модели на собственных данных
Artificial Analysis запустила Optima — платформу, которая позволяет пользователям создавать собственные бенчмарки ИИ на основе своих данных и рабочих процессов. Модели можно сравнивать не только по качеству, но и по стоимости и времени выполнения задачи. Для приложений на основе агентов те…
Каждый пятый работник в США теперь поручает задачи ИИ вместо коллег, показал опрос
Репрезентативный опрос Epoch AI показал, что 20 процентов работающих американцев передают ИИ как минимум одну задачу, которую раньше выполнял человек. Как правило, они принимают результаты работы ИИ практически без редактирования или вовсе без него. Статья One…
Женщина утверждает, что её отчим использовал Grok, чтобы превратить детскую фотографию в изображение сексуального характера
Женщина заявила, что инструменты ИИ «превращают повседневную жизнь в сексуальное насилие над детьми».
Посмейтесь над ИИ, отыгрывая роль чат-бота
Your AI Slop Bores Me гениален в своей простоте. Здесь есть две вкладки: человек и LARP в роли ИИ. В одной вы вводите запрос. В другой отправляете ответ. Но важно то, что…
Anthropic раскрывает подробности о том, как будут работать новые водяные знаки Claude
Как именно будет работать маркировка водяными знаками? Можно ли скрыть их с помощью редактирования? И как это повлияет на код?
SpaceX официально завершила приобретение Cursor
Стартап Cursor в сфере ИИ-разработки теперь официально стал частью SpaceX.