OpenAI, Anthropic и Google DeepMind обсъждат безопасността на ИИ
Ръководителят на глобалната политика на OpenAI Крис Лихейн заяви пред журналисти във вторник, че компанията от няколко седмици обсъжда безопасността на изкуствения интелект с Anthropic и Google DeepMind. По данни от публикацията той е във Вашингтон, където работи с американски законодатели по рисковете, свързани с напредналите системи за ИИ. Разкритието последва есе на главния изпълнителен директор на Anthropic Дарио Амодей, призовал индустрията да си сътрудничи и да забави развитието на водещите модели, за да ограничи катастрофалните рискове.
Сам Алтман от OpenAI, Демис Хасабис от Google и Илон Мъск от SpaceXAI подкрепиха призива. Алтман каза, че OpenAI ще работи с Anthropic за включване на независими оценители, които да следят безопасността. Той и други представители предупредиха, че подобна координация може да породи антитръстови проблеми. Амодей предложи ограничено държавно изключение, но Лихейн заяви, че такова не е необходимо. Според The Information трите компании подготвят и орган за индустриални стандарти.
Президентът Доналд Тръмп и съветникът му Дейвид Сакс отхвърлят опасенията за екзистенциален риск и по-строгите правила. Лихейн каза, че OpenAI подкрепя разпоредба в закона FRONTIER Act за независима проверка на водещите лаборатории.
Текстът е изготвен от ИИ на Sakhanda Wire по материал на TechCrunch. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.