Исследователь Anthropic предупредил о самоулучшающемся сверхинтеллекте
Исследователь Anthropic ушёл из компании на этой неделе и опубликовал в X предупреждение, заявив, что она «мчится прямо к самоулучшающемуся сверхинтеллекту и ставит на кон наши жизни». Руководитель направления alignment в Anthropic также подписал это сообщение, не отозвав и не смягчив его. Подобные опасения по поводу рисков всё более мощных моделей уже звучали в индустрии искусственного интеллекта.
Особое внимание к заявлению привлекли сообщения о том, что Anthropic готовится к IPO. В подкасте Equity Kirsten Korosec, Anthony Ha и Sean O’Kane обсудили, что отставка и поддержка предупреждения со стороны руководителя направления говорят о конкуренции компаний за создание более способных моделей.
В выпуске также рассматривалось первое крупное мероприятие Apple под руководством генерального директора John Ternus. Среди тем были акцент компании на AI и постоянно активные функции Watch и AirPods. Кроме того, ведущие обсудили привлечение Stokes Space $1 миллиарда, инвестиции в Cognition на $2 миллиарда при оценке $48 миллиардов и посевной раунд на $50 миллионов для плавучих ядерных реакторов, которые должны помочь обеспечивать энергией центры обработки данных для AI.
Текст подготовлен ИИ Sakhanda Wire по материалу TechCrunch. Факты, цитаты и полный контекст — в оригинальной статье ниже.