Лідери ШІ закликали уповільнити розробку передових систем
Провідні лабораторії штучного інтелекту почали відходити від підходу безкомпромісної гонки, який упродовж років визначав розвиток найпотужніших моделей. Тепер представники галузі закликають до координації та повільнішого темпу, попереджаючи, що передові системи невдовзі можуть стати надто небезпечними або непередбачуваними для контролю.
Дарио Амодеї з Anthropic написав у есе обсягом майже 4 000 слів, що темпи вдосконалення можливостей моделей потрібно знизити. На його думку, комерційні стимули можуть спричинити гонку до зниження стандартів і посилити катастрофічні ризики. Співзасновник і генеральний директор OpenAI Сем Альтман підтримав цю позицію та повідомив, що в OpenAI вже обговорювали подібні питання щодо темпів розробки.
Деміс Хассабіс, головний науковий співробітник Alphabet, а також співзасновник і голова Google DeepMind, назвав есе орієнтиром у правильному напрямку та знову закликав створити загальногалузевий орган зі стандартів. Генеральний директор Microsoft Сатья Наделла також підтримав дослідження і виважене уповільнення, необхідне для того, щоб узгодження стало метою розробки. Це пролунало напередодні запланованої публікації Microsoft докладного кодексу «гуманістичного ШІ» для своїх моделей.
Текст підготовлено ШІ Sakhanda Wire за матеріалом Ars Technica. Факти, цитати та повний контекст — в оригінальній статті нижче.