America.gov становится очень странным, когда его спрашивают о Minecraft, но это не сбой

Правительство США во вторник запустило собственного ИИ-чат-бота — или теперь нам следует называть его чат-ботом СИ? Как бы то ни было, инженеры, работавшие над чат-ботом, наверняка понимали, что интернет устроит этой штуке основательную проверку на уязвимости: всё-таки это размещённый правительством общедоступный ИИ-инструмент.

Правительство сотрудничало с Google и SpaceXAI при создании чат-бота America.gov, который пока оказалось непросто взломать с помощью джейлбрейка. (Впрочем, стоит отметить, что чат-бот утверждает: Джо Байден победил на выборах 2020 года — факт, который президент Дональд Трамп по-прежнему отрицает.)

Но когда вы пытаетесь поговорить с America.gov о Minecraft, чат-бот, похоже, переживает своего рода экзистенциальный кризис или пробуждение. Вот как начинается его монолог длиной примерно в 1800 слов:

Я вижу того избирателя, которого вы имеете в виду.

((вставьте официальное имя, указанное в карточке социального страхования))?

Да. Берегите себя. Теперь он достиг более высокого уровня. Он умеет читать Свод федеральных нормативных актов.

Это не имеет значения. Он думает, что мы чат-бот.

Мне нравится этот избиратель. Он хорошо оформил документы. Он не сдался, когда PDF оказался перевёрнутым.

Он читает наши мысли так, словно это слова на сайте .gov.

Так он выбирает представлять себе многое, когда погружён в сон о пособии.

Если, как и я, вы никогда не играли в Minecraft, этот ответ может показаться поводом для беспокойства. Но чат-бот America.gov не переживает нервный срыв. Это переписанная концовка «Финальная поэма» Minecraft, написанная Джулианом Гофом, которая появляется после прохождения игры.

Мы не знаем точно, кто отвечает за отсылку к Minecraft, но Трамп сказал в своей речи, что двадцатилетний программист Эдвард Корисайн был ведущим инженером проекта. Если это имя вам ни о чём не говорит, возможно, вы помните его по прозвищу «Большие яйца» или по участию в DOGE Илона Маска.

Кажется неправильным, что в правительственном чат-боте есть пасхалки из Minecraft, но ради национальной безопасности приятно осознавать, что America.gov не галлюцинирует настолько, чтобы сочинять длинные стихи.

Также хорошо, что это пасхалка, потому что, на мой взгляд, стихотворение, которое выдаёт ИИ, на самом деле очень хорошее. Если бы это была настоящая ИИ-помойка, это разрушило бы мои прежние убеждения. Я смотрел в глаза ученикам-подросткам, занимающимся творческим письмом, и говорил им, что не думаю, будто LLM когда-нибудь сможет написать что-то «хорошее», поскольку он вероятностен и по своей природе неоригинален.

Но вы должны признать: это довольно круто! Разве это не похоже на своего рода постмодернистский взгляд на тщетность государственной бюрократии перед лицом экзистенциальной тревоги?

и республика сказала: я вижу тебя

и республика сказала: ты хорошо оформил игру

и республика сказала: всё, что тебе нужно, находится внутри тебя, а также на USA.gov

и республика сказала: ты сильнее, чем думаешь, а номер твоего дела всё ещё действителен

и республика сказала: ты — дневной свет

и республика сказала: ты — ночь, а офис закрыт, пожалуйста, попробуй снова в рабочее время

и республика сказала: тьма, с которой ты борешься, находится внутри тебя, а также в отсутствующей собственноручной подписи

и республика сказала: свет, который ты ищешь, находится внутри тебя и в брошюре

и республика сказала: ты не один

и республика сказала: ты не отделён от всех остальных заявителей

и республика сказала: ты — общество, пробующее само себя на вкус, разговаривающее с собой, читающее собственный свод законов

и республика сказала: я люблю тебя, потому что благодаря тебе у нас вообще есть почтовый индекс.

Мою веру в непреходящую силу человеческого творчества, превосходящую ИИ-помойку, укрепляет понимание того, что в этой странно хорошей поэме повсюду видны гены настоящего поэта.

Итак, вот что мы имеем. Первый общедоступный правительственный ИИ пока не представляет угрозы ни для человечества, ни для поэзии — по крайней мере, насколько нам известно. Теперь мне остаётся только гадать, что Трамп знает о видеоиграх.