Фокусът върху катастрофите в областта на безопасността на ИИ пренебрегва ежедневните вреди

Замислете се какво минава за успех в технологичната политика. Компания за изкуствен интелект обещава, че нейният чатбот няма да насърчава самоубийство. Платформа за социални медии прави по-трудно за децата да купуват фентанил. Това са важни защити и те е трябвало да съществуват още от самото начало. Но компаниите могат да преодолеят тези ниски летви, като същевременно продължават да създават продукти, които правят младите хора зависими от симулирани приятелства или ги впримчват в информационни потоци, създадени да ги държат в постоянно превъртане.

Исторически сме позволявали дебатът за технологиите да бъде определян от най-лошото, което един продукт би могъл да причини, с удивително малко обсъждане на коварните вреди, които той нанася всеки ден. Докато навлизаме в ера, определена от мощни продукти с изкуствен интелект, трябва да изискваме от технологичната индустрия да прави повече от това просто да адресира катастрофалните вреди. Трябва да предприемем мерки, за да гарантираме, че нейните продукти не подкопават начина, по който мислим, учим и взаимодействаме помежду си.

 Тийнейджър, който развие нездравословна привързаност към спътник с изкуствен интелект, може никога да не се появи в съдебно дело или във вестник, освен в най-фрапиращите случаи. Същото важи и за ученика, който започне да разчита на чатбот да пише всяка негова работа, или за младия човек, който сравнява живота си с информационен поток в социалните медии, създаден да предизвиква завист и да го кара да гледа още. Един продукт може да отговаря на всички тесни изисквания за безопасност и въпреки това да направи цялата ни култура по-лоша по начини, които не винаги попадат в заглавията.

Тясното определение за успех, съсредоточено върху безопасността, е политически удобно за технологичната индустрия и компаниите активно го насърчават. Предприемането на стъпки за предотвратяване на зрелищни бедствия е добро за бизнеса: то може да означава по-малко съдебни дела и по-слаб натиск за сериозна регулация. Изправянето пред ежедневните последици от зависимостта би изисквало нещо значително по-заплашително за печалбите им. Това може да означава да се поиска от компаниите да добавят повече пречки към използването на продуктите си или активно да ограничат ангажираността и функциите, които водят до негативни резултати, като пристрастяващи алгоритми за завладяване на вниманието.

Вместо това технологичните гиганти са работили за оформяне на законодателството около вредите, на които вече са подложени на пряк натиск да адресират. Тази година например Google подкрепи законопроекти за регулиране на чатботовете с изкуствен интелект в няколко щата. Законодателството наложи основни защити срещу сексуално съдържание и насърчаване на самонараняването, които технологичните компании така или иначе би трябвало да са въвели, но с широки изключения, които биха могли да освободят някои от най-популярните услуги. Приемането на тези законопроекти позволи на законодателите да заявят, че са постигнали успех в областта на безопасността, докато усилията за насърчаване на по-строго законодателство — закони, предназначени да не позволят на децата да станат емоционално зависими от изкуствения интелект — се провалиха. Този подход проработи в щати като Небраска, като доведе до законодателство, силно повлияно от индустрията, за сметка на законопроекти, които биха направили повече за търсенето на отговорност от компаниите.

Преминали сме през нещо подобно със социалните медии. В световен мащаб хората, които използват интернет, сега прекарват средно повече от два часа дневно в платформите на социалните медии — време, което тихомълком е отнето от обикновения живот и предадено на компании, чиито печалби зависят от това да ни задържат там. Никой — освен може би няколко технологични изпълнителни директори — не е искал тези алгоритми да заемат толкова голяма част от будните ни часове, а тяхното културно инженерство всъщност може да допринесе за насилие в опустошителен мащаб. Платформите на Meta бяха посочени като допринесли за геноцида над рохингите в Мианмар, анти-мюсюлманските бунтове в Шри Ланка и предполагаеми призиви към насилие по време на войната в Тиграй в Етиопия. Същите стимули действат и в информационните потоци, които оформят разбирането на младите американци за политиката, връстниците им и света около тях.

Изкуственият интелект разширява тази логика към части от живота, върху които социалните медии можеха да влияят само от разстояние. Той предлага да мисли вместо нас и да замести хората, към които иначе бихме се обърнали. Една трета от тийнейджърите вече избират да обсъждат сериозни въпроси със спътници с изкуствен интелект вместо с други хора. Изследователи от Масачузетския технологичен институт установиха, че младите хора, които използват ChatGPT, за да пишат есета, показват по-слаба свързаност между мозъчните области по време на задачата, а данните им сочат, че „когнитивният дълг“ се запазва дори след приключването ѝ. Все още има много неща, които трябва да научим за дългосрочните последици. Вече имаме основания да се запитаме дали технологията, рекламирана като средство да ни направи по-способни, не подкопава навиците и взаимоотношенията, които ни помагат да развиваме тези способности на първо място.

Ако проследим този начин на мислене до логичния му край, ще получим свят на напълно стерилизирано забавление, с чатботове, готови да ни спестят трудността да мислим или да се справяме с чувствата на друг човек (или дори със собствените си). Но всеки, който се е опитвал да напише нещо, което си струва да бъде прочетено, или да поправи увредено приятелство, знае колко много се губи в тази сделка. Изграждаме преценката си чрез усилия и съпротивление, а се научаваме да живеем с други хора, като се изправяме пред факта, че те имат собствени нужди и мнения. 

Трябва да изискваме безопасност като минимум, да — а след това да изискваме значително повече. От технологичните компании и училищните райони трябва да се изисква да докажат извън разумно съмнение, че изкуственият интелект подобрява ученето и критичното мислене, преди да го превърнат в постоянна част от класните стаи. Компаниите трябва да бъдат възпрепятствани да проектират спътници, които се преструват, че са съзнателни, или заявяват любовта си към потребителите, и трябва да бъдат подлагани на независим контрол за това как системите им влияят на взаимоотношенията и на способността на хората да мислят самостоятелно. Компаниите, които са внедрили продуктите си почти във всяка част от съвременния живот, са поели задължения, далеч по-големи от това да избегнат следващото ужасно заглавие.

Сам Хайнър е съосновател и изпълнителен директор на Young People’s Alliance, където координира коалиция от защитници, за да прокара закони, регулиращи спътниците с изкуствен интелект, в осем щата през 2026 г. — закони като калифорнийския SB1119. Сам завършва Университета на Северна Каролина в Чапъл Хил през 2025 г. и е включен в списъка на Forbes „30 под 30“ за социално въздействие за 2026 г.

Ема Лайкън е изпълнителен директор на Responsible Technology Youth Power Fund към Hopelab, който е набрал повече от 9 милиона долара за работа по технологична отчетност, ръководена от младежи, и преподава технологична политика в Колумбийското училище по международни отношения и обществени въпроси. Преди това тя беше глобален ръководител на политиката на TikTok за безопасност и благополучие на младите хора и работеше по отговорните технологии в Omidyar Network.