Microsoft въвежда нови правила за защита на личните данни при използването на ИИ в училищата

На фона на затягането на политиките компанията се съгласява да не използва данни на ученици за обучение и да забрани ИИ компаньоните.

На фона на затягането на политиките компанията се съгласява да не използва данни на ученици за обучение и да забрани ИИ компаньоните.

Microsoft се съгласи с набор от принципи за безопасност и поверителност при използването на ИИ в училищата седмица след като две големи училищни системи обявиха забрана за ИИ, насочен към учениците.

В ново споразумение с Американската федерация на учителите (AFT), втория по големина учителски синдикат в САЩ, и нейния филиал в Ню Йорк — Обединената федерация на учителите (UFT), Microsoft пое ангажимент към десет принципа, чието спазване може да бъде договорно наложено от училищните райони, които ги приемат. Условията включват обещание да не се обучават ИИ модели с данни на ученици или преподаватели, ограничаване на количеството данни, които Microsoft събира изначално, и разкриване пред семействата на начина, по който работят инструментите ѝ, на разбираем език; забрана на ИИ компаньоните и изискване за човешки преглед при „високорискови“ решения.

Споразумението идва, след като Ню Йорк и Лос Анджелис въведоха едногодишни забрани за ИИ инструменти за много ученици, давайки на районите време да обмислят правилната им употреба и необходимите ограничения. Тъй като родители и някои преподаватели се противопоставят на използването на ИИ и екрани като цяло в училищата, Microsoft вероятно осъзнава, че може да последват подобни решения. От ноември училищните райони ще могат да добавят условията към нови или съществуващи споразумения, без да се налага да предоговарят целите си договори.

AFT от своя страна е критична към технологиите в училищата, но също така е отворена към сътрудничество с технологични компании, за да се подготви за настоящата вълна на ИИ. В реч през май президентът на AFT Ранди Вайнгартен призова за забрана на екраните преди трети клас, както и на „ИИ, насочен към учениците“ преди прогимназията. Но организацията също така обяви център за обучение по ИИ на стойност 23 милиона долара за преподаватели, финансиран от Anthropic, Microsoft и OpenAI.

В изявление относно новото споразумение за поверителност с Microsoft Вайнгартен заяви, че условията са „железни“ и необходими, „защото никой друг, включително федералното правителство, не се зае да свърши истинската работа“. Тя добави: „Можем да ставаме все по-гневни, или да действаме решително; всичко, което не представлява правно приложими разпоредби, е просто списък с пожелания.“

• Лорън Файнър