Microsoft вводит новые правила конфиденциальности ИИ для школ

На фоне ужесточения политики компания соглашается не обучать модели на данных учащихся и запрещает ИИ-компаньонов.

На фоне ужесточения политики компания соглашается не обучать модели на данных учащихся и запрещает ИИ-компаньонов.

Microsoft согласилась с набором принципов безопасности и конфиденциальности для ИИ в школах через неделю после того, как две крупные школьные системы объявили о запрете ИИ, ориентированного на учащихся.

В новом соглашении с Американской федерацией учителей (AFT), вторым по величине профсоюзом учителей в США, и ее нью-йоркским отделением — Объединенной федерацией учителей (UFT) — Microsoft обязалась соблюдать десять принципов, которые школьные округа, принявшие их, смогут закреплять в договорах. Условия включают обязательство не обучать модели ИИ на данных учащихся или преподавателей, ограничить объем изначально собираемых Microsoft данных и объяснять семьям простым языком, как работают ее инструменты, запретить ИИ-компаньонов и обеспечить проверку человеком решений, связанных с «высоким риском».

Соглашение появилось после того, как Нью-Йорк и Лос-Анджелес ввели годовые запреты на инструменты ИИ для многих учащихся, предоставив округам время для рассмотрения их надлежащего использования и защитных мер. Поскольку родители и некоторые преподаватели выступают против использования ИИ и экранов в школах в целом, Microsoft, вероятно, понимает, что подобные решения могут последовать и в других местах. Начиная с ноября школьные округа смогут включать эти условия в новые или существующие соглашения без пересмотра своих контрактов целиком.

Со своей стороны, AFT критически относится к технологиям в школах, но также готова сотрудничать с технологическими компаниями, чтобы подготовиться к нынешней волне ИИ. В майской речи президент AFT Рэнди Вайнгартен призвала запретить экраны до третьего класса, а также «ИИ, ориентированный на учащихся», до средней школы. Однако организация также объявила о центре обучения ИИ стоимостью 23 миллиона долларов для преподавателей, финансируемом Anthropic, Microsoft и OpenAI.

В заявлении о новом соглашении с Microsoft по защите конфиденциальности Вайнгартен назвала его условия «неподлежащими отмене» и необходимыми, «потому что никто другой, включая федеральное правительство, не взялся за настоящую работу». Она добавила: «Мы можем становиться все более и более разгневанными, а можем действовать решительно; все, что не является юридически обязательными положениями, — это просто список пожеланий».

• Лорен Файнер