Microsoft запроваджує нові правила конфіденційності ШІ для шкіл

На тлі посилення контролю за політикою компанія погоджується не використовувати дані учнів для навчання моделей і заборонити ШІ-компаньйонів.

На тлі посилення контролю за політикою компанія погоджується не використовувати дані учнів для навчання моделей і заборонити ШІ-компаньйонів.

Microsoft погодилася з набором принципів безпеки та конфіденційності для використання ШІ в школах через тиждень після того, як дві великі шкільні системи оголосили про заборону ШІ для учнів.

У новій угоді з Американською федерацією вчителів (AFT), другою за величиною профспілкою вчителів у США, та її нью-йоркським підрозділом — Об’єднаною федерацією вчителів (UFT) — Microsoft зобов’язалася дотримуватися десяти принципів, виконання яких шкільні округи, що їх приймуть, зможуть вимагати на договірній основі. Умови передбачають зобов’язання не навчати моделі ШІ на даних учнів або освітян, обмежити обсяг даних, які Microsoft збирає на початковому етапі, і зрозумілою мовою пояснювати сім’ям, як працюють її інструменти, заборонити ШІ-компаньйонів і вимагати перевірки людиною рішень із «високим рівнем ризику».

Угода з’явилася після того, як Нью-Йорк і Лос-Анджелес запровадили річні заборони на інструменти ШІ для багатьох учнів, надавши округам час для розгляду належного використання технології та запобіжників. Оскільки батьки й деякі освітяни загалом виступають проти використання ШІ та екранів у школах, Microsoft, імовірно, усвідомлює, що подібні рішення можуть ухвалити й інші округи. Починаючи з листопада шкільні округи зможуть додавати ці умови до нових або чинних угод без необхідності переглядати свої контракти повністю.

Зі свого боку, AFT критично ставиться до технологій у школах, але водночас готова співпрацювати з технологічними компаніями, щоб підготуватися до нинішньої хвилі ШІ. У травневій промові президентка AFT Ренді Вайнгартен закликала заборонити екрани до третього класу, а також «ШІ, орієнтований на учнів», до середньої школи. Водночас організація оголосила про створення навчального центру з питань ШІ вартістю 23 мільйони доларів для освітян, який фінансують Anthropic, Microsoft і OpenAI.

У заяві про нову угоду з Microsoft щодо конфіденційності Вайнгартен назвала її умови «непорушними» та необхідними, «бо ніхто інший, зокрема федеральний уряд, не взявся виконати справжню роботу». Вона додала: «Ми можемо дедалі більше обурюватися або діяти рішуче; усе, що не має юридично обов’язкових положень, — це просто список побажань».

• Лорен Файнер