Новости
Фото, paige wilks
Американская частная школа Alpha School, позиционирующая себя как «учебное заведение будущего» на основе ИИ, обращается с учениками как с «подопытными кроликами» — к такому выводу пришли бывшие сотрудники, чьи показания наряду с внутренними документами компании изучило издание 404 Media. Школа, обучение в которой стоит до $65 тысяч в год, генерирует для детей некачественные учебные материалы с логическими ошибками и незаконно использует контент сторонних образовательных платформ.
Главный образовательный продукт Alpha School — приложение AlphaRead, обучающее чтению и пониманию текста от начальной до старшей школы. Оно использует языковые модели OpenAI, Google и Anthropic для генерации статей и тестов. Внутренние документы фиксируют системные проблемы: вопросы с логически некорректными формулировками, задания, на которые можно ответить, не читая текст, а также «галлюцинации» ИИ, составляющие не менее 10% материалов. «Плохо составленные вопросы наносят больше вреда, чем пользы», — написал один из сотрудников во внутренней системе Workflowy.
Помимо низкого качества собственных материалов, школа систематически нарушала авторские права сторонних платформ. Онлайн-сервис IXL прекратил сотрудничество с Alpha School из-за нарушения условий пользования. Платформа Albert.io также отказалась работать с компанией, сославшись на «прошлые нарушения». Внутренние документы показывают, что сотрудников прямо инструктировали незаконно скачивать чужой контент с нескольких крупных образовательных платформ. Образовательный проект Khan Academy сообщил изданию, что использование его материалов для обучения ИИ-моделей запрещено условиями сервиса: тем не менее контент платформы появился у Alpha School под брендом Nice Academy — с тем же интерфейсом и теми же образовательными видео, но без упоминания Khan.
Как отмечается, отдельную проблему представляет слежка за учениками. Приложение StudyReel записывает экраны детей, их лица через веб-камеру и движения мыши. Все эти данные хранятся в таблицах Google, доступных по публичной ссылке — то есть их может просмотреть любой, кто получил эту ссылку, в том числе бывшие сотрудники компании.
Несмотря на хвалебные публикации в Fox News и New York Times, а также визит министра образования США Линды Макмахон, которую школа «поразила», бывшие сотрудники Alpha School подчеркивают: высокие результаты тестов у учеников объясняются прежде всего работой живых наставников, а не ИИ. Сама школа признает вероятность эффекта селективности — ее ученики являются детьми состоятельных родителей, глубоко заинтересованных в образовании. Один из сотрудников сказал, что «заявления [руководства школы] об ИИ-магии — ложные».
Ранее опубликованное исследование показало, что внедрение генеративного искусственного интеллекта в рабочий процесс не сокращает объем труда сотрудников, а наоборот, — последовательно его наращивает.