Впечатляющие планы Google по внедрению искусственного интеллекта в образование вызывают все большую тревогу. Технологический гигант выразил стремление преобразовать образование с помощью искусственного интеллекта.
Бен Уильямсон, старший научный сотрудник Эдинбургского университета пишет:
«Когда генеральный директор Google Сундар Пичай выступил на ежегодной конференции разработчиков ввода-вывода 18 мая 2021 года, он сделал два объявления, в которых говорилось, что Google сейчас является самой влиятельной организацией в мире в сфере образования. Открывая прямую трансляцию из садов кампуса Маунтин-Вью, Пичаи отметил, что Google смог «помочь студентам и учителям продолжать обучение из любого места» во время пандемии.
Через несколько минут он анонсировал новую языковую платформу искусственного интеллекта Google, которая является центральной частью долгосрочной стратегии компании в области искусственного интеллекта, с конкретным примером использования из сферы образования. Он утверждал, что LaMDA (языковая модель для диалоговых приложений) может позволить учащимся задавать вопросы на естественном языке и получать разумные, основанные на фактах и интересные разговорные ответы.
«Так что, если бы студент хотел узнать больше о космосе, — написал Пичаи в блоге компании, — модель дала бы разумные ответы, сделав обучение еще более увлекательным и увлекательным. Если этот студент затем захочет переключиться на другую тему, — добавил он, — LaMDA могла бы продолжить разговор без какой-либо переподготовки ». Компания планирует включить LaMDA в свой набор инструментов, программного обеспечения и продуктов для облачных вычислений Workspace.
Эти декларации показывают, как Google планирует развивать свой бизнес в сфере образования после сбоев, вызванных COVID-19, путем консолидации огромного роста своих платформ в школах и интеграции ИИ в обучение и обучение. Это вызывает новые опасения среди участников кампаний по обеспечению конфиденциальности и исследователей, поскольку дает Google доступ к данным об учащихся и школах в международном масштабе.
В связи с возобновлением работы школ по всему миру, Google упорно трудился, чтобы обеспечить сохранение и укрепление больших рыночных успехов, достигнутых в 2020 году, по мере того, как учащиеся возвращаются в физические, а не виртуальные классы. Количество пользователей своей платформы цифрового обучения Google Classroom увеличилось до 150 миллионов с 40 миллионов годом ранее, и в начале 2021 года компания объявила о новой «дорожной карте» для этой платформы.
«Поскольку все больше учителей используют Класс в качестве своего« центра »обучения во время пандемии, многие школы рассматривают его как свою систему управления обучением (LMS)», — написал руководитель программы Класса. «Хотя мы не собирались создавать LMS, Classroom стремится удовлетворить растущие потребности школ».
Дорожная карта для Класса как школьной LMS была всего лишь одним планом, изложенным на ежегодной конференции Learning with Google, которая также включала запуск 40 новых моделей ноутбуков Chromebook и обновление функций во всех образовательных продуктах. Эти разработки иллюстрируют продолжающееся стратегическое расширение, которое Google осуществляет в сфере образования в течение 15 лет с момента запуска своего бесплатного программного обеспечения для образования в 2006 году и недорогих Chromebook в 2011 году. Его конкурентное преимущество как в школьном оборудовании, так и в программном обеспечении улучшилось только во время пандемии. .
Постоянное расширение охвата Google в сфере образования всегда вызывало большие споры. Пять лет назад некоммерческая организация по защите цифровых свобод Electronic Frontier Foundation подала официальную жалобу в Федеральную торговую комиссию на Google за сбор и извлечение личной информации школьников с устройств Chromebook и Google Apps для образования (переименованных в Workspace for Education) без разрешения или согласия -выходные варианты. Исследователи из Университета Бораса в Швеции подчеркнули, как политика конфиденциальности Google Apps for Education скрывает его бизнес-модель, делая практически невозможным выяснить, какие данные он собирает о студентах и для чего их использует Google.
Интеллектуальный анализ данных Google в образовании становится все более спорным. В феврале 2020 года генеральный прокурор Нью-Мексико подал иск, в котором утверждалось, что Google нарушает конфиденциальность студентов, использующих его Chromebook и программное обеспечение, в нарушение как федерального закона, так и Обязательства о конфиденциальности учащихся, подписанным самой компанией Google. Google, как заявил генеральный прокурор, пообещал собирать, хранить, использовать и передавать данные о студентах исключительно в образовательных целях, но продолжал добывать их в коммерческих целях.
Тем не менее, в последующие месяцы Google продолжал расширяться в системах образования по всему миру, часто при поддержке государственных или национальных департаментов образования и международных организаций, таких как ОЭСР.
Споры по поводу сбора и обмена данными могут усилиться с расширением Класса. Исследование, опубликованное командой из университетов Австралии и Великобритании, в котором я недавно участвовал, выявило, как сотни внешних поставщиков образовательных технологий интегрированы в Класс, что потенциально позволяет Google расширить свои методы извлечения данных далеко за пределы платформы. Дорожная карта для Класса подтверждает его планы по расширению этой интеграции через «рынок» «надстроек для Класса», которые учителя могут затем назначать, не требуя входа в систему дополнительных учеников. Это делает Класс сам по себе основным средством доступа учащихся к другим ресурсам, не относящимся к Google.
Эти разработки наделяют Google исключительными полномочиями по контролю над технологической отраслью образования, поскольку он устанавливает правила для других сторонних поставщиков, которые должны интегрироваться с Классом и обмениваться данными между ними. В своей новой роли LMS Classroom может даже интегрироваться с существующими школьными информационными системами, выступая в качестве ключевого интерфейса между школой и записями учащихся.
Вместе расширение Классной комнаты и ее интеграции отдают приоритет определенной модели обучения, основанной на постоянном сборе и обмене данными об учащихся между платформами через Google Cloud. В этих разработках все труднее проводить различие между коммерческой и образовательной целью. Бизнес-модель Google по извлечению данных стала симметричной и поддерживающей цифровые подходы к преподаванию и обучению, которые сам Google помог установить в качестве глобальной модели будущего образования.
ТЕХНО-ЭТИЧЕСКИЙ АУДИТ
Теперь похоже, что Google продвинет свои новые функции искусственного интеллекта и в школы. Разговорный интерфейс искусственного интеллекта Google затронет не только образование, но, как стало ясно из заявления Сундара Пичаи на конференции I / O, образование является очевидным вариантом использования таких технологий.
Технологии крупноязычных моделей являются одними из самых спорных из последних разработок Google. В конце прошлого года группа исследователей, включая двух соруководителей группы по этическому ИИ в самой Google, подготовила исследовательский документ, в котором утверждается, что в эти модели встроены вредные идеи, предубеждения и вводящая в заблуждение информация. Впоследствии Google уволил авторов из своей команды по этическому ИИ, что вызвало всеобщее осуждение и серьезные вопросы о долгосрочных этических последствиях его стратегии ИИ.
Это поднимает тревожный вопрос о том, может ли установка языковых технологий искусственного интеллекта Google в образовательных продуктах воспроизводить предубеждения и дезинформацию в учебных заведениях. В I / O Пичай утверждал, что дальнейшая разработка обеспечит «справедливость, точность, безопасность и конфиденциальность» в LaMDA до полного развертывания, хотя увольнение специалистов по этическому ИИ ослабляет доверие к этим утверждениям.
По мнению авторов нового исследования «Don’t Be Evil: следует ли использовать Google в школах?», Компания заслуживает гораздо более пристального внимания перед дальнейшим расширением сферы образования. Используя метод «технико-этического аудита», исследовательская группа из Университета Северного Техаса обнаружила, что «Google извлекает личные данные студентов, игнорирует законы, направленные на их защиту, нацеливает их на получение прибыли, скрывает намерения компании в их Условиях предоставления услуг». Сервис, рекомендует вредную информацию и искажает знания учащихся ».
Технико-этический аудит — важный шаг на пути к растущей роли Google в образовании. Но остаются более серьезные вопросы о влиянии частных технологических компаний на государственные и общественные системы образования, а также о потенциале новых платформ искусственного интеллекта и облачных вычислений для изменения практики и приоритетов школьного сектора.
Участие частных компаний в образовании не ново, но международный масштаб влияния больших технологий, а также технологические и этические последствия появления новых платформ, искусственного интеллекта и систем данных в школах действительно требуют нового внимания. Компания Google создала оборудование, программное обеспечение, а также базовые облачные системы и системы данных, от которых системы образования все больше зависят, в масштабах, пересекающих географические и политические границы и континенты. Это технические, этические и политические вопросы, решение которых следует поручить не только преподавателям и руководителям школ. Их необходимо решать на нормативном уровне и путем демократического коллективного обсуждения будущего школ после пандемии.»
https://www.fastcompany.com/90641049/google-education-classroom-ai
