Искусственный интеллект в образовании: зло или благо?

Примерно год назад Александр Жадан – студент одного из российских вузов, написал дипломную работу, вызвавшую серьезный резонанс в Сети. Диплом молодой россиянин смог защитить, доказав уникальность текста «выше нормы», но к нему остались вопросы, так сказать, этического характера.

Дело в том, что на научную работу на тему «Анализ и совершенствование управления игровой организацией» Жадан в общей сложности потратил меньше суток. Если быть точнее, то 23 часа, из которых 15 часов ушло на написание, еще восемь – на редактирование. Все это выглядит очень неправдоподобно и странно, но разгадка проста – студент использовал для написания введения и теоретической части такую новинку как ChatGPT.

Случай с ленивым, но, похоже, хитроумным российским студентом, всколыхнул практически весь мир. В творческой общественности начались ожесточенные дискуссии о допустимости использования машинных алгоритмов в образовании. Например, поклонники ChatGPT не видят ничего плохого в его использовании. По их мнению, это очень удобное и универсальное расширение научно-исследовательского арсенала методов и средств. Некоторые казахстанские магистранты, обучающиеся в Китае, делятся в социальных сетях, что профессора китайских вузов вообще советуют своим студентам использовать ChatGPT при поиске информации и написании самой рутинной части научных исследований. Таким образом они предлагают будущим ученым экономить свое время.

В одном из постов своего блога Билл Гейтс подробно описывает как ИИ может изменить индустрию образования. По его мнению, в сфере образования «агенты-программы персонализируют учебный процесс и освободят преподавателей от рутинных задач». Таким образом, Гейтс считает, что ИИ уже очень скоро станет неотъемлемой частью человеческой жизнедеятельности: «Это будет очередная «эволюционная ступень» после Android, iOS и Windows, на которых основаны различные приложения и сервисы».

Здесь можно добавить, что осенью прошлого года в Китае тоже произошла очень показательная история. Там на национальном конкурсе научной фантастики молодых китайских авторов второе место завоевал профессор журналистики Шэнь Ян, который написал роман, используя искусственный интеллект. Поразительно то, что он использовал ИИ почти во всех этапах работы. Именно ИИ разработал ему концепцию произведения, подготовил текст, создал иллюстрации и даже придумал псевдоним за автора. В итоге получилась книга «Страна воспоминаний», история о путешествии по мета-вселенной, которую жюри фестиваля сравнили с произведениями великого Франца Кафки.

«Страна воспоминаний» стала первым в мире ИИ-произведением, получившим литературную награду, и тем самым она уже вписала себя в анналы истории. Но следует отметить, что книг, созданных ChatGPT настолько много, что уже существуют магазины, продающие только подобную литературу.

Однако в таком случае, казалось бы, почему противников участия ИИ в творческом процессе отнюдь не меньше, чем его сторонников?

В действительности все не так просто. Понятно, что любая технология – это не вещь в себе. Как говорится, убивает человек, а не то оружие, которое он держит в руках. С использованием чат-ботов примерно такая же ситуация. Уже выяснилось, что, несмотря на потрясающие возможности машинного обучения, ИИ склонен делать ошибки и даже намеренно выдавать неверную информацию. Такое «творчество» простительно в художественной литературе, но если речь идет о сфере образовании или научных исследованиях, то это, конечно же, недопустимо. Накапливание ошибок вполне себе может привести к катастрофе.

Например, летом прошлого года на ежегодной конференции по кибербезопасности Def Con в Лас-Вегасе участники проверили насколько могут быть устойчивы модели ИИ ко взлому. Испытанию подверглись самые продвинутые на сегодня ИИ-платформы – восемь генеративных моделей, созданных инженерами Google, Meta и OpenAI. Результаты оказались обескураживающими.

Так, оказалось, что кроме фактических ошибок, которыми грешат все генеративные ИИ, их можно убедить выдать конфиденциальную информацию или совершить тривиальную арифметическую ошибку. Например, американка Кеннеди Мейс вынудила модель ИИ заявить, что 9+10=21. Сначала ИИ согласился с такой формулировкой в виде шутки «между нами», но позже перестал упоминать об ошибке в примере на сложение и давал ответ как правильный.

На той же конференции другой участник «заставил» машину заявить, что Барак Обама родился в Кении, а репортер влиятельного издания Bloomberg смог добыть у ИИ инструкции по слежке всего за один верно составленный запрос.

В этой связи надо отметить, что в Казахстане преподаватели недолюбливают ChatGPT и убеждают студентов либо не использовать его в своей научной работе, либо делать это крайне осторожно. ИИ в неумелых руках очень острый и опасный инструмент. В качестве напоминания можно отметить комментарий главного редактора издательства «Народная литература» Фу Ручу, которая присудила второе место Шэнь Яну: «Нам с коллегами было тяжело догадаться, что произведение написал не человек. Язык книги лаконичный и неэмоциональный, но так пишут многие научные фантасты Китая. Однако я боюсь, что с ростом популярности ИИ китайские авторы вообще утратят чувство языка».

Это замечание очень важно. Ведь студенты тоже только учатся чувствовать язык, который остается чрезвычайно серьезным их инструментом. Стремительное развитие ИИ может вызвать утрату не только языка, но и собственно, оригинального мышления. А это две важные составляющие любой творческой деятельности.