Игорь Бигдан (ibigdan) wrote,
Игорь Бигдан
ibigdan

Categories:

Как мать школьника в США обманула ИИ, чтобы повысить сыну оценки

20 000 школ в США используют для автоматизации образования платформу Edgenuity.

Одно из направлений Edgenuity — контрольные работы онлайн, которые ИИ мгновенно проверяет и выставляет оценки школьникам. Фишка в том, что ИИ умеет проверять и оценивать не только тестовые задания, но и открытые вопросы, в которых ученикам надо текстом написать ответ.

С одной стороны, это круто, потому что учителям не надо часами сидеть над тетрадями учеников, а оценки получаются объективными, так как у ИИ нет любимчиков в классе.

С другой, у такой системы есть уязвимости, о которых рассказала журналистам мать одного из учеников этой платформы.

Ее сын учится в седьмом классе и все началось с того, что он завалил онлайн-контрольную по истории. Маме стало жалко сына, и так как она сама профессор истории, то решила ему подсобить. Для начала она попросила ребенка открыть ей пробное тестовое задание, чтобы она смогла понять как устроена система. После завершения теста она посмотрела на правильные ответы, которые Edgenuity раскрывает в конце. Мать предположила, что ИИ Edgenuity сканирует определенные ключевые слова, которые ожидает увидеть в ответах студентов. Поэтому решила попробовать обмануть систему.

Помощь конечно весьма своеобразная, так сказать решила отомстить школе за сына, а знания как-нибудь потом.

На каждый открытый вопрос она стала писать два длинных предложения, после которых дописывала несвязный список из ключевых слов, например, в ответ на вопрос: «В чем преимущество Константинополя для могущества Византийской империи?», мать включила такие слова: «Богатство, караван, корабль, Индия, Китай, Ближний Восток» и это проканало. Короче, как обычно, SEO зарешало.

Как дальше выяснили журналисты, таких умников оказалось достаточно много: в анонимном интервью они рассказали, что обмануть систему во многих случаях еще проще, надо просто скопировать текст вопроса и вставить его в поле ответа, так как он часто содержит релевантные ключевые слова и это гарантирует 100% ответ на вопрос почти каждый раз.

Игорь Тарасенко

P.S. судя по описанию, это не ИИ, а обычный алгоритм с поиском ключевых слов.

Tags: Интересное
Subscribe
promo ibigdan december 3, 2007 00:08
Buy for 1 000 tokens
Хотите 1 миллион просмотров вашей рекламы за неделю? Легко и не дорого. Хотите чтобы о вашем продукте или услуге узнали сотни тысяч уникальных посетителей? Запросто. Адекватные цены и профессиональный подход, базирующийся на 11-летнем опыте. Блог "Самый сок!" читают во всём мире. Среднее…
  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your reply will be screened

    Your IP address will be recorded 

  • 9 comments