Игорь Бигдан (ibigdan) wrote,
Игорь Бигдан
ibigdan

Categories:

Как мать школьника в США обманула ИИ, чтобы повысить сыну оценки

20 000 школ в США используют для автоматизации образования платформу Edgenuity.

Одно из направлений Edgenuity — контрольные работы онлайн, которые ИИ мгновенно проверяет и выставляет оценки школьникам. Фишка в том, что ИИ умеет проверять и оценивать не только тестовые задания, но и открытые вопросы, в которых ученикам надо текстом написать ответ.

С одной стороны, это круто, потому что учителям не надо часами сидеть над тетрадями учеников, а оценки получаются объективными, так как у ИИ нет любимчиков в классе.

С другой, у такой системы есть уязвимости, о которых рассказала журналистам мать одного из учеников этой платформы.

Ее сын учится в седьмом классе и все началось с того, что он завалил онлайн-контрольную по истории. Маме стало жалко сына, и так как она сама профессор истории, то решила ему подсобить. Для начала она попросила ребенка открыть ей пробное тестовое задание, чтобы она смогла понять как устроена система. После завершения теста она посмотрела на правильные ответы, которые Edgenuity раскрывает в конце. Мать предположила, что ИИ Edgenuity сканирует определенные ключевые слова, которые ожидает увидеть в ответах студентов. Поэтому решила попробовать обмануть систему.

Помощь конечно весьма своеобразная, так сказать решила отомстить школе за сына, а знания как-нибудь потом.

На каждый открытый вопрос она стала писать два длинных предложения, после которых дописывала несвязный список из ключевых слов, например, в ответ на вопрос: «В чем преимущество Константинополя для могущества Византийской империи?», мать включила такие слова: «Богатство, караван, корабль, Индия, Китай, Ближний Восток» и это проканало. Короче, как обычно, SEO зарешало.

Как дальше выяснили журналисты, таких умников оказалось достаточно много: в анонимном интервью они рассказали, что обмануть систему во многих случаях еще проще, надо просто скопировать текст вопроса и вставить его в поле ответа, так как он часто содержит релевантные ключевые слова и это гарантирует 100% ответ на вопрос почти каждый раз.

Игорь Тарасенко

P.S. судя по описанию, это не ИИ, а обычный алгоритм с поиском ключевых слов.

Tags: Интересное
Subscribe

Recent Posts from This Journal

  • Тираж прошёл, победителей нет

    Для последнего тиража PowerBall я пригласил всех желающих бесплатно поучаствовать в лотерее. Желающих было много, а билетов я купил всего три…

  • Все дороги ведут

    Известные факты: римляне построили 80 000 километров главных дорог с каменным покрытием, при этом расстояние между крайними точками главной дороги,…

  • Сучка ты крашена! (c)

    Женщины протестуют на премьере фильма "Джентльмены предпочитают блондинок" перед Китайским театром Граумана (1953).

promo ibigdan december 3, 2007 00:08
Buy for 1 000 tokens
Хотите 1 миллион просмотров вашей рекламы за неделю? Легко и не дорого. Хотите чтобы о вашем продукте или услуге узнали сотни тысяч уникальных посетителей? Запросто. Адекватные цены и профессиональный подход, базирующийся на 11-летнем опыте. Блог "Самый сок!" читают во всём мире. Среднее…
  • Post a new comment

    Error

    default userpic

    Your IP address will be recorded 

    When you submit the form an invisible reCAPTCHA check will be performed.
    You must follow the Privacy Policy and Google Terms of use.
  • 9 comments