Игорь Бигдан (ibigdan) wrote,
Игорь Бигдан
ibigdan

Categories:

Мы вас изучаем, кожаные ублюдки

Anatoly Vorobey: Эта фотография сделана фундус-камерой (специальной камерой, фотографирующей глазное дно). Она из прошлогодней статьи, в которой исследователи из Гугла показали, что методами глубокого обучения можно предсказывать некоторые факторы риска сердечных заболеваний на основании таких вот снимков.

Но в процессе работы над данными они также попробовали предсказать другую информацию о больных, например, возраст и пол. И оказалось, например, что их нейронная сеть может с точностью 97% предсказать, это глазное яблоко мужчины или женщины, при том, что врач-офтальмолог не может этого сделать вообще (точность 50-50).

Это очень яркий пример того, как современные методы глубокого обучения дают нам добиться потрясающих результатов, но часто не дают нам возможности понять и объяснить их. На картинке выделены зеленым цветом те участки фотографии, которые нейронная сеть особенно активно использовала для установления пола - это мы можем отследить. Но что именно в этих участках указывает на мужчин или на женщин, исследователям установить не удалось, несмотря на довольно интенсивную работу в сотрудничестве с медиками-специалистами в данной области.

Так это и осталось на данный момент черным ящиком. Дай ему фотографию - он тебе скажет пол и возраст с большой точностью, а как - никто не знает.

Статья тут.

Сэм Онегин: Основной признак настоящего искусственного интеллекта - то что его эвристика будет непонятна и непрозрачна для нас, выращенных исходя из других установок.

В конце-концов мы ровно таким же невнятным и неартикулируемым образом определяем что человек улыбается наиграно, скрывает страх или влюблен в нас по настоящему.

Tags: Интересное, Ух ты!
Subscribe
promo ibigdan december 3, 2007 00:08
Buy for 1 000 tokens
Хотите 1 миллион просмотров вашей рекламы за неделю? Легко и не дорого. Хотите чтобы о вашем продукте или услуге узнали сотни тысяч уникальных посетителей? Запросто. Адекватные цены и профессиональный подход, базирующийся на 11-летнем опыте. Блог "Самый сок!" читают во всём мире. Среднее…
  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your reply will be screened

    Your IP address will be recorded 

  • 37 comments