Исследователи заставляют людей думать как компьютеры
Компьютеры, подобные тем, которые приводят в движение автомобили с автоматическим управлением, могут быть обмануты, чтобы принять случайных каракулей за поезда, заборы и даже школьные автобусы. Люди не должны видеть, как эти изображения запутывают компьютеры, но в новом исследовании исследователи показывают, что большинство людей на самом деле могут.
Компьютеры, подобные тем, которые приводят в движение автомобили с автоматическим управлением, могут быть обмануты, чтобы принять случайных каракулей за поезда, заборы и даже школьные автобусы. Предполагается, что люди не смогут увидеть, как эти изображения запутывают компьютеры, но в новом исследовании исследователи из Университета Джона Хопкинса показали, что большинство людей на самом деле могут.
Полученные данные свидетельствуют о том, что современные компьютеры могут не так сильно отличаться от людей, как мы думаем, и демонстрируют, как достижения в области искусственного интеллекта продолжают сокращать разрыв между визуальными способностями людей и машин. Исследование появляется сегодня в журнале Nature Communications.
«В большинстве случаев исследования в нашей области направлены на то, чтобы заставить компьютеры думать как люди», — говорит старший автор Чаз Файрстоун, доцент кафедры психологических и мозговых наук Джона Хопкинса. «Наш проект делает обратное — мы спрашиваем, могут ли люди мыслить как компьютеры».
То, что легко для людей, часто трудно для компьютеров. Системы искусственного интеллекта уже давно лучше, чем люди, занимающиеся математикой или запоминающие большие объемы информации; но в течение десятилетий люди имели преимущество в распознавании повседневных предметов, таких как собаки, кошки, столы или стулья.
Но недавно «нейронные сети», имитирующие мозг, приблизились к способности человека идентифицировать объекты, что привело к технологическим достижениям, поддерживающим автомобили с автоматическим управлением, программы распознавания лиц и помогая врачам выявлять отклонения в рентгенологическом сканировании.
Но даже с этими технологическими достижениями есть критическая слепая точка: возможно специально создавать изображения, которые нейронные сети не могут правильно видеть. И эти изображения, называемые «состязательными» или «обманывающими» изображениями, представляют собой большую проблему: они не только могут быть использованы хакерами и создают угрозу безопасности, но и предполагают, что люди и машины действительно видят изображения совершенно по-разному.
В некоторых случаях все, что нужно компьютеру для того, чтобы назвать яблоко автомобилем, — это перенастроить один или два пикселя. В других случаях машины видят броненосцев и рогаликов в том, что выглядит как бессмысленная телевизионная статика.
«Кажется, что эти машины неправильно распознают объекты так, как люди никогда не будут», — говорит Файерстоун. «Но удивительно, что никто не проверял это на самом деле. Откуда мы знаем, что люди не видят, что сделали компьютеры?»
Чтобы проверить это, Файерстоун и ведущий автор Чжэнлун Чжоу, старший специалист по когнитивной науке Джона Хопкинса, по сути попросили людей «мыслить как машина». Машины имеют только относительно небольшой словарный запас для именования изображений. Так, Firestone и Zhou показали людям десятки дурацких изображений, которые уже обманули компьютеры, и дали людям те же самые варианты маркировки, которые были у машины.
В частности, они спрашивали людей, какой из двух вариантов компьютер решил для объекта — один был реальным выводом компьютера, а другой — случайным ответом. (Был ли шарик изображен бублик или вертушка?) Оказывается, люди полностью согласились с выводами компьютеров.
Люди выбирали тот же ответ, что и компьютеры, в 75% случаев. Возможно, еще более примечательно, что 98 процентов людей склонны отвечать, как компьютеры.
Затем исследователи повысили ставку, предоставив людям выбор между любимым ответом компьютера и его лучшим выбором. (Был ли этот объект изображен как бублик или крендель с солью?) Люди снова подтвердили правильность выбора компьютера, причем 91 процент опрошенных согласились с выбором машины.
Даже когда исследователи заставляли людей выбирать между 48 вариантами выбора объекта и даже тогда, когда снимки напоминали телевизионную статику, подавляющая часть испытуемых выбирала то, что машина выбирала намного выше, чем случайный случай. Всего 1800 субъектов были проверены в ходе различных экспериментов.
«Мы обнаружили, что если вы поместите человека в то же положение, что и компьютер, люди вдруг согласятся с машинами», — говорит Файерстоун. «Это все еще проблема для искусственного интеллекта, но это не значит, что компьютер говорит нечто совершенно непохожее на то, что скажет человек».
