Машина иронии: зачем исследователи искусственного интеллекта учат компьютеры распознавать иронию?

Какова была ваша первая реакция, когда вы услышали о Блейке Лемуане, инженере Google, который в прошлом месяце объявил, что программа искусственного интеллекта (ИИ), над которой он работал, имеет развитое сознание?

Если вы, как и я, по своей природе подозрительны, то, возможно, это было что-то вроде:

• Неужели этот парень говорит серьезно?
• Он и в самом деле верит в то, что несет?
• А может это всё — тщательно продуманная мистификация?

Отложите ответы на эти вопросы в сторону. Вместо этого, сосредоточьтесь на самих вопросах. Не правда ли, даже задавать их — значит предполагать нечто крайне важное о Блейке Лемуане, а именно — что лично Блейк сам наделен сознанием?

Иными словами, мы все можем легко себе представить, что Блейк Лемуан способен на обман.

И мы можем представить такое, поскольку предполагаем, что существует разница между его внутренними убеждениями (тем, во что он искренне верит) и его внешним выражением: тем, что он утверждает, во что верит.

Разве такое различие не является признаком сознания?

В таком случае, почему мы не можем предположить то же самое о компьютере?

Сознание как «трудная проблема»

Философы не зря называют сознание «трудной проблемой». Как известно, его трудно определить.

Но пока давайте будем считать, что сознательное существо — это способное иметь мысль и не разглашать ее.

Это означает, что сознание является предпосылкой для иронии, или для того, чтобы говорить одно, а подразумевать противоположное. Я знаю, что вы иронизируете, когда понимаю, что ваши слова не соответствуют вашим мыслям.

То, что большинство из нас обладает такой способностью — и большинство из нас регулярно передают свои невысказанные значения таким образом — это то, что, я думаю, должно удивлять нас чаще, чем это происходит.

Это кажется почти нечеловеческим.

Животные, конечно, могут быть смешными — но не преднамеренно.

А как насчет машин? Могут ли они обманывать? Могут ли они хранить секреты? Способны ли они ИРОНИЗИРОВАТЬ?

ИИ и ирония

Общепризнанный факт (по крайней мере, среди ученых), что любой исследовательский вопрос, какой только можно придумать, используя буквы «ИИ», уже изучается где-то армией вычислительных ученых с неприлично раздутыми финансовыми ресурсами — зачастую (если не всегда) финансируемых военными США.

Это, безусловно, относится к вопросу об ИИ и иронии, который в последнее время привлекает значительный исследовательский интерес.

Конечно, учитывая, что ирония подразумевает, что человек говорит одно, а подразумевает  нечто противоположное, создание машины, способной ее распознать, не говоря уже о том, чтобы ее генерировать, — задачка не из простых.

Но если бы мы смогли создать такую машину, она имела бы множество практических применений, некоторые из которых были бы более зловещими, чем остальные.

Например, в эпоху онлайн-отзывов ритейлеры очень увлеклись так называемым «анализом мнений» и «анализом настроений», который использует ИИ для определения не только содержания, но и настроения комментариев рецензентов. Знание того, хвалят ваш продукт или же он стал предметом шуток (мемов), является ценной информацией.

Или рассмотрим модерацию контента в социальных сетях. Если мы хотим ограничить злоупотребления в Интернете, защищая при этом свободу слова, не будет ли полезно знать, когда кто-то говорит серьезно, а когда просто шутит?

А что если кто-то напишет в Твиттере, что он только что вступил в местную террористическую ячейку или пакует бомбу в чемодан и направляется в аэропорт? (Кстати, НИКОГДА не пишите подобное в Твиттере.) Только представьте, если бы мы могли мгновенно определить — он это говорит серьёзно или просто «иронизирует».

На самом деле, учитывая близость иронии ко лжи, нетрудно представить, как весь теневой механизм правительственной и корпоративной слежки, выросший вокруг новых коммуникационных технологий, нашел бы перспективу создания детектора иронии чрезвычайно интересной.

И это в значительной степени объясняет рост литературы по данной тематике.

ИИ — от Clippy до распознавания лиц

Чтобы понять состояние современных исследований в области ИИ и иронии, полезно знать немного об истории ИИ в целом.

Эта история обычно делится на два периода.

До 1990-х годов исследователи стремились программировать компьютеры с помощью набора формальных правил поведения в заранее определенных ситуациях (алгоритмы).

Если вы пользовались Microsoft Word в 1990-х годах, то, возможно, помните раздражающего офисного помощника Clippy, который бесконечно появлялся на экране со своим ненужным советом.

С начала века на смену этой модели пришло машинное обучение на основе данных и нейронные сети.

Здесь огромные массивы примеров тех или иных явлений переводятся в числовые значения, на основе которых компьютеры могут выполнять сложные математические операции для определения закономерностей, которые не смог бы обнаружить ни один человек.

Более того, компьютер не просто применяет правило. Скорее, он учится на опыте и разрабатывает новые операции независимо от вмешательства человека.

Разница между этими двумя подходами — это разница между Clippy и, скажем, технологией распознавания лиц.

Исследование сарказма

Чтобы создать нейронную сеть, способную распознавать иронию, исследователи сначала сосредоточились на том, что некоторые считают самой простой ее формой — сарказме.

Исследователи начинают с данных, взятых из социальных сетей.

Например, они могут собрать все твиты, помеченные #sarcasm, или сообщения на Reddit, помеченные /s — сокращение, которое используют пользователи Reddit, чтобы показать, что они несерьезны.

Суть не в том, чтобы научить компьютер распознавать два разных значения любого саркастического сообщения. На самом деле, смысл не имеет абсолютно никакого значения.

Nothing to see here snowflakes!#sarcasm https://t.co/84CsLh894w

— Sally Cinnamon 🍋 #GTTO (@SallyCinamon66) July 18, 2022

Вместо этого компьютер получает инструкции по поиску повторяющихся паттернов (шаблонов), или того, что один из исследователей называет «синтаксическими отпечатками» — слов, фраз, эмодзи, пунктуации, ошибок, контекста и так далее.

Кроме того, набор данных пополняется путем добавления новых потоков примеров — например, других сообщений в тех же темах или с того же аккаунта.

Каждый новый отдельный пример проходит через целую батарею вычислений, пока мы не придем к единому определению: сарказм это или не сарказм.

Наконец, можно запрограммировать бота, который будет отвечать каждому оригиналу сообщения и спрашивать, был ли это сарказм. Потом любой ответ может быть добавлен в копилку опыта компьютера.

Успешность самых последних детекторов сарказма приближается к поразительным 90% — больше, чем (как я подозреваю) могли бы достичь многие из нас.

Итак, если предположить, что ИИ будет продолжать развиваться теми же темпами, которые менее чем за два десятилетия привели нас от Clippy к технологии распознавания лиц, то может ли ироничный андроид уже не так далек от нас?

Что такое ирония?

А есть ли качественная разница между тем, чтобы разобраться в «синтаксических отпечатках пальцев» иронии и тем, чтобы её ПОНЯТЬ?

Некоторые считают, что нет. Если компьютер можно научить вести себя точно так же, как человека, тогда не важно, скрывается ли в его поведении богатый внутренний мир смысла.

Но вот ирония, пожалуй, представляет собой уникальный случай: она опирается на различие между внешним поведением и внутренними убеждениями.

В фильме 1994 года «Реальность кусается» героиня дает знаменитое определение иронии (в очень упрощенных терминах).

— Дай мне определение иронии.

— Ирония… Это существительное. Это когда что-то… иронично. Это.. Ну, на самом деле, я не могу дать ей определение, но чувствую, когда она есть!

---

— Можешь дать определение иронии?

— Это когда настоящее значение — противоположность сказанному.

Здесь, возможно, стоит вспомнить, что, хотя ученые-вычислители заинтересовались иронией совсем недавно, философы и литературные критики думают о ней уже очень давно.

И, возможно, изучение этой традиции, так скажем, — прольет старый свет на новую проблему.

Из многих имен, которые можно было бы назвать в данном контексте, два просто незаменимы: немецкий философ-романтик Фридрих Шлегель и постструктуралистский теоретик литературы Поль де Ман (школа деконструктивизма).

Для Шлегеля ирония не просто подразумевает ложный, внешний смысл и истинный, внутренний. Скорее, в иронии два противоположных смысла представляются как одинаково истинные. А возникающая неопределенность имеет разрушительные последствия для логики, прежде всего для закона непротиворечия, который гласит, что высказывание не может быть одновременно истинным и ложным.

Действительно, де Ман считает, что весь язык заражен иронией и включает в себя то, что он называет «постоянным парабазисом». Поскольку люди обладают способностью скрывать свои мысли друг от друга, всегда будет существовать возможность — постоянная возможность — того, что они не имеют в виду то, что говорят.

Другими словами, ирония не является одним из высказываний или формулировок (в отличие от многих прочих). Она структурирует — а вернее, преследует каждое высказывание и общение (взаимодействие).

И в этом смысле она превосходит порядок доказательств и вычислений.

Вопрос в том, будет ли это справедливо для человека в целом.

25 июля 2022 года

Источник: The Conversation

Last Updated on 12.09.2024 by iskova