СюжетыОбщество

Поговорим о гуманизме роботов

Может ли полиграф заменить следователя, а «система анализа» — литературного эксперта

Этот материал вышел в номере Цветной выпуск от 24.10.2008 №41
Читать
Людям свойственно преклоняться перед тем, чего они не понимают. Рекламщикам хорошо известна магия словосочетания «научными методами»: если преимущество одной зубной пасты над другими доказано «научными методами», то уж наверняка этому...

Людям свойственно преклоняться перед тем, чего они не понимают. Рекламщикам хорошо известна магия словосочетания «научными методами»: если преимущество одной зубной пасты над другими доказано «научными методами», то уж наверняка этому можно поверить, правда? То же самое еще не так давно относилось и к обороту «рассчитано на компьютере» — к счастью, компьютеры перестали быть сакральной сущностью, после того как утвердились на столе у каждого. Но находится еще очень много людей, которые верят, что система из неодушевленных датчиков и компьютеров априорно честнее, точнее и объективнее, чем живой человек. И они уверены, что стоит лишь натыкать таких систем везде, где это можно, как мы сразу избавимся от коррупции, судебных ошибок, взяточников из рядов полиции/милиции и прочих бед современного общества, и при этом ни один преступник не уйдет от наказания.

Одним из самых распространенных инструментов для подобного самообольщения стали системы искусственного интеллекта*, т.е. технические устройства, моделирующие некоторые функции, ранее считавшиеся исключительной прерогативой человеческого разума.

Упирать на термин «искусственный интеллект» (ИИ) в рекламе своих разработок сейчас не принято, и причина этому простая: усилиями журналистов и некоторых излишне оптимистично настроенных ученых это направление исследований еще пару-тройку десятилетий назад породило у публики завышенные ожидания. Они очень хорошо отразились в фантастической литературе и кино, где очеловеченные роботы, говорящие межпланетные корабли и компьютеры, стремящиеся подчинить человечество, стали уже своеобразным штампом. Осознание того, что машинный разум есть идея, ничуть не менее фантастичная, чем фотонный двигатель или «прыжки через пространство», происходило медленно и «за кадром», и, в общем, этот процесс так и не закончен, хотя термин «ИИ» почти ушел из обихода. А зря.

Потому что на самом деле ИИ вполне работает здесь и сейчас. Только это не Терминаторы и Робокопы (т.е. не особый такой вид разума, созданный искусственно, который по большому счету-то и не нужен никому), а совсем другие вещи: инструменты для расширения возможностей нашего, вполне естественного разума. Одним из самых ярких примеров успеха ИИ служит банальная программа Fine Reader фирмы ABBYY, хорошо знакомая каждому владельцу сканера. Ибо распознать в черточках на бумаге букву «А» во всех ее многообразных начертаниях, да еще и отнести ее к нужному языку — это очень непростая задача, еще лет двадцать назад доступная только естественному разуму.

Очевидным примером успеха ИИ служат также шахматные программы, уже давно играющие в силу чемпионов мира. Есть и не столь разрекламированные, но от этого не менее важные и интересные применения ИИ: это, например, поведение персонажей компьютерных игр, элементы ИИ в программах для игры на бирже, фильтрах для отсеивания спама в электронной почте, поисковых технологиях в Интернете. Устройства для идентификации отпечатков пальцев и другие биометрические системы (сканирование радужки глаза, формы головы). Роботы, наконец, — и не только демонстрационные игрушки вроде танцующего робота фирмы Honda или нашумевшей собачки Aibo от Sony, но и сотни тысяч промышленных роботов, не умеющих разговаривать, зато очень хорошо выполняющих рутинные операции. Без особого шума появились и бурно размножаются младшие братья Терминатора: военные роботы, которые, по прогнозам, к 2020 году будут составлять армию США уже на треть.

Очень яркую демонстрацию возможностей современного ИИ устроила недавно российская компания Cognitive Technologies. Эта фирма, организованная на базе научного коллектива под руководством член-корреспондента РАН Владимира Львовича Арлазарова, не очень известная широкой публике в силу своей ориентированности на корпоративный рынок, тем не менее является одним из крупнейших в стране разработчиков программного обеспечения для государственных органов и крупных компаний. Одно из главных направлений в Cognitive Technologies — системы документооборота, в которых разработчики пытаются добиться от компьютеров того, что они сами называют «понимание документа». В этой области им удалось, например, разработать автоматический рубрикатор (компьютер автоматически сортирует тексты, относя их к определенным темам по содержанию).

И успехи в этой области компания решила продемонстрировать на продукте, который официально называется «Система автоматического анализа и сравнения текстов». Это программа, которая с высокой точностью определяет авторство текста, причем делает это не на основе лишь нескольких признаков, как при «ручной» экспертной проверке на предмет плагиата, а вычисляет более сотни характеристик, сводя их в единый критерий, индивидуальный в такой же степени, как отпечатки пальцев.

Честно говоря, до демонстрации в Cognitive я не сомневался, что при надлежащей сноровке подделать чужой стиль письма несложно, и еще проще переписать чужой текст так, чтобы выдать за свой. Разработчики компании наглядно показали, что это не легче, чем стереть отпечатки пальцев, причем метод нельзя обмануть заменой слов, перестановкой абзацев и предложений в тексте. Одна из демонстраций устанавливала степень близости текста басни Крылова «Ворона и лисица» с ним же самим, но с сыром, замененным на сервелат, вороной — на корову и лисицей — на синицу. Для программы эти тексты оказались практически неотличимы!

Особенно эффектным был анализ текстов одной очень популярной писательницы, которую обвиняли в плагиате. Программа показала, что спорный отрывок практически наверняка принадлежит именно тому автору, который выдвинул обвинения, а не писательнице, а заодно выявила очень большой разброс стиля и в других ее произведениях. Как показало сравнение с другими авторами, такой разброс невозможно получить искусственно при всем желании (напрашивающиеся выводы мы проанализируем ниже).

Эта методика, кроме всего прочего, может оказаться полезной филологам или историкам, для которых точное установление авторства текста часто крайне важный фактор исследований. Но мы сейчас поговорим о другом аспекте применения подобных инструментов — о судебной практике. Программа Cognitive, крайне простая в использовании и убедительная в представлении результатов, прямо-таки напрашивается для замены живого эксперта, определяющего плагиат. Правильно ли будет использовать ее в подобном качестве? Для ответа на этот вопрос стоит обратиться к другому, более традиционному направлению в криминалистике — использованию полиграфа, знаменитого детектора лжи.

Полиграф, пожалуй, может служить типичным примером наукообразного шарлатанства. Даже энтузиасты этого устройства признают, что 30-50% эффективности теста на нем обусловлено квалификацией эксперта, проводящего испытание. Отсюда выводятся часто приводящиеся в рекламных целях 80-95% достоверности теста, но если исключить человеческий фактор (как и предполагается в идеале), то результаты будут ошибочными, по крайней мере, в трети-половине случаев, что не сильно отличается от простого гадания бросанием монеты. И это в США, где с 1931 года, когда был впервые выдан патент на полиграф, накоплен огромный опыт его эксплуатации, — что же говорить о наших доморощенных экспертах, рекламирующих «кадровые проверки на детекторе лжи»? Мало того, любой фантазер, который умеет себя самого заставить поверить в собственную выдумку (а таких людей совсем немало), гарантированно запутает полиграф, особенно если не поддастся на манипулятивный миф о якобы невозможности обмана и перестанет бояться.

Показания полиграфа практически во всех странах мира не принимаются в качестве доказательства в суде, но «научную» мысль не остановить. Неизвестно, кому впервые пришла в голову идея использовать в качестве детектора лжи запись электрических колебаний головного мозга, но в Индии подобная методика уже принята, и даже послужила основанием для осуждения женщины по имени Шарма по обвинению в убийстве своего жениха. Мало того, разработками индийского нейробиолога Чампади Рамана Мукундана, который и построил прибор, применявшийся в этом судебном процессе, говорят, заинтересовались в Израиле и Сингапуре. О том, что единственное научно достоверное знание в любом тесте на любой разновидности детектора лжи, независимо от применяющейся технологии, состоит в фиксировании у испытуемого состояния стресса (который, естественно, может быть вызван просто самим фактом испытания), энтузиасты скромно умалчивают — слишком большие деньги крутятся в этой сфере.

Полиграф — это ведь тоже искусственный интеллект, коли он берет на себя функции распознавания образов, в данном случае — образа лживого поведения. Причем опытные работники правоохранительных органов, проводящие десятки допросов в неделю, справляются с этой задачей однозначно лучше любого полиграфа, на каком принципе он ни был бы основан.

Подделать результаты наукообразного теста гораздо проще, чем даже оказать давление на следователя, ибо следователь знает, что его заставляют врать, и когда-нибудь может сказать правду. А в ситуации, когда в потоке информации от прибора разбирается лишь ограниченный круг специалистов (причем специалистов предвзятых, верящих в возможности полиграфа), практически ничего уже доказать невозможно. Методики, подобные детекторам лжи, уже потому оказываются псевдонаучными, что не поддаются главному научному принципу — фальсификации, опровергнуть их результаты крайне трудно (помочь может разве что неопровержимое алиби).

Если вернуться к программе сравнения текстов компании Cognitive, то и она, при всей своей наглядности, сама по себе еще ничего не доказывает (именно поэтому я здесь не стал приводить фамилии писательницы, о которой шла речь, хотя вы легко найдете полное описание этой демонстрации в интернет-СМИ, со всеми подробностями). Интерпретировать результаты, выдаваемые любым «усилителем разума» (как образно называли компьютеры и их программы в начале информационной эры), может только человек, который один умеет принимать во внимание огромное количество факторов, неподвластных компьютеру.

Простой пример: допустим, мы с помощью компьютера убедительно показали, что упомянутая писательница не сама пишет свои тексты (кстати, при простом сравнении спорных фрагментов ни у одного человека без всякого компьютера не возникнет сомнения в том, что плагиат налицо). И только человек может поставить вопрос так: ну и что? Ее немедленно следует посадить в тюрьму и изъять все книги из обращения? А если взять и сравнить, например, те же басни Крылова с баснями Лафонтена или те и другие с некоторыми античными текстами — не окажется ли в пределе, что честных авторов вообще в природе не существует, а все без исключения литературные произведения есть лишь плагиат и ничего нового написать невозможно?

Постановкой подобных вопросов мы приходим в том числе к одной из самых важных в этой области проблем — проблеме цены справедливости. Осужденная за убийство на основе показаний «мозгового» полиграфа индийская женщина вполне может оказаться и невиновной. И в случае индийских судей, перекладывающих решение на неодушевленный прибор, налицо банальная попытка избежать ответственности за свои действия, переложить тяжесть морального решения на «объективную науку». Для чего наука, как известно, не приспособлена в принципе. И к каким последствиям такой подход может привести, объяснять, наверное, не требуется.

shareprint
Добавьте в Конструктор подписки, приготовленные Редакцией, или свои любимые источники: сайты, телеграм- и youtube-каналы. Залогиньтесь, чтобы не терять свои подписки на разных устройствах
arrow