КолонкаКультура

Кукловоды против объективного зла

Прежде чем заставлять искусственный интеллект читать школьные сочинения, нужно выяснить: это вообще может сработать? Или все это нужно вовсе не для сохранения жизней?

Этот материал вышел в номере № 108 от 27 сентября 2021
Читать
Петр Саруханов / «Новая газета»

Петр Саруханов / «Новая газета»

Новаторская идея выделить 1,6 млрд рублей на разработку ПО, способного выявлять среди школьников склонность к социально опасному поведению на основе анализа их письменных работ, вполне укладывается в логику цифрового огораживания общественного пространства. Я не специалист в данном вопросе и не знаю, возможно ли такое ПО; но я могу предположить, что

раз в России 16 миллионов школьников, а инцидентов со школьными террористами в худшем случае несколько десятков, то получается, что ПО должно будет из 1 600 000 сочинений вычислить одно-два.

С учетом высочайших способностей к обману и к имитации, которые демонстрируют психопатические личности (от «Колумбайна» до Перми, когда и родители, и друзья до конца оставались в неведении, хотя «подготовка» шла буквально у них под носом), на уровне концепта эта идея звучит так себе. Существует еще и вероятность ошибки, да и не станет ли система отлавливать всех тех, кто в принципе демонстрирует отклонения от «стандартов», — что, в общем, исходное условие любого творчества?

Но я не эксперт, и я могу ошибаться. Все что требуется от авторов предложения — это хотя бы данные (объективные, независимые, фиксируемые, проверяемые), на основании которых делается предположение, что такое ПО:

а) возможно;

б) эффективно.

Опыт других стран, аналогичных систем, тесты, эксперименты — что угодно, кроме мнений, надежд и точек зрения.

И представлять доказательства нужно до, а не после того, как программа запущена. Дело ведь не только в деньгах. У нас есть ограниченное количество времени до новой трагедии — и есть вопрос, как их предотвратить? На вопрос надо найти ответ. Если в поисках мы будем опираться на объективные данные, на базу с доказанной эффективностью, то шансов найти ответ у нас больше. Но если это время мы потратим на эксперименты, продиктованные лишь интуицией или нашей верой в якобы безграничную силу алгоритмов, то в случае провала мы потеряем не только деньги, но и жизни людей.

С учетом, что стрельбу в Перми уже пытаются использовать как предлог для дальнейшей зачистки интернета, оснований для скепсиса более чем достаточно. В пакете со скринингом сочинений идут и другие рецепты высокого начальства: патриотическое воспитание, ограждение «молодежи» от «негативного влияния» в интернете, в соцсетях, в кино, видеоиграх и на ТВ. Так и хочется спросить, сколько десятилетий назад идеологи «воспитания» сами общались с молодежью.

Патернализм наших правителей зашел так далеко, что даже очевидному психопату они отказывают в праве совершить преступление по злому умыслу. Они переусердствовали в поглощении современной поп-культуры, где дурным вкусом считается выписывать чистых карикатурных злодеев, а нужно придумать сложных, с детскими травмами, хитрыми мотивациями и «переживаниями». В искусстве трагедия — «это когда обе стороны правы»; в реальной жизни, увы, иначе. Тут встречается объективное зло, которое стоит изучать, но вовсе не обязательно давать ему мотивации, помимо психического расстройства.

Авторы мема о «негативном влиянии виртуального насилия», сами будучи кукловодами, мир измеряют по себе. Для них человек — «чистый лист», на котором внешние манипуляторы, мастера НЛП и лимбических сил, способны писать что угодно. Поэтому за «мозги молодежи», в их представлении, идет война. Наверное, они искренне убеждены, что «колумбайны» можно предотвратить возвратом к студотрядам, пионерам, комсомольцам, агитаторам и пропагандистам. А где пять раз прозвучит «видеоигры воспитывают убийц», на шестой раз точно вырвется кое-что о «плане Даллеса».

Читайте также

«Отбросы» и «боги»

Что общего между пермским и казанским стрелками, совершившими массовые убийства. Можно ли было их остановить. Мнение специалистов

Обойдемся без рассуждений о «природе власти» и том, как она искажает сознание, о поколенческом и возрастном. В чем главная ошибка этого тезиса? В его антинаучности.

Ровно так же, как лжемедицине противостоит доказательная медицина (разница — в фиксируемых доказательствах эффективности), в госуправлении сражаются «старая» политика — субъективная, где решения принимаются из представлений лидеров об эффективности, и доказательной политикой, опирающейся на объективные, фиксируемые, проверяемые данные.

И от медицины, и от политики зависят жизни огромного количества людей, вообще нас всех. Но доказательность в медицине определить проще, чем в политике. Там нет спора о цели — все более-менее понимают, что целью лечения является выздоровление/качество жизни пациента. В политике такого консенсуса нет. Одни считают, что цель — благосостояние граждан, но другие возразят — первично государство, т.к. оно хранит наши «ценности», а чтобы оно было сильным, нужен режим личной власти. В этом плане доказательная политика нам не поможет: за целеполагание отвечает идеология. Но если вы хотите достичь цели, эффективность применяемых стратегий должна быть доказана.

Читайте также

Берсерки

Массовые расстрелы стали возможны потому, что Америка вооружает убийц идеальным для их целей оружием

Грустный пример: скажем, в вопросе удержания власти наше руководство действует доказательно. Их эффективность велика, потому что они действуют исходя не из своих ощущений и представлений, а из объективной оценки ситуации. И если цель — ликвидировать интернет как угрозу, то национализация рунета — пример доказательной политики.

Но если цель — это предотвращение «колумбайнов», то никаких доказательств их связи с виртуальным насилием, интернетом, соцсетями не существует. То, что на «подвальных записях» убийцы Харрис и Клиболд обсуждали, будет ли снимать их «историю» Спилберг или Тарантино, не доказывает ничего, кроме того, что убийцы знали фамилии режиссеров.

Тот факт, что убийца играл в видеоигры, еще не доказывает, что видеоигры были причиной его поступка.

Для эффективной политики нужны доказательства, соответствующие научным критериям. Корреляция, т.е. совпадение, связь — вовсе не означает причинность. Иными словами: гипотеза, что виртуальное насилия связано с шутингами, возможна; ровно также предположение, что скрининг сочинений выявит потенциальных убийц на ранней стадии, вполне легитимно. Но перед тем как переходить к конкретным действиям — запрещать ли игры, или тратить миллиарды на разработку беспрецедентных систем с недоказанной эффективностью, — эту гипотезу и это предположение нужно сперва либо подтвердить, либо опровергнуть.

А когда решения принимаются не на основе проверяемых данных, а исходя из любых других соображений, то интернет, конечно, можно заблокировать, сочинения загрузить в суперкомпьютеры, а на классные часы привести политруков, но цель — избежание новых трагедий — решена не будет. За непонимание принципа доказательности, увы, есть печальная цена.

shareprint
Добавьте в Конструктор подписки, приготовленные Редакцией, или свои любимые источники: сайты, телеграм- и youtube-каналы. Залогиньтесь, чтобы не терять свои подписки на разных устройствах
arrow