«Серьезная опасность искусственного интеллекта – затормозить эволюцию и прогресс»

«Герман Греф спрогнозировал два основных сценария развития ИИ по одному из них: ИИ возьмет на себя большое количество функций, что позволит людям работать меньше, а зарабатывать больше, но будет риск массовой безработицы» Фото: © Владимир Астапкович, РИА «Новости»

Как Герман Греф прогнозировал массовую безработицу из-за ИИ

Вопрос — надо ли регулировать развитие и применение искусственного интеллекта и как это делать — форсируется мировыми СМИ в связи с последними событиями. А именно — в ночь с 8 на 9 декабря комиссар по вопросам внутренней торговли и услуг Евросоюза Тьерри Бретон разместил восторженную публикацию в соцсетях: «Есть! ЕС стал первым континентом, установившим четкие правила использования ИИ». Вот только основных проблем закон, на мой взгляд, решить не способен.

Вообще, возможность принятия подобных правовых актов и того, какие ограничения они могут в себя включать, горячо обсуждались не только Евросоюзом, но и Штатами. Еще в мае в Белом доме, после совещания по вопросам регулирования, развития и применения цифровых мозгов, руководители Microsoft, OpenAI, Google предложили тестирование систем сторонними контролерами, что вызвало массу дискуссий.

На стадии обсуждений и разработки, задолго до принятия европейского закона, попытки жестко контролировать развитие искусственного разума критиковались многими западными экспертами. Например, была статья в New York Times «Как страны проигрывают глобальную гонку по борьбе с вредом ИИ». В ней отмечалось: «[Если ввести слишком строгие ограничения] мы проиграем и всегда будем отставать».

Когда принятый на днях закон об ИИ, вызвавший энтузиазм у одних и опасения у других, еще только готовился, более 150 руководителей международных компаний, таких как Renault, Heineken, Airbus и Siemens, пытались коллективно противодействовать его принятию. Они заявили в открытом письме, направленном в Европейский парламент и комиссию, что этот закон «поставит под угрозу конкурентоспособность и технологический суверенитет Европы».

Сейчас во всем мире интерес к проблемам возможностей искусственного разума, его влиянии на экономику, жизнь и безопасность людей особенно усилился. У нас в стране тоже высказывались радикально разные мнения, рассматривались разные возможные сценарии. В частности, на конференции профессионалов AI Journey еще в далеком 2003-м председатель Сбербанка Герман Греф спрогнозировал два основных сценария развития ИИ. Согласно первому, ИИ возьмет на себя большое количество функций, что позволит людям работать меньше, а зарабатывать больше, но будет риск массовой безработицы, а второй сценарий приведет к созданию еще большего числа рабочих мест и дефициту сотрудников.

Трудно строить разумные индивидуальные стратегии на основании диаметрально противоположных оценок результатов и способов развития ИИ. Как мы видим, на старте предпринимаются попытки ограничить законом его возможные негативные последствия, не тормозя позитив.

«Искусственному мозгу приписывается снижение индекса волатильности США в 5 раз с 60 до 12 процентов» Фото: Alexander Limbach via www.imago-/www.imago-images.de / www.globallookpress.com

Сложный молоток, которым надо научиться забивать сложные гвозди

Аналогично пытаются себя вести IT-корпорации, но успехи пока невелики. Отчасти так происходит из-за отсутствия измеримых объективных оценок. Мои коллеги по Центральному экономико-математическому институту РАН проводят опросы по массовому восприятию искусственного интеллекта. Так вот, грубо говоря, общественное сознание в значительной мере воспринимает ИИ как сложный молоток, которым надо еще научиться забивать сложные гвозди. Но пока бьем по пальцам.

На выступлении президента России Владимира Путина на конгрессе молодых ученых (прошедшем в конце ноября) еще до наиболее обсуждаемых на сегодняшний день событий в искусственно-интеллектуально сфере была затронута очень важная и актуальная проблема, которая пока не учтена должным образом ни в каком законе, — проблема многообразия.

Президент говорил о том, что доминирующие ИИ-системы развиваются на англоязычном контенте и их суждения, оценки, безусловно, будут смещенными для русскоязычной и иной публики, что само по себе представляет угрозу. Повторюсь, это значимый фрагмент фундаментальной проблемы сужения многообразия современными версиями ИИ.

Это можно наблюдать экспериментально, к примеру, в алгоритмическом трейдинге, где такое сужение уже давно установленный факт, который важно принимать во внимание. Например, искусственному мозгу приписывается снижение индекса волатильности США в 5 раз с 60 до 12%. Эти данные в своей статье «НFT (высокочастотная торговля): за и против» приводит студент Российской академии народного хозяйства и государственной службы при президенте РФ Эмин Мусаев.

Он пишет, что по мере массового применения высокочастотных финансовых роботов (HFT) индекс волатильности уменьшился и он оценивается как позитивный результат алгоритмического трейдинга. Негативные же аспекты HFT в основном связываются с манипулированием рынками роботами, использующими активные стратегии, — в частности знаменитый Flash Crash 2010 года, когда агрессивные алгоритмы взяли и за несколько минут сбросили основные индексы США почти на 10%, а потом за 90 секунд вернули их обратно.

«ИИ отбрасывает несущественную, по его расчетам, информацию, которую явно или неявно используют в оценках люди и с оставшейся информацией работают по унифицированным алгоритмам» Фото: Ryan Remiorz/Keystone Press Agency/ www.globallookpress.com

Цель любых живых систем (включая экономические) — повышение вероятности выживания

Почему происходит снижение волатильности в результате использования финансовых роботов? ИИ отбрасывает несущественную, по его расчетам, информацию, которую явно или неявно используют в оценках люди, и с оставшейся информацией работают по унифицированным алгоритмам. Во всех случаях, поддающихся измерениям, исследователи отмечают снижение цифровым разумом вариативности оценок. Тут уместно вспомнить фундаментальную эволюционную теорему биолога, генетика, сэра Рональда Фишера, которая в упрощенной интерпретации звучит следующим образом: скорость роста приспособляемости популяций пропорциональна ее вариативности.

Разумеется, непосредственно применить теорему к семьям, странам и цивилизациям нельзя. Поэтому я построил ее аналог для экономических систем (популяций экономических агентов), опираясь на несколько, по-моему, бесспорных и приемлемых для большинства теоретиков и практиков утверждений.

Во-первых, заменил термин «приспособляемость» на более универсальный — «вероятность выживания». Постулируем нулевое основание — жизнь ради выживания, или более строго, цель любых живых систем (включая экономические) — повышение вероятности выживания. Во-вторых, вероятность выживания экономической системы зависит от 6 факторов — располагаемой энергии, информации, вещей, числа и качества ее агентов (индивидов экономической популяции) и доступных ресурсов.

В-третьих, объединение всех этих факторов в одну целевую функцию осуществляется через двойственное понятие собственности (пока мир не придумал ничего лучшего, чем деньги). В-четвертых, связь между перераспределением собственности (и, следовательно, вероятностью выживания) между агентами устанавливается на основе утверждения, которое не оспаривается ни теоретиками, ни практиками: работаешь хуже рынка (в среднем) — теряешь деньги — значит, уменьшаешь вероятность своего выживания. Работаешь лучше — приобретаешь.

В терминах себестоимости, к примеру, если себестоимость производства твоего товара выше рыночной, то на каждом цикле обмена будет уменьшаться вероятность его выживания до обнуления твоей фирмы. Этих оснований достаточно для построения экономических моделей аналогичных теореме Фишера.

Далее во всех сферах, где наблюдаются измеримые результаты деятельности ИИ (снижение вариативности), мы можем оценить общие последствия для эволюции. Самым подходящим примером являются все те же финансовые роботы, которые на 80–90% вытеснили людей из торговли и уменьшили разнообразие оценок. В начальный период бурного роста использования финансовых роботов в США прибыль от их работы составила $7 млрд в год.

Однако по мере того, как однотипные финансовые роботы вытесняли людей, падала волатильность и, как следствие, прибыль, которую они зарабатывали (сегодня она оценивается в $1 млрд), что, в свою очередь, привело к снижению доли HFT на рынке, хотя и сегодня она остается доминирующей.

Серьезная опасность цифрового разума — унификация, способная затормозить эволюцию и прогресс

Некоторые эксперты, как мы уже обсудили, считают, что снижение волатильности путем уменьшения вариативности — это хорошо. Но так ли это? На рисунке №1 представлены сравнительные результаты работы двух рынков, которые показывают, что сегодняшний вариант ИИ за счет подавления разнообразия приводит к снижению темпов экономического развития.

Рассмотрим две страны. Они одинаковы во всем, за исключением того, что одна обладает нормальной вариативностью, другая — суженной (за счет применения ИИ или по другой причине). Можем проанализировать отношение капитализации этих двух государств в зависимости от вариативности. Условия моделирования на рисунке №1 предполагают, что условный ноль соответствует вариативности 0,06 (коэффициенту вариации 0,06), а 100 (коэффициенту вариации 0,3).

Берем две страны, две капитализации, делим одну на другую и получаем число, которое откладывается по оси Z. Оно зависит от времени (шкала Х) и от вариативности (шкала Y). Чем больше вариативность (коэффициент вариаций агентов условной страны), тем это отношение больше. В одной «контрольной» стране мы вариативность не уменьшаем. В другой — меняем вариативность и смотрим, что будет. Мы знаем, что ИИ сужает вариативность с 60 до 12% (см. текст выше), и моделируем то, как это скажется на капитализации стран, на их экономическом росте.

Если коэффициент вариаций по себестоимости производства товара, например, и разброс себестоимости товара у нас в стране от стольких-то до стольких-то, то коэффициент вариаций один. А в какой-то стране размах себестоимости будет меньше, как и коэффициент вариаций.

Мы сравниваем государства, отличающиеся вариативностью и их капитализацию. Меняется вариативность — меняется их капитализация. Более вариативная страна сильнее, развивается лучше.

На рисунке №2 мы видим, что происходит, когда вариативность подавлена. Слабые агенты не банкротятся, но и лучшие развиваются так себе.

Если вариативность обычная, не подавленная, не сглаженная, то лучшие агенты быстро развиваются и капитализация страны в целом растет достаточно быстро. Но при этом существенная часть агентов банкротится.

Есть прямые экспериментальные данные, подтверждающие, что ИИ уменьшает вариативность для финансовых рынков. Мы можем исходя из того, как цифровой разум работает на определенных рынках, прогнозировать, как действуя по такому же принципу, он может повлиять на другие рынки, отрасли, пока не получены более точные данные о результатах его применения.

На финансовых рынках, где ИИ выступает в виде финансовых роботов, захвативших большую часть биржевой торговли (80–90%), уменьшение разнообразия измеряется количественно. Для отраслей, где посчитать не можем, но понимаем, что нынешняя логика развития цифрового разума также ведет к снижению разнообразия, можем использовать (за неимением лучшего) общие результаты этой частной модели. Так, однотипные англоязычные версии ИИ могут в период 1–2 человеческих поколений подавить разнообразие навсегда с соответствующим подавлением развития цивилизации.

Мы живем в систематически и случайно изменяющемся мире, где разнообразие способствует возрастанию вероятности выживания цивилизации. И одна из серьезнейших опасностей, связанных с цифровым интеллектом, — это тенденция к унификации, способная затормозить эволюцию и прогресс.