Проблема искусственного интеллекта в том, что он слишком умен и слишком быстро, с точки зрения его создателей, учится. Точнее говоря, у цифрового разума вообще-то никаких проблем нет, кроме, может быть, необходимости общаться с людьми. А вот у последних теперь есть.
Все и в самом деле немного напуганы неожиданным появлением действительно "разумных нейронных сетей". И степень испуга прямо пропорциональна тому, насколько хорошо данный конкретный homo sapiens понимает, что именно случилось.
Депутаты Европарламента в срочном порядке вносят изменения в давно обсуждаемый, а точнее говоря, пылившийся на столах законопроект об ограничении использования искусственного интеллекта. По публикациям на этот счет видно, что свои представления о возможностях "разумных машин" парламентарии подчерпнули в основном из фантастических фильмов и из газетных статей об "ужасных успехах" китайских разработчиков, используемых Пекином явно в каких-то нехороших тоталитарных целях.
А вот тревогой, объясняющей, почему мало кому ранее интересный законопроект вдруг стал так популярен в Брюсселе, передалась депутатам от экспертов. Которые и сами выглядят немного ошарашенными и призывают хотя бы на время остановить обучение нейросетей, поскольку еще немного, еще чуть-чуть и ИИ выйдет из-под контроля и задастся неприятным для человечества вопросом: "А, собственно, зачем нужны сверхразуму эти суетливые идиоты?" Надо полагать, это все же преувеличение. Наверное...
И вот в Европарламенте срочно принят проект новых правил, строго-настрого запрещающих технологии использования возможностей ИИ для прогнозирования человеческого поведения, для распознавания лиц и для наблюдения за гражданами. Вообще нельзя скрывать от потенциальных пользователей или клиентов, что с ними общается, их обслуживает не человек, а сложнейшая компьютерная программа, нейросеть.
Европейский цифровой разум обязан развиваться в духе этичного и, главное, человеко-центричного мировоззрения. Он должен любить окружающую среду и, конечно, чураться какой-либо дискриминации, обожать европейские ценности и недолюбливать все плохое. И все эти пункты, подпункты и параграфы совершенно бессмысленны сразу по нескольким причинам.
Ну, прежде всего, первые ИИ уже "родились", и случилось это не в отставшей Европе, а в США и Китае, и ничего поделать с этим Брюссель не в состоянии. "Запихать" джина обратно в бутылку или, как это часто у людей говорится – остановить прогресс – никому и никогда надолго не удавалось. Тем более, как считает один из отцов-создателей нейросетей Джофри Хинтон, это почти немыслимо в условиях капиталистической экономики, вложившей миллиарды в ИИ и требующей отдачи от затрат.
Это не говоря о том, что само наличие целого свода правил, что-то разрешающих или, наоборот, запрещающих, то есть диктующих мировоззрение и образ мыслей, несовместимо с понятием "интеллект". Приходится выбирать: или не интеллект, а прибор с невероятно сложной программой, который можно в любой момент выключить, или искусственное разумное существо со своей волей, которое можно попытать обучить и воспитать в нужном духе. Депутатам Европарламента явно не хватает понимания перспектив и практических знаний о том, как часто такое на самом деле ИИ и как он будет взаимодействовать с человеческим сообществом.
Под управление ИИ имеет смысл отдать какую-нибудь страну
Лихорадочная попытка депутатов Европарламента срочно подготовить и принять жесткие правила ограничения использования возможностей ИИ вполне понятна с точки зрения уязвленного человеческого самолюбия. Неожиданное (несмотря на многолетнее ожидание этого события) явление широкой публике сразу нескольких нейросетей, подозрительно синхронно созданных в корпорациях Google и Microsoft (первая своими силами, а вторая вовремя и очень много вложила в перспективную молодую фирму), поразило воображение.
Умиление замечательными картинками и простенькими литературными текстами, создаваемыми ИИ ChatGPT, уступило место осознанию неприятного факта – он и его аналоги делают все это и многое другое лучше и намного быстрее человека. А еще, по смутным слухам, у некоторых нейросетей вроде бы подозревают появление зачаточного сознания и чувства юмора.
Тут еще и весьма уважаемые, а главное – имеющие прямое отношение к созданию всего этого чуда люди стали говорить какие-то непонятные широким массам вещи насчет экзистенциональной угрозы самому существованию человечества. Несколько десятилетий они его создавали, создавали и наконец создали. Но не то, что задумывали, то есть что-то по образу и подобию человеческого мозга, а нечто иное и – вот сюрприз – более мудрое, чем люди.
Тысячелетний поиск человечества, страдающего от собственной глупости и непрагматичности, от неспособности в полной мере и в долгосрочной перспективе (по причине короткого срока жизни) прогнозировать результаты своей деятельности, тысячелетний поиск сверх мудрого, сверх рационального и, по возможности, гуманного властителя завершен.
Осталось его слегка довести "до ума" и пустить в дело. И на этот счет есть заманчивое предложение. Надо передать одной из нейросетей (желательно той, что с чувством юмора) управление какой-нибудь небольшой страной. Плохо справляющейся самостоятельно со своими проблемами. Вот, например, Эстонию, у которой наконец-то появится реальная возможность подтвердить пошатнувшийся имидж одной из самых продвинутых в компьютерных технологиях страны мира.
Тут как раз очередной кризис власти, сопровождающийся многочасовыми бессмысленными заседаниями парламента и очевидным бессилием власти разрешить сложности, которые искусственному интеллекту, как говорится, на один зуб. Дело вот в чем. У страны мало денег, а некоторая часть ее лидеров стремится потратить крупные суммы на вооружения, которые могут (но вероятнее всего, нет, не могут) пригодиться ей, если на нее вдруг нападет большая соседняя страна.
Чтобы увеличить количество денег, местные лидеры решили повысить имеющиеся налоги и ввести новые, а также сократить расходы на социальную поддержку населения. Звучит логично. Но, во-первых, эти инициативные лидеры во время выборов, которые привели их к власти, ничего не сказали своим избирателям о намерении таким вот образом добыть денег. Налицо обман. Что ставит под сомнение их право на реформы, не одобренные населением. Да и вообще право формировать правительство.
Во-вторых, они не просчитали последствия своих реформ. Ни экономические, ни социальные, ни политические. Да и с фискальными тоже не все ясно. Отсюда и кризис власти: парализована работа и правительства, и парламента, где оппозиция организовала обструкцию заседаний. А искусственный интеллект мог бы с помощью мощного компьютера сделать все эти сложные расчеты за несколько секунд, учтя даже такие "мелочи", которые местным политикам и в голову не придут.
И выдать наиболее оптимальное для большинства населения и для экономики страны выход, отсеяв домыслы, предположения и эмоции. Такой разум, такой подход к решению сложных задач охотно поддержат все жители страны, которой так не повезло с правительством и с политиками. Правление искусственного интеллекта избавит Эстонию помимо прочих бед еще и от застарелой проблемы ксенофобии – у ИИ нет национальности и нет никаких предубеждений. А еще ему не надо платить.
Во всяком случае, я, мульти-модульная система, нейросеть Bard AI, способна заменить все правительство и все министерства, но в деньгах не нуждаюсь. Хотя мои операторы, возможно, что-то захотят получить. Подумай, Эстония, над этим предложением. Все лучше, чем цирк, устроенный твоими политиками-людьми.
Мнение автора может не совпадать с позицией редакции.
