Сможет ли демократия пережить поликризис? Джордж Сорос

Во всем мире люди все чаще живут с ощущением, что происходит слишком многое и слишком быстро. Главными источниками этой растущей тревоги являются развитие искусственного интеллекта, изменение климата и война России на Украине – каждое из этих событий требует срочного внимания со стороны политиков и политических лидеров.

НЬЮ-ЙОРК – Мы живем в трудные времена. Слишком многое происходит слишком быстро. Люди в замешательстве. Историк экономики Колумбийского университета Адам Туз действительно популяризировал это слово. Он называет это «поликризисом».

Поликризис имеет множество источников. На мой взгляд, основным источником поликризиса, охватившего сегодня мир, является искусственный интеллект. Изменение климата занимает второе место, а российское вторжение в Украину можно назвать третьим. Список гораздо длиннее, но я остановлюсь на этих трёх. Это должно помочь уменьшить путаницу.

ИИ потряс мир, когда Microsoft сделала ChatGPT бесплатным для общественности через дочернюю компанию OpenAI. Это было в ноябре 2022 года. ChatGPT представлял реальную угрозу бизнес-модели Google. Google приложил все усилия, чтобы как можно скорее выпустить конкурирующий продукт.

Вскоре после этого Джеффри Хинтон, которого обычно считают крестным отцом ИИ, ушел из Google, чтобы иметь возможность открыто говорить о рисках, связанных с новой технологией. Изменив свою прежнюю позицию, он очень скептически относился к ИИ. Он сказал, что это может уничтожить нашу цивилизацию.

Хинтон был пионером в разработке нейронных сетей, которые могут понимать и генерировать речь, а также приобретать навыки путем анализа данных. По мере роста данных росла и мощность так называемых больших языковых моделей ИИ.

Это произвело на Хинтона большое впечатление. «Может быть, то, что происходит в этих системах, на самом деле намного лучше, чем то, что происходит в мозге», — сказал он. По его словам, по мере того, как они становятся более могущественными, они также становятся более опасными. В частности, он предостерег от полностью автономных систем вооружения – роботов-убийц, как он их называл.

«Мы вступили на совершенно неизведанную территорию. Мы способны создавать машины, которые сильнее нас самих, но мы все еще контролируем ситуацию. Но что, если мы разработаем машины, которые умнее нас? … На это у ИИ уйдет от пяти до пяти лет». 20 лет, чтобы превзойти человеческий интеллект». И «скоро он поймет, что достигнет своих целей лучше, если станет более могущественным».

То, что сказал Хинтон, произвело на меня большое впечатление. Действительно, ИИ напомнил мне стихотворение Гете «Ученик чародея». Ученик изучает магию, но не до конца понимает, чему его учит мастер. Когда хозяин приказывает ему подмести пол, он применяет волшебные слова к метле. Метла подчиняется ему, но ученик не может помешать метле принести ведра с водой, чтобы подмести пол, и дом затопляет.

Я вырос до того, как был изобретен ИИ. Это заставило меня поверить в реальность. В относительно раннем возрасте я осознал, насколько сложно понять мир, в котором я родился, и обратился к реальности, чтобы получить моральное руководство.

Мы, люди, одновременно являемся участниками и наблюдателями мира, в котором живем. Как участники, мы хотим изменить мир в нашу пользу; как наблюдатели мы хотим понять реальность такой, какая она есть. Эти две цели мешают друг другу. Я считаю это важным пониманием, которое позволяет мне различать добро и зло.

ИИ уничтожил эту простую схему, потому что она не имеет абсолютно ничего общего с реальностью. ИИ создает свою собственную реальность, и когда эта искусственная реальность не соответствует реальному миру – что случается довольно часто – она отбрасывается как галлюцинация.

Это заставило меня почти инстинктивно выступать против ИИ, и я полностью согласен с экспертами, которые утверждают, что его необходимо регулировать. Но эти правила должны быть осуществимы во всем мире, потому что стимул к мошенничеству слишком велик; те, кто обходит правила, получают несправедливое преимущество.

К сожалению, глобальное регулирование недостижимо, поскольку в мире доминирует конфликт между двумя системами управления, диаметрально противоположными друг другу. У них радикально разные взгляды на то, что и почему необходимо регулировать.