Символично, что именно в первый день работы саммита один из старейших словарей английского языка – Collins – признал словом 2023 года аббревиатуру AI («Искусственный интеллект», ИИ).
Для этого саммита было выбрано то историческое место, где во время Второй мировой войны команда интеллектуалов, руководимая английским математиком и криптографом Аланом Тьюрингом (Alan Turing), с помощью созданной им первой машины искусственного интеллекта расшифровала код под названием «Энигма» – главную тайну военно-морского и военно-воздушного флотов нацистской Германии. А чтобы немцы не догадались, что их код взломан, Алан Тьюринг предложил использовать математическую статистику и другие методы, дабы создать ощущение случайного обнаружения немецких подводных лодок. Как считают исследователи, взлом этого кода ускорил окончание Второй мировой войны более чем на два года и сохранил жизни не менее 14 млн человек.
Теперь в старинном особняке в Блётчли-парке, где 80 лет назад располагалось главное шифровальное подразделение Великобритании – Правительственная школа кодов и шифров – более 100 участников первого международного саммита по безопасному использованию ИИ обсуждали потенциальные угрозы, которые в ближайшие годы будут появляться на фоне распространения новой технологии.
Среди участников саммита, принявших приглашение британского премьер-министра Риши Сунака (Rishi Sunak), – знаковые лица многих стран и международных организаций, в том числе вице-президент США Камала Харрис (Kamala Harris), глава Еврокомиссии Урсула фон дер Ляйен (Ursula von der Leyen), генеральный секретарь ООН Антониу Гутерриш (Antonio Guterres), владелец SpaceX, Tesla и социальной сети X (ранее Twitter) Илон Маск (Elon Musk), президент компании Microsoft Брэд Смит (Brad Smith), глава Google Deep Mind Демис Хассабис (Demis Hassabis), генеральный директор компании Open AI, разработавшей популярный чат-бот ChatGPT Сэм Альтман (Samuel Altman) и другие.
В преддверии саммита было заявлено также участие заместителя министра науки и технологий КНР. По этому поводу в британских СМИ широко обсуждались предложения ограничить участие китайской стороны в программе саммита из-за опасений спецслужб королевства, что среди делегатов будут сотрудники или информаторы разведки КНР. Однако глава британского МИД Джеймс Клеверли (James Cleverly) успокоил своих агрессивно настроенных коллег по партии.
Ещё перед началом саммита Илон Маск выразил мнение своей команды, что ИИ представляет собой одну из величайших угроз человечеству, которую невозможно полностью взять под контроль. В то же время немецкий министр экономики и защиты климата Роберт Хабек (Robert Habeck), тоже присутствовавший на саммите, подчеркнул возможности ИИ. Эта технология, по его мнению, может сделать многие вещи проще и эффективнее: от защиты климата до данных о погоде и систем раннего потепления, от обнаружения болезней до систем терапии.
Перед саммитом британские эксперты обнародовали два доклада, описывающие потенциальные сценарии развития технологии на период до 2030 года, а также возможности и риски, которые она может создать. В этих документах рассматриваются как будущее генеративного ИИ, способного создавать тексты, изображения и видео по запросу пользователей, так и возможности появления более совершенных моделей ИИ вплоть до общего искусственного интеллекта (Artificial General AI), который будет способен справляться с подавляющим большинством интеллектуальных задач на более высоком, чем сегодня, уровне.
Наиболее вероятным сценарием в период до 2025 года авторы докладов называют не появление принципиально новых угроз, связанных с ИИ, а рост количества преступлений в цифровой сфере, в том числе сложных видов мошенничества, похищения данных, распространения детской порнографии и афер, при осуществлении которых злоумышленник выдаёт себя за другое лицо. Увеличатся также риски распространения дезинформации, а новые синтетические медиа (СМИ на основе ИИ) будут грозить подрывом доверия людей к институтам и правительствам демократических стран. Физические риски будут увеличиваться менее быстрыми темпами по мере того, как «генеративный ИИ будет становиться частью физических систем, включая критически важную инфраструктуру».
Авторы докладов оказались провидцами современной напряжённой ситуации на Ближнем Востоке. Вот что они пишут: «К 2025 году генеративный ИИ будет потенциально способен расширить возможности террористов в сфере пропаганды, радикализации, вербовки, привлечения финансирования, создания оружия и планирования терактов. Однако сохранение зависимости от физических цепочек поставок почти наверняка останется препятствием на пути использования ИИ для осуществления масштабных атак в физическом мире». При этом в британском правительстве не исключают, что ИИ может упростить злоумышленникам задачу создания химического или биологического оружия. Остановить их реально может лишь отсутствие надёжной цепочки поставок ингредиентов.
Авторы докладов также обращают внимание на то, что широкое внедрение технологии ИИ может оказать влияние на мировую экономику, спровоцировать значительное снижение числа рабочих мест, что грозит социальными и геополитическими потрясениями. Прогнозируются также значительное усиление конкуренции между компаниями, государствами, развивающими технологии ИИ, и затруднение попыток регулирования технологии на международном уровне.
Однако, как подчёркивает глава правительства королевства Риши Сунак, которому принадлежит идея проведения саммита, пока Лондон не собирается принимать новые законы, касающиеся ИИ. По его словам, сначала британские власти хотят получить возможность лучше «понимать и оценивать безопасность моделей искусственного интеллекта». Для этого правительство королевы выделило 100 млн фунтов стерлингов на создание рабочей группы, в состав которой войдут «наиболее уважаемые и компетентные фигуры из мира ИИ». Риши Сунак также сообщил, что Великобритания учредит первый в мире Институт безопасности ИИ.
Американские и немецкие публицисты достаточно критично относятся к самому саммиту и выдвигаемым проблемам. Так, по оценке газеты The Times, организуя международный форум, британский премьер пытается реализовать три цели, из которых лишь одна напрямую касается ИИ. Как пишет издание, сам Риши Сунак без сомнения глубоко погружён в эту тематику. Соответственно, саммит в Лондоне он расценивает как возможность привлечь внимание мирового сообщества к этому вопросу.
При этом газета не считает заслуживающим внимания тот факт, что саммит проигнорировали многие мировые лидеры, в том числе президент США Джо Байден (Joe Biden), президент Франции Эмманюэль Макрон (Emmanuel Macron), канцлер ФРГ Олаф Шольц (Olaf Scholz) и председатель КНР Си Цзиньпин (Xi Jinping). Как говорится в статье, «в нынешнем геополитическом контексте одно лишь предположение, что Вашингтон и Пекин в состоянии работать в общем направлении на международной арене, может быть расценено как определённый успех».
Второй целью Сунака The Times называет его желание показать, что Великобритания оправилась от последствий Brexit, который отнимал у неё так много сил, и может представить миру инициативу глобального значения. Отсюда же вытекает и третья задача, которую газета усматривает в действиях премьер-министра: намерение показать, что возглавляемая им Консервативная партия может разрабатывать долгосрочные стратегии, причём не только по актуальным международным вопросам, но и по не самым изученным. И хотя, как считает The Times, нет гарантий, что это поможет консерваторам удержать власть на всеобщих выборах следующего года, лишней такая попытка не будет.
Немецкий политолог Клаус Римпель (Klaus Rimpel) считает предположение, что ИИ захватывает власть и уничтожает человечество, научной фантастикой, «которая скорее мешает правильной дискуссии об искусственном интеллекте, чем помогает нам справиться с революционными технологиями». Такие преувеличенно ужасающие сценарии лишь отвлекают от реальных опасностей, с которыми политикам приходится иметь дело гораздо чаще. Важность революции искусственного интеллекта, по его мнению, «сравнима с изобретением парового двигателя или интернета».
Как и в случае с любой научной или технологической революцией, национальные запреты из-за страха перед новым, конечно, не помогут. Клаус Римпель считает, что политиков больше всего беспокоит не технология, а тот факт, что несколько корпораций и частных лиц, таких как Илон Маск, стремятся к монополии в мире ИИ. Конечная цель политического правительства должна заключаться в том, чтобы «не позволить этой горстки сверхбогатых людей определять, куда движется наше будущее». Тем более что это также связано с взрывоопасными проблемами безопасности. Президент США Джо Байден уже установил политические барьеры для ИИ. Евросоюзу давно пора договориться о подобных стандартах.
Британская конференция по искусственному интеллекту стала по крайней мере началом этой крайне необходимой дискуссии.
Виктор Фишман
