Быстрое развитие текстового робота ChatGPT и его неконтролируемое использование вызывает опасения даже у таких технических гуру, как соучредитель Apple Стив Возняк (Steve Wozniak) и генеральный директор Tesla Илон Маск (Elon Musk). Эти личности, которые сами внесли немалый вклад в развитие ИИ, теперь призывают ввести временный мораторий, чтобы взвесить косвенный ущерб от использования новой технологии.
Первоначальный призыв к мораторию поступил от некоммерческого института Future of Life, где Илон Маск выступает в качестве внешнего консультанта. Помимо босса Tesla, манифест подписали более 1000 человек, в том числе генеральный директор ИИ-компании Stability AI Эмад Мостак (Emad Mostaque) и несколько разработчиков из DeepMind, дочерней компании Google по ИИ. Среди сторонников моратория такие пионеры ИИ, как английский учёный в области искусственного интеллекта Стюарт Рассел (Stuart Russel), профессор кафедры психологии Нью-Йоркского университета Гэри Маркус (Gary Marcus), канадский математик, кибернетик и информатик Йошуа Бенжио (Yoshua Bengio) и другие.
Приостановка разработки должна дать отрасли время, чтобы установить стандарты безопасности для разработки ИИ и предотвратить возможный ущерб от самых рискованных её технологий. Если компании не согласятся с этим, правительствам придётся вмешаться и ввести мораторий, поэтому шесть месяцев следует использовать, среди прочего, для разработки протоколов безопасности.
В манифесте учёные и инженеры предупреждают об опасностях так называемого генеративного ИИ, например, реализованного с помощью текстового робота ChatGPT или генератора изображений DALL-E от OpenAI. Эти инструменты искусственного интеллекта могут имитировать человеческое взаимодействие и создавать текст или изображения на основе нескольких ключевых слов.
К примеру, созданное с помощью программы ИИ Midjourney изображение Папы Римского в виде рэпера вызвало ажиотаж в интернете. Сеть заполнили не имеющие отношения к действительности сцены задержания «пьяного» Дональда Трампа (Donald Trump) полицейскими, коленопреклонённого Владимира Путина перед главой китайского правительства Си Цзиньпина (Xi Jinping), современная версия знаменитой картины Яна Вермеера (Johannes Vermeer) «Девушка с жемчужной серёжкой» и другие фальшивые данные.
В то же время такие страны, как Китай, считают ИИ стратегически важным и хотят предоставить разработчикам бóльшую свободу.
В Германии ассоциация TÜV приветствовала открытое письмо. «Манифест показывает политическую необходимость действий по чёткому правовому регулированию ИИ, – пояснил Йоахим Бюлер (Joachim Bühler), управляющий директор ассоциации TÜV. – Это единственный способ взять под контроль риски особенно мощных систем ИИ». Как подчеркнул Бюлер, есть угроза появления фейковых новостей, пропаганды и безработицы.
Виктор Фишман
