• Последние
  • Популярные
  • Все
  • Новости
Искусственный интеллект  не должен выйти из-под контроля

Искусственный интеллект не должен выйти из-под контроля

14 ноября, 2023
События прошедшей недели

События прошедшей недели

29 ноября, 2023
Обменный маневр

Обменный маневр

29 ноября, 2023
Пока без наших

Пока без наших

24 ноября, 2023
Признание  «Жёлтой стены»

Признание «Жёлтой стены»

24 ноября, 2023
Для Макса  нет преград

Для Макса нет преград

24 ноября, 2023
Ноле ещё повоюет

Ноле ещё повоюет

24 ноября, 2023
Германия требует поворота!

Германия требует поворота!

24 ноября, 2023
Семь шагов по преодолению  радикального исламизма в Германии

Семь шагов по преодолению радикального исламизма в Германии

24 ноября, 2023
Была ли немецкая антикризисная политика эффективной?

Была ли немецкая антикризисная политика эффективной?

24 ноября, 2023
Никто не любит Путина бесплатно

Никто не любит Путина бесплатно

24 ноября, 2023
Государственный музей  обогащает частных коллекционеров

Государственный музей обогащает частных коллекционеров

24 ноября, 2023
В мире будет меньше вина, в Германии урожай хороший

В мире будет меньше вина, в Германии урожай хороший

24 ноября, 2023
12 °c
Berlin
13 ° Пт
12 ° Сб
12 ° Вс
13 ° Пн
Среда, 29 ноября, 2023
  • О нас
  • Реклама
  • Подписка
  • Редакция
  • Войти
  • Зарегистрироваться
Редакция Германия
  • Статьи
  • Новости
  • Спорт
  • Афиша
  • Объявления
  • Форум
Нет результатов
View All Result
Редакция Германия
Нет результатов
View All Result
Главная Статьи Наука и технологии

Искусственный интеллект не должен выйти из-под контроля

Недалеко от Лондона 1 ноября начал работу первый международный саммит по безопасному использованию искусственного интеллекта.

Автор Виктор Фишман
14 ноября, 2023
Наука и технологии
254 3
0

Символично, что именно в первый день работы саммита один из старейших словарей английского языка – Collins – признал словом 2023 года аббревиатуру AI («Искусственный интеллект», ИИ).
Для этого саммита было выбрано то историческое место, где во время Второй мировой войны команда интеллектуалов, руководимая английским математиком и криптографом Аланом Тьюрингом (Alan Turing), с помощью созданной им первой машины искусственного интеллекта расшифровала код под названием «Энигма» – главную тайну военно-морского и военно-воздушного флотов нацистской Германии. А чтобы немцы не догадались, что их код взломан, Алан Тьюринг предложил использовать математическую статистику и другие методы, дабы создать ощущение случайного обнаружения немецких подводных лодок. Как считают исследователи, взлом этого кода ускорил окончание Второй мировой войны более чем на два года и сохранил жизни не менее 14 млн человек.
Теперь в старинном особняке в Блётчли-парке, где 80 лет назад располагалось главное шифровальное подразделение Великобритании – Правительственная школа кодов и шифров – более 100 участников первого международного саммита по безопасному использованию ИИ обсуждали потенциальные угрозы, которые в ближайшие годы будут появляться на фоне распространения новой технологии.
Среди участников саммита, принявших приглашение британского премьер-министра Риши Сунака (Rishi Sunak), – знаковые лица многих стран и международных организаций, в том числе вице-президент США Камала Харрис (Kamala Harris), глава Еврокомиссии Урсула фон дер Ляйен (Ursula von der Leyen), генеральный секретарь ООН Антониу Гутерриш (Antonio Guterres), владелец SpaceX, Tesla и социальной сети X (ранее Twitter) Илон Маск (Elon Musk), президент компании Microsoft Брэд Смит (Brad Smith), глава Google Deep Mind Демис Хассабис (Demis Hassabis), генеральный директор компании Open AI, разработавшей популярный чат-бот ChatGPT Сэм Альтман (Samuel Altman) и другие.
В преддверии саммита было заявлено также участие заместителя министра науки и технологий КНР. По этому поводу в британских СМИ широко обсуждались предложения ограничить участие китайской стороны в программе саммита из-за опасений спецслужб королевства, что среди делегатов будут сотрудники или информаторы разведки КНР. Однако глава британского МИД Джеймс Клеверли (James Cleverly) успокоил своих агрессивно настроенных коллег по партии.
Ещё перед началом саммита Илон Маск выразил мнение своей команды, что ИИ представляет собой одну из величайших угроз человечеству, которую невозможно полностью взять под контроль. В то же время немецкий министр экономики и защиты климата Роберт Хабек (Robert Habeck), тоже присутствовавший на саммите, подчеркнул возможности ИИ. Эта технология, по его мнению, может сделать многие вещи проще и эффективнее: от защиты климата до данных о погоде и систем раннего потепления, от обнаружения болезней до систем терапии.
Перед саммитом британские эксперты обнародовали два доклада, описывающие потенциальные сценарии развития технологии на период до 2030 года, а также возможности и риски, которые она может создать. В этих документах рассматриваются как будущее генеративного ИИ, способного создавать тексты, изображения и видео по запросу пользователей, так и возможности появления более совершенных моделей ИИ вплоть до общего искусственного интеллекта (Artificial General AI), который будет способен справляться с подавляющим большинством интеллектуальных задач на более высоком, чем сегодня, уровне.
Наиболее вероятным сценарием в период до 2025 года авторы докладов называют не появление принципиально новых угроз, связанных с ИИ, а рост количества преступлений в цифровой сфере, в том числе сложных видов мошенничества, похищения данных, распространения детской порнографии и афер, при осуществлении которых злоумышленник выдаёт себя за другое лицо. Увеличатся также риски распространения дезинформации, а новые синтетические медиа (СМИ на основе ИИ) будут грозить подрывом доверия людей к институтам и правительствам демократических стран. Физические риски будут увеличиваться менее быстрыми темпами по мере того, как «генеративный ИИ будет становиться частью физических систем, включая критически важную инфраструктуру».
Авторы докладов оказались провидцами современной напряжённой ситуации на Ближнем Востоке. Вот что они пишут: «К 2025 году генеративный ИИ будет потенциально способен расширить возможности террористов в сфере пропаганды, радикализации, вербовки, привлечения финансирования, создания оружия и планирования терактов. Однако сохранение зависимости от физических цепочек поставок почти наверняка останется препятствием на пути использования ИИ для осуществления масштабных атак в физическом мире». При этом в британском правительстве не исключают, что ИИ может упростить злоумышленникам задачу создания химического или биологического оружия. Остановить их реально может лишь отсутствие надёжной цепочки поставок ингредиентов.
Авторы докладов также обращают внимание на то, что широкое внедрение технологии ИИ может оказать влияние на мировую экономику, спровоцировать значительное снижение числа рабочих мест, что грозит социальными и геополитическими потрясениями. Прогнозируются также значительное усиление конкуренции между компаниями, государствами, развивающими технологии ИИ, и затруднение попыток регулирования технологии на международном уровне.
Однако, как подчёркивает глава правительства королевства Риши Сунак, которому принадлежит идея проведения саммита, пока Лондон не собирается принимать новые законы, касающиеся ИИ. По его словам, сначала британские власти хотят получить возможность лучше «понимать и оценивать безопасность моделей искусственного интеллекта». Для этого правительство королевы выделило 100 млн фунтов стерлингов на создание рабочей группы, в состав которой войдут «наиболее уважаемые и компетентные фигуры из мира ИИ». Риши Сунак также сообщил, что Великобритания учредит первый в мире Институт безопасности ИИ.
Американские и немецкие публицисты достаточно критично относятся к самому саммиту и выдвигаемым проблемам. Так, по оценке газеты The Times, организуя международный форум, британский премьер пытается реализовать три цели, из которых лишь одна напрямую касается ИИ. Как пишет издание, сам Риши Сунак без сомнения глубоко погружён в эту тематику. Соответственно, саммит в Лондоне он расценивает как возможность привлечь внимание мирового сообщества к этому вопросу.
При этом газета не считает заслуживающим внимания тот факт, что саммит проигнорировали многие мировые лидеры, в том числе президент США Джо Байден (Joe Biden), президент Франции Эмманюэль Макрон (Emmanuel Macron), канцлер ФРГ Олаф Шольц (Olaf Scholz) и председатель КНР Си Цзиньпин (Xi Jinping). Как говорится в статье, «в нынешнем геополитическом контексте одно лишь предположение, что Вашингтон и Пекин в состоянии работать в общем направлении на международной арене, может быть расценено как определённый успех».
Второй целью Сунака The Times называет его желание показать, что Великобритания оправилась от последствий Brexit, который отнимал у неё так много сил, и может представить миру инициативу глобального значения. Отсюда же вытекает и третья задача, которую газета усматривает в действиях премьер-министра: намерение показать, что возглавляемая им Консервативная партия может разрабатывать долгосрочные стратегии, причём не только по актуальным международным вопросам, но и по не самым изученным. И хотя, как считает The Times, нет гарантий, что это поможет консерваторам удержать власть на всеобщих выборах следующего года, лишней такая попытка не будет.
Немецкий политолог Клаус Римпель (Klaus Rimpel) считает предположение, что ИИ захватывает власть и уничтожает человечество, научной фантастикой, «которая скорее мешает правильной дискуссии об искусственном интеллекте, чем помогает нам справиться с революционными технологиями». Такие преувеличенно ужасающие сценарии лишь отвлекают от реальных опасностей, с которыми политикам приходится иметь дело гораздо чаще. Важность революции искусственного интеллекта, по его мнению, «сравнима с изобретением парового двигателя или интернета».
Как и в случае с любой научной или технологической революцией, национальные запреты из-за страха перед новым, конечно, не помогут. Клаус Римпель считает, что политиков больше всего беспокоит не технология, а тот факт, что несколько корпораций и частных лиц, таких как Илон Маск, стремятся к монополии в мире ИИ. Конечная цель политического правительства должна заключаться в том, чтобы «не позволить этой горстки сверхбогатых людей определять, куда движется наше будущее». Тем более что это также связано с взрывоопасными проблемами безопасности. Президент США Джо Байден уже установил политические барьеры для ИИ. Евросоюзу давно пора договориться о подобных стандартах.
Британская конференция по искусственному интеллекту стала по крайней мере началом этой крайне необходимой дискуссии.

Виктор Фишман

Метки: №45Темы недели
Поделиться200Tweet125ПоделитьсяПоделиться25ОтправитьПоделиться
Виктор Фишман

Виктор Фишман

Другие записи

Германия – лидер по роботизации в Европе

Германия – лидер по роботизации в Европе

Автор Анна Матвеева
3 ноября, 2023
0

Это далеко не единственный случай в последнее время. Сейчас на пенсию выходит поколение «бэби-бумеров» – послевоенного демографического взрыва. В 1950−1960-е на фоне «экономического чуда» в Германии рождалось...

SIM-карты вскоре начнут исчезать

SIM-карты вскоре начнут исчезать

Автор Пётр Левский
6 октября, 2023
0

Аббревиатура SIM означает «Subscriber Identity Module» (модуль идентификации абонента). Изначально эти пластиковые карты предназначались только для уникальной аутентификации пользователей в мобильной...

С Земли будет видна комета Нисимура

С Земли будет видна комета Нисимура

Автор Елизавета Щелканова
22 сентября, 2023
0

Комета получила своё название в честь японского астронома-любителя Хидео Нисимуры (Hideo Nishimura), который впервые заметил её 11 августа этого года. Эксперты указывают,...

«Чандраян-3» успешно сел на поверхность Луны

«Чандраян-3» успешно сел на поверхность Луны

Автор Елизавета Щелканова
1 сентября, 2023
0

Миссия «Чандраян-3» стартовала из Космического центра имени Сатиша Дхавана, расположенного на острове Шрихарикота, в середине июля. На орбиту Луны станция вышла через 2,5 недели после...

Пожалуйста войдите, чтобы присоединиться к обсуждению
  • Популярные
  • Обсуждаемые
  • Последние
Пока единственный

Беженцы в Германии: что нужно знать им и их близким

4 марта, 2022
Проездные и разовые билеты  снова подорожают

Проездные и разовые билеты снова подорожают

26 августа, 2022
EC-карты уходят в прошлое

EC-карты уходят в прошлое

30 сентября, 2022
С сентября меняются правила  пребывания украинских беженцев

С сентября меняются правила пребывания украинских беженцев

19 августа, 2022
Планета в проводах

Немецкая молодёжь не готова менять мир к лучшему

1
Великая грешница

О перспективах отмены визового режима между Евросоюзом и Россией

1
ХАРЬКОВ. ИСХОД

ХАРЬКОВ. ИСХОД

1
Шуйский расстрел

Помощь украинцам и россияне без помощи

1
События прошедшей недели

События прошедшей недели

29 ноября, 2023
Обменный маневр

Обменный маневр

29 ноября, 2023
Признание  «Жёлтой стены»

Признание «Жёлтой стены»

24 ноября, 2023
Пока без наших

Пока без наших

24 ноября, 2023
  • Авторские рубрики

    • И вечный сбой 0
    • Понемногу обо всём 316
    • Связь времен 140
    • Там и тут 8
    • Только у нас 14
  • О нас
  • Реклама
  • Подписка
  • Редакция
  • Datenschutz
  • Impressum

© 2011 Русская Германия. Все права защищены.

Нет результатов
View All Result
  • Главная
  • Новости
  • Статьи
  • Спорт
  • Афиша
  • Объявления
  • Форум
  • Старый сайт

© 2011 Русская Германия. Все права защищены.

Добро пожаловать!

Войти в свой аккаунт

Забыли пароль? Зарегистрироваться

Создать аккаунт!

Заполните форму для регистрации

Нужно заполнить все поля. Войти

Восстановите свой пароль

Пожалуйста, введите ваше имя пользователя или адрес электронной почты, чтобы сбросить пароль.

Войти

Add New Playlist