• Открытия, новые технологии

 Международная группа ученых привела доводы тому, что контроль над сверхразумным искусственным интеллектом невозможен.

 Работа была опубликована в журнале Journal of Artificial Intelligence Research. Представители различных научных дисциплин, в том числе специалисты из Центра людей и машин Института развития человека имени Макса Планка, решили проверить, смогут ли люди  управлять сверхразумными роботами.

 Сверхразумная машина, управляющая миром, звучит как научная фантастика. Но уже есть искусственный интеллект, способный обучаться и приходить к решению некоторых задач самостоятельно. В то же время программисты не всегда понимают, как ИИ этому научился.

«В результате возникает вопрос: может ли этот процесс в какой-то момент стать неконтролируемым и опасным для человечества?»- говорит один из авторов исследования Мануэль Себриан, руководитель группы цифровой мобилизации в центре людей и машин Института Макса Планка.

 Чтобы ответить на этот вопрос, ученые использовали моделирование и теоретические расчеты. Как оказалось, даже если поместить данные по этическим принципам в сверхразумную машину и ограничить ее связь с внешним миром (например, отключить доступ в интернет), это не оградит человечество от риска, что такая система выйдет из-под контроля.

 Дело в том, что, согласно теории информатики, любой из алгоритмов такого сдерживания – будь то программы об этических принципах или ограничение доступа к внешнему миру – уязвим и при определенных обстоятельствах вполне способен отключиться.

Читайте по теме:

Технологическая сингулярность - финиш для человечества

На пути к искусственному разуму - впервые пройден тест Тьюринга

 Поэтому специалисты делают вывод, что человек просто не сможет управлять сверхразумным ИИ и ситуация рано или поздно может выйти из-под контроля.

«Мы утверждаем, что полная локализация в принципе невозможна из-за фундаментальных ограничений, присущих самим вычислениям. Сверхразум будет содержать программу, которая включает в себя все программы, реализованные универсальной машиной Тьюринга (электронно - вычислительной машины, способной заменить собой любую другую ЭВМ), потенциально такой же сложной, как состояние мира», - заключают исследователи.