Програємо як у шахмати: "Люди не зможуть управляти надрозумними машинами", - науковці

Повстання машин із культового "Термінатора" вже не бачиться фантастичним...

Міжнародна група вчених продемонструвала, що управління надрозумним штучним інтелектом неможливо, передають Патріоти України з посиланням на іноземні ЗМІ. Далі - мовою перекладу:

"Как сообщает Naked Science, работа опубликована в Journal of Artificial Intelligence Research. Опасность, которая может исходить от сверхразумного ИИ, как известно, в красках описана в блокбастерах о Терминаторе.

Представители разных научных дисциплин, в том числе специалисты из Центра людей и машин Института развития человека Макса Планка, решили проверить, насколько человек способен управлять сверхинтеллектуальными роботами.

«Сверхразумная машина, которая управляет миром — звучит как научная фантастика. Но уже есть роботы, выполняющие определенные важные задачи независимо. При этом программисты вообще не понимают, как они этому научились. В результате возникает вопрос: может ли этот процесс в какой-то момент стать неконтролируемым и опасным для человечества?» — говорит один из авторов исследования Мануэль Себриан, руководитель группы цифровой мобилизации в Центре людей и машин Института Макса Планка.

Чтобы ответить на этот вопрос, ученые использовали моделирование и теоретические расчеты. Как выяснилось, даже если заложить в сверхразумную машину данные об этических принципах и ограничить ее связи с внешним миром (например, отключить доступ в интернет), это не спасет человечество от рисков того, что подобная система выйдет из-под контроля.

Дело в том, что, согласно теории информатики, любой из алгоритмов такого сдерживания — будь то программы об этических принципах или ограничение доступа к внешнему миру — уязвим и при определенных обстоятельствах вполне способен отключить сам себя. Поэтому специалисты делают вывод, что управлять сверхразумным ИИ человек попросту не сможет и ситуация рано или поздно может выйти из-под контроля.

«Мы утверждаем, что полное сдерживание в принципе невозможно из-за фундаментальных ограничений, присущих самому вычислению. Сверхразум будет содержать программу, которая включает в себя все программы, осуществляемые при помощи универсальной машины Тьюринга, потенциально столь же сложной, как состояние мира», — заключают исследователи."

Інформація, котра опублікована на цій сторінці не має стосунку до редакції порталу patrioty.org.ua, всі права та відповідальність стосуються фізичних та юридичних осіб, котрі її оприлюднили.

Інші публікації автора

Один з найважливіших для християн днів року. Благовіщення Пресвятої Богородиці: Історія і заборони свята

понеділок, 25 березень 2024, 6:15

25 березня за новим стилем (7 квітня - за старим) - Благовіщення Пресвятої Богородиці, яке належить до числа дванадесятих свят, тобто, найбільш значущих у житті Ісуса Христа і Богородиці. За Біблією, саме в цей день Архангел Гавриїл повідомив Діві Марі...

День Віри, Надії, Любові та Софії: Народні прикмети 17 вересня

неділя, 17 вересень 2023, 8:18

За новоюліанським календарем християни східного обряду України вперше святкують день ангела жінки на ім'я Віра, Любов, Надія і Софія. Ще минулого року цей день припадав на 30 вересня. Також в честь цього дня іменинницям обов'язково потрібно сходити в ц...