Ученые заявили о невозможности контролировать сверхразумный ИИ

Ученые выяснили, что человек не сможет контролировать поведение сверхразумной системы с ИИ, и, вероятно, даже упустит момент ее создания. Ученые заявили о невозможности контролировать сверхразумный ИИ Федеральное агентство новостей-

Предположим, что в будущем людям удастся создать искусственный интеллект, превосходящий человеческий, и способный к самообучению, который возьмет на себя управление всеми машина и компьютерами по сети. Будет ли он решать задачи на благо общества или решит поработить человечество? Исследователи из Института Макса Планка решили проверить, сможет ли человек контролировать ИИ, чтобы он не стал угрозой для мира. Результаты работы опубликованы EurekAlert.

Ученые рассмотрели два основных способа контроля над сверхразумной машиной. Первый путь заключается в том, чтобы искусственно ограничить способности ИИ, отключив его от интернета или других устройств, позволяющих контактировать с внешним миром. Однако этот метод автоматически сделает систему менее полезной для людей.

Второй способ заключается в том, чтобы создать некий надзирающий алгоритм, способный следить за действиями ИИ и остановить его в случае опасности для человечества. Как оказалось в процессе изучения, на практике этот механизм будет абсолютно бесполезен.

«Если разбить проблему до базовых правил теоретической информатики, окажется, что алгоритм, который мог бы приказать ИИ не разрушать мир, непреднамеренно прекратит свою работу. Если это произойдет, мы не будем знать, то ли он все еще анализирует угрозу, то ли остановился, чтобы сдержать опасный ИИ. Фактически, это делает надзирающий алгоритм бесполезным», — объяснил директор Центра человека и машин Института Макса Планка Ийад Рахван.

Таким образом, ни один созданный алгоритм не поможет определить, опасен ли сверхразум. Исследователи также отметили, что человечество может пропустить даже момент создания такого ИИ, поскольку, вероятно, не сможет определить, превосходит ли система разум человека.

Источник