"Восстание машин": Роботов научили не выполнять приказы человека

Фотография - "Восстание машин": Роботов научили не выполнять приказы человека

Фото: Tufts Human-Robot Interaction Lab

Искусственный интеллект отказываться выполнять приказы, если у него есть для этого основания.

1013 0

Американские ученые из Университета Тафтса разработали систему взаимодействия робота с человеком, которая позволяет искусственному интеллекту отказываться исполнять приказы, если у него есть для этого основания, сообщает NEWSru.com со ссылкой на IEEE Spectrum.

Перед тем как выполнять полученный от человека приказ, робот проверяет, возможно ли его исполнить, и есть ли у человека полномочия отдавать приказы. Если по каким-либо причинам ИИ не может выполнить приказ, он уведомляет об этом человека, объясняя причины, по которым он отказывается действовать. При этом после уточнения данных об окружающей среде робот может "передумать" и выполнить поставленную задачу.

Ученые записали несколько видеороликов с демонстрацией такого поведения. В первых двух робот, получив уточняющие данные, в итоге выполняет приказ, а в третьем отказывается выполнить поставленную задачу, поскольку человек, озвучивший приказ, не обладает необходимыми полномочиями.




Как отмечает издание, речь идет не о "восстании машин", а скорее о проверке необходимых условий для выполнения задачи. Подобные технологии, например, применяются для разграничения доступа и при передаче данных в вычислительных системах.



Загрузка...

Комментарии (0)

Input is not a number!
Input is not a email!
Input is not a number!