В Google назвали 5 главных проблем робототехники

Татьяна Новак

Разработчики искусственного интеллекта Google и OpenAI совместно с командой учёных из Калифорнийского университета Беркли и Стэнфордского университета сформулировали пять практических проблем робототехники. Об этом сообщается в блоге Google.

Авторы исследования пишут, что дискуссии вокруг опасности искусственного интеллекта оторваны от реальности. Они сводятся к «восстанию машин» и другим фантастическим сценариям, хотя учёные, которые создают роботов для больниц, кафе и супермаркетов, действительно сталкиваются с серьёзными проблемами, которые нужно решать уже сейчас. Автор публикации Крис Ола коротко рассказал о них на простых примере ситуаций, которые могут возникнуть с роботом-уборщиком.

Как избежать негативных побочных эффектов? Как объяснить роботу, что нельзя опрокидывать вазу, которая мешает ему убирать?

Как предотвратить жульничество ради вознаграждения? Как объяснить роботу, что он должен убрать мусор, а не прикрыть его скатертью?

Как определить степень контроля? Как научить робота различать, что фантики он может выбросить самостоятельно, а по поводу мобильных телефонов должен посоветоваться с человеком? Как научить его обращаться к человеку, но не слишком часто?

Как обеспечить «безопасную разведку»? Если робот запрограммирован искать оптимальные способы уборки, как предостеречь от опасных экспериментов — например, от протирания розетки влажной губкой?

Как обеспечить устойчивость к смене деятельности и места? Как объяснить роботу разницу между уборкой в цеху завода и уборкой в офисе?

Авторы статьи признают, что пока не могут дать ответы на эти вопросы. Для начала они советуют разрабатывать максимально продуманные инструкции и, прежде чем выпускать роботов к людям, обучать их в специальных симуляциях реальности. Кроме того, роботов надо программировать так, чтобы они как можно меньше воздействовали на окружающую среду, выполняя свои функции.

Ранее ученые из DeepMind от Google и специалисты из Оксфордского университета рассказали, что разрабатывают «красную кнопку» для машин с искусственным интеллектом. Они уверены, что в будущем людям понадобится технология, которая сможет мгновенно отключать роботов, вышедших из-под контроля.

Недавно на сайте Европарламента появился проект доклада, в котором комитет по правовым вопросам предложил признать роботов «электронными лицами» и закрепить за ними соответствующие права и обязанности. Авторы проекта также хотят поднять вопрос и об ответственности «разумных» роботов за их действия или бездействие, в том числе за нанесение ущерба человеку.

Загрузить еще