Google и Оксфорд разрабатывают «красную кнопку» для роботов

Лев Шевченко

Ученые из DeepMind (подразделение Google, занимающееся разработкой ИИ) и специалисты из Оксфордского университета разрабатывают «красную кнопку» для устройств с алгоритмами ИИ, которая смогла бы их отключить в экстренных ситуациях. В своей научной статье они описали, как роботы будущего могут быть запрограммированы во избежание проблем с взаимодействием с человеком и неправильных действий. Об этом пишет BBC.

Проектом занимаются Лоран Орсо (DeepMind) и Стюарт Армстронг (Институт будущего человечества, Оксфордский университет). Цель исследования — создать возможность моментального отключения робота без лишних манипуляций. По их словам, ИИ будущего вряд ли все время будет адекватно себя вести, поэтому он нуждается в инструменте, который сможет его быстро отключить. Ученые считают важным начать работы по предотвращению проблем с ИИ начаты перед его массовым внедрением.

«Ни одна система никогда не будет защищена «от дурака», — говорит Орсо. Поэтому система должна быть проработана максимально качественно.

По словам профессора ИИ в Университете Шеффилда Ноэля Шарки, программа, самостоятельно отключающаяся в опасных ситуациях, была бы верным решением проблемы. Такой механизм пригодился бы чатботу Tay во время «извержения» им расистских высказываний.

Роботы все чаще используются в разных сферах деятельности человека. В США уже работают робот-юрист и робот-хирург, а в Китае — робот-полицейский.

Загрузить еще