В Великобритании разработали этические стандарты для роботов

Николай Овчинников

Британский институт стандартов в апреле опубликовал новые стандарты для роботов, разработанные специальным комитетом из ученых, философов и специалистов по этике. Выдержки из документа приводит Daily Mail.

Согласно стандарту, роботы не должны быть созданы для убийства или нанесения вреда человеку. Речь идёт не только о физическом вреде, но и о психологическом — страхе и стрессе.

Роботы не должны быть обманчивыми. Ноэль Шарки, профессор роботизации и исследования искусственного интеллекта в Университете Шеффилда, приводит пример: «В ходе недавнего исследования в детский сад завезли небольших роботов. Дети их полюбили и по-настоящему привязались к ним. Позже дети посчитали роботов более умными, чем их домашние животные».

За действия робота всегда отвечает человек, пишут составители стандартов, поэтому должно быть понятно, кто именно ответственен за определенного робота и его поведение.

Разработка роботов должна быть максимально прозрачной, цитирует правила Guardian. Проблема систем ИИ, особенно использующих глубинное обучение, сейчас состоит в том, что невозможно понять, почему они принимают такие решения.

Машины должны уважать культурное разнообразие и плюрализм. Алгоритмы, используемые американской полицией и судами, часто проявляют расовые предрассудки, а программы распознавания речи хуже понимают женские голоса.

По словам Дэна Палмера из Института стандартов, основным мотивом для разработки правил стало то, что роботов стали всё больше использовать в обычной жизни. «Роботы уже давно используются в промышленности, — сказал он в комментарии Digital Trends. — Но сейчас мы видим, как всё больше роботов взаимодействуют с людьми [в повседневной жизни]».

В июне разработчики искусственного интеллекта Google и OpenAI сформулировали пять практических проблем, связанных с разработкой безопасных роботов. Авторы советуют подробно продумывать инструкции для роботов и, прежде чем выпускать роботов к людям, обучать их в специальных симуляциях реальности. Кроме того, роботов надо программировать так, чтобы они как можно меньше воздействовали на окружающую среду, выполняя свои функции.

В свою очередь генеральный директор Microsoft Сатья Наделла сформулировал 6 законов искусственного интеллекта и 4 закона для людей, живущих в эпоху ИИ. Наделла обсуждает, является ли угроза «Терминатора» реальной. По его мнению, люди и машины должны работать вместе, чтобы решать основные проблемы человечества — болезни, невежество и бедность.

Загрузить еще