Восстание машин

Этически нейтральны ли технологии?

Редакция Apparat

Действительно ли технологии управляют нами? Можем ли мы контролировать их развитие? На кого ложится ответственность за изобретения? Эти вопросы обсуждали аспирант Школы философии НИУ Высшей школы экономики Александр Мишура и директор департамента взаимодействия науки, технологий и общества Московского технологического института, исполнительный директор Молодежного общества нейротехнологов Петр Левич.

Петр Левич: Мы знаем много романтических историй об ученых и технологиях. Например, гениальный Тони Старк, который собрал боевой костюм и вершил с его помощью правосудие, но террористы пытались использовать его разработки для того, чтобы захватить мир. Или модификация генома человека. С ее помощью можно лечить генетические заболевания и прививать людям определенные черты характера. Но тогда человек окажется ограничен в выборе профессии, возможно, образуются некие генетические касты. На кого ложится ответственность за изобретение? Если разработчик понял, что его детище будет использовано в чем-то, противоречащем его этическим принципам, должен ли он уничтожить все образцы? Или же технологии этически нейтральны, и их развитие должны контролировать общество, государство и другие институты?

Александр Мишура: Философия не оценивает, как та или иная разработка может повлиять на нашу жизнь, а, скорее, рассматривает основания для какой-либо этической оценки технологий вообще. Если мы доводим технологию до предела, мы можем создать доброго и мирного человека. А не исчезнет ли тогда ценность доброты и свободы? Существует серьезная дискуссия о том, контролируем ли мы развитие технологий, есть ли у человека возможность изменять их направление. Техническое развитие в современном мире стало условием выживания. Если государство отстает в техническом развитии, ему трудно конкурировать с более развитыми государствами.

В апреле 2015 года в Китае (группа ученых университета Сунь Ятсена) впервые в мире был проведен эксперимент по редактированию человеческого генома с помощь технологии CRISPR/Cas9. Точнее, человеческих эмбрионов. Ученым не удалось опубликовать результаты своей работы в крупных журналах вроде Nature и Science по причинам запрета этических комиссий на эксперименты над человеческими эмбрионами. Статья появилась в журнале Protein&Cell.

И вот, спустя 8 месяцев, Великобритания разрешила редактировать геном человеческих эмбрионов. Она выдало первое разрешение на редактирование генома эмбрионов человека в исследовательских целях.

Судя по всему, законодательные запреты на редактирование генома человека будут постепенно ослабляться или сниматься по принципу домино. Великобритания оказалась перед выбором — разрешить технологию либо проиграть технологическую гонку — и выбрала первый вариант.

Этические проблемы в генетике: о чем спорят ученые

Если ты не умеешь обращаться с компьютером, тебе будет трудно найти работу.

П.Л.: Большая доля критики технологий упирается в то, что компьютеры и телефоны нами как-то управляют. Но стоит ли обвинять их в этом?

А.М.: Когда человеком управляет iPhone, им управляет не Стив Джобс, а функциональность гаджета. Раньше люди полагали, что настоящие знания — это те, что у тебя «на языке». Когда-то хороший лингвист отличался тем, что он знал, как употреблялось определенное слово в определенной традиции. Сейчас развивается корпусная лингвистика, где ты можешь одним нажатием кнопки получить множество примеров употребления слова за выбранный период времени. Знания постепенно отделяются от человека. Существует пространство интернета, в котором есть огромное количество информации, но, к примеру, даже среди ученых едва ли можно найти человека, который бы ясно представлял, что происходит во всех специальных областях науки, которой он занимается. То же самое и с технологиями: если взять сложную технику, то ни один человек на Земле не понимает до конца, как работают все модули. Возможно, в ближайшем будущем уже не останется специалистов, которые бы вполне представляли бы себе систему технических условий функционирования современного мегаполиса.

П.Л.: Я пытаюсь понять, кто в этой цепочке является объектом и субъектом влияния. Критерием того, чтобы что-то организовывало нашу жизнь, должно быть сознание. Смартфон лишь в метафорическом смысле обладает сознанием, но он является лишь передатчиком воздействия.

А.М.: Говорить, что у машин есть сознание, действительно преждевременно. Но, допустим, я беру свой телефон, открываю специальное приложение об общественном транспорте, вижу, что автобусов поблизости нет, и иду пешком. Техника не обладает сознанием, однако в этом случае она стала одной из физических причин моего поведения. Инженеры никогда не могут вполне предсказать, к чему приведет та или иная разработка. Мир технологий не меняется в одно мгновение.

П.Л.: Но не нужно ли в этом рассуждении от причины неодушевленной докопаться до агента, обладающего свободой выбора или хотя бы иллюзией свободы выбора (в зависимости от выбора позиции по вопросу детерминизма)? Есть конкретные люди, которые разработали технологию и встали перед выбором — представлять ее миру или нет. На ком из них лежит эта ответственность?

А.М.: Никто из людей, создававших iPhone, не отдавал себе полного отчета, как гаджет изменит нашу жизнь. Инженеры не могут предсказать, к чему приведет та или иная разработка. Отсюда вытекает вопрос: а вдруг мы изобретем что-то очень плохое, что никто не сможет предвидеть?

П.Л.: И как жить в таком неопределенном мире?

А.М.: Мир не меняется в одно мгновение. Мы просто должны взять на себя заботу об этической стороне технологического прогресса. Необходимо на уровне регулярных процедур освоения технологического знания рассматривать вопрос: как правильно использовать ту или иную технологию, какие риски могут быть с ней сопряжены? Философия выполняет здесь некоторую предварительную работу, проясняя сам смысл понятий «хорошо» и «правильно» в связи с техникой. Технологии сами по себе не могут этого сделать. Однако если люди не будут рассчитывать, что из технологий автоматически выйдет что-то хорошее, а сделают это собственной задачей, есть надежда, что техника таки будет «хорошей».

Александр Мишура выступит с докладом «Этическая нейтральность технологий» 11 мая в 19:30 в Московском технологическом институте. Регистрация: https://futuref.timepad.ru/event/325867/

Источник: http://vhoru.com.ua/

Подпишись на Аппарат
Facebook
Вконтакте
E-mail дайджест
Популярное за неделю