Тот ещё Шелли (lexa) wrote,
Тот ещё Шелли
lexa

Categories:

freeze motor functions: манифест киберэтики


"По словам Шеза, главными возможностями для Cisco являются два пути: во-первых, внедрить искусственный интеллект во всё, что мы производим - а потом приручить этот интеллект." (Cisco Newsroom)

Цитата, приведённая выше, прекрасно отражает глубинный идиотизм маркетологов искусственного интеллекта. И потому неудивительно, что привить машинному разуму какую-либо этику не удаётся - как уже было сказано, если у самих людей с этикой большие проблемы, то чего ждать от их ботов? Вот на днях система распознавания лиц Amazon Rekognition опознала 28 членов Конгресса США как "преступников". Мы конечно и без того догадывались, что они преступники. Но нельзя же вот так в лоб. Грубо, неэтично. Не по-человечески.

К счастью, нашёлся на свете футуролог по имени Герд Леонхард (Gerd Leonhard), который сделал наконец правильный вывод из этого тупика - надо внедрять "законы робототехники" не для роботов, а для людей. Леонхард придумал Этический Манифест, описывающий новые права людей в мире, который наполнен долбаными ботами:

1. Право оставаться натуральным, то есть биологическим существом. Это значит, что мы можем устраиваться на работу, использовать публичные сервисы и фунционировать в обществе без требования размещать какие-либо технологии на своём теле или внутри него.

2. Право быть неэффективными там, где это касается наших базовых человеческих качеств. Мы должны иметь возможность быть медленнее, чем технические системы, и не ставить эффективность выше человечности.

3. Право отключаться от сетей. Мы должны иметь право уходить в оффлайн и блокировать коммуникации, а также мониторинг и трэкинг.

4. Право на анонимность. Мы должны иметь возможность запретить идентификацию своей личности, когда это не представляет опасности для себя или окружающих.

5. Право нанимать людей вместо машин. Мы должны поддерживать компании, которые выбирают людей вместо машин, даже если это менее эффективно и более затратно.


Это всё конечно прекрасно, но для реализации таких прав совершенно необходим пятый пункт паспорта шестой базовый принцип: Право знать, когда ты общаешься с роботом, а не с человеком.

Именно такой законопроект предлагается принять в Калифонии - обязать ботов признаваться, что они боты. Однако если в первой редакции законопроекта непризнавшиеся боты и их хозяева должны были быть расследованы и наказаны в течение 72 часов, то теперь из текста убрали пункты о наказаниях, так что вообще непонятно, чем будет стимулироваться выполнение такого закона.

Такое послабление в законе неудивительно: в американской поп-культуре сейчас раскручивается идея о том, что роботы не хуже, а местами даже лучше людей. Про это и второй BladeRunner, и второй сезон West World. (Единственное, от чего страдают добрые роботы Дикого Запада - это "провалы в память"; болезнь противоположная человеческим "провалам памяти", тут наоборот, слишком много воспоминаний, отчего робот постояннно теряет чувство времени и тормозит, а зрителям-людям приходится использовать специальные таблицы, чтобы понять этот сериал).

Вообще забавный пародокс: главным хабом научной фантастики, особенно в кино, считается клинически религиозная страна - США. И ведь по сути, почти вся американская фантастика, включая и Азимова с его Роботом-Демиургом, и Кларка с его Мегалитами-Суперлордами - это действительно религиозный бред и банальные фэнтэзи, просто замаскированные с помощью космических кораблей, бластеров и компьютеров. Редкие исключения (Филип Дик, Брюс Стерлинг) только подтверждают это правило (активно экранизировать Дика стали только недавно, да и то в очень упрощённом виде; Стерлинга не экранизировали вообще никогда, последние лет двадцать он живёт в Европе).

В связи с этим я даже пошёл и поискал - а откуда родом футуролог Леонхард, который придумал вышеприведённый Этический Манифест? Ну конечно же, он оказался европейским мужиком, из Цюриха. Поэтому, прежде чем требовать от ботов признания, что они - боты, мы должны решить тот же вопрос с американцами. Думаю, американское гражданство должно быть вытатуировано на лбу. А в Интернете все американские новости и сервисы должны быть помечены большим красным значком. И никакого национализма тут нет, друзья. Вы ведь не хотите, чтобы вас захватили роботы, которые прикинулись людьми? Значит, надо метить не только роботов, но и их главных пособников.

"I've told you, Bernard, never place your trust in us. We're only human".




Tags: кино, книги, музыка, нанополитика, футурология, хайтек
Subscribe
  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your IP address will be recorded 

  • 9 comments