Тот ещё Шелли (lexa) wrote,
Тот ещё Шелли
lexa

Categories:

Белоснежка и семь мифов про AI

В начале ноября на питерском кинофестивале "Мир знаний" устроили научный квартирник по разоблачению мифов об искусственном интеллекте. Жаль, видеозаписей не было, хотя само место - Цифербург на Фонтанке - очень симпатичное для съёмок: это комплекс старинных зданий, превращенный в нечто среднее между кафе, сквотом и совокингом (совокинг - это как совок, только для хипстеров).

Фотка, сделанная на том квартирнике, прекрасно отражает то, что я думаю о "бурном развитии искусственного интеллекта" - поэтому с неё и начнём:

lexa-AI-discussion

Полностью пересказывать содержание дискуссии мне лень. Но одну забавную идею запишу. Я почти всегда забываю озвучить эту идею во время выступлений про AI. Но мне про неё всегда напоминают, задавая вопросы в конце. А само выступление без этой идеи обычно получается довольно пессимистичным. Например, я рассказываю такие мрачные вещи:

(1) Выход машинного обучения из стерильной лаборатории в большой реальный мир почти всегда сопровождается ростом ошибок на два-три порядка. А поскольку самый мощный надзор за гражданами с использованием искусственного интеллекта происходит в либеральных и демократических странах - то именно в этих странах ожидается большинство косяков.

(2) Самостоятельный AI - сказка для домохозяек. На деле, почти во всех случаях системы искусственного интеллекта требуют поддержки в виде целой армии человеческих рабов: асессоры в поиске, слухачи в голосовых помощниках и др. Про это не пишут в рекламе AI-продуктов, потому что следующая логичная мысль - а будет ли галера плыть, если рабы вдруг бросят вёсла?

(3) Работу нейронных сетей почти невозможно интерпретировать: дрессированные мышки не умеют говорить. Это значит, что вы не понимаете, как принято решение и почему возникла ошибка. Поэтому нейросети легко взламывать и обманывать, особенно с учётом того, что их разработчики почти никогда не тестируют свои поделки на "враждебное поведение". Зато они выкладывают коды своих ML-моделей в свободный доступ (даже Microsoft), а для обучения используют публичные датасеты, собранные хрен знает кем (прекрасный кейс - "отрезанные пальцы Тинькова");

(4) Самоходных роботов более ста лет изображали в фантастике, но они не появились среди нас. И на то есть веские причины. По тем же причинам беспилотные автомобили - это не про транспорт. Это скорее проект по сокращению численности населения на основе спортивного отбора. Чаще всего беспилотники будут врезаться в неподвижные объекты - и для этого тоже есть простое техническое объяснение. Так что если вы собираетесь жить в городе с беспилотниками, начинайте тренировки по бегу уже сегодня. (Некоторые попытаются скрыться в метро, но это всё равно что надеть на голову микроволновку. А вы не знали? - в метро реализуется другая техника сокращения населения, под названием "бесплатный WiFi").

(5) Искусственный интеллект, который "скоро превзойдет человеческий" - это рекламная выдумка чокнутого пиарщика из Гугла. Тот же чокнутый дедушка обещал, что в 2020 году (т.е. сейчас) в наших телах поселятся нанороботы, поправляющие наше здоровье (ничего подобного не существует даже в проекте, хотя в США уже потратили $20 миллиардов на "разработки в области нанотехнологий"). Поэтому правильный перевод всей этой сингулярности на русский язык звучит как слоган Незнайки на Луне: "Коротышки, покупайте акции Общества Гигантских Растений!".

(6) Вообще, технологические прорывы остались в прошлом. Удивительно, но это факт. Электричество и радио, автомобиль и самолёт, атомная энергия и космические станции, компьютер и Интернет, пластик и гормональные контрацептивы - ничего такого прорывного не придумано в XXI веке. Это касается и алгоритмов машинного интеллекта: они все из хрущёвских времён. Отчего же возник такой AI-бум сейчас? В основном благодаря количественному росту Интернета, то есть огромных объемов данных. Но время бесконтрольного шпионажа проходит - например, из-за законов типа GDPR. А публичные данные теперь сильно замусорены и фальшивы. В начале 2000-х около 70% контента в Интернете было оригинальным, а сейчас - лишь около 7%. Ну и какое обучение будет на этом мусоре?

(7) Все вышеописанные AI-алгоритмы, даже будучи кривыми и опасными, всё равно будут активно размножаться в нашей техногенной монокультуре (благодаря чокнутым пиарщикам). Поэтому нужны правила безопасности - но не в виде азимовских "законов робототехники", предписанных роботам (это всё равно, что предписать этический кодекс деревьям и мышам). В первую очередь правила безопасности относительно машин должны быть закреплены в правах и обязанностях людей. Например, право в любых случаях знать, общаешься ли ты с роботом или с человеком, право получить человеческий аналог любого робосервиса и право отключить любую вредоносную машину.

...ну и так далее.

И вот после того, как я вволю оттоптался на тупых роботах, мне обычно задают вопрос - неужели не ожидается совсем ничего хорошего от искусственного интеллекта? Людям хочется увидеть Белоснежку, а не только уродливых гномов. И в этот раз модератор дискуссии тоже спросил - скажите напоследок, какие могут быть позитивные открытия в этой области?

И я сказал, что да, ожидаются открытия! Ведь всё вышесказанное, непозитивное и уродливое, касается только тех серьёзных сфер, где нельзя ошибаться и где нужно понимать, что происходит. Но в жизни человека есть сферы, где ни точность, ни понимание нафиг не нужны. И с помощью искусственного интеллекта многие люди совершат великое открытие - они узнают, что значительная часть их жизни (а может, и вообще вся жизнь) проходит именно в таких необязательных сферах.

Скажем, вы идёте на выставку современной живописи. Там куча людей пялятся на стены с разноцветными пятнами. Можно ли заменить все красные пятна на зелёные? Конечно, можно! И никто не пострадает. Живопись - это сфера необязательных развлечений.

А в кино или в компьютерной игре можно нарисовать осьминога с 11 щупальцами вместо 8? Тоже можно. И даже в новостях можно. А уж в литературе - и подавно.

Значит, художников, актёров, писателей, журналистов и ещё кучу людей так называемых "творческих профессий" можно легко заменить искусственным интеллектом. Он не хуже них будет генерировать разноцветные пятна и прочее "творческое разнообразие", из которого массовая культурка будет сама отбирать себе то, что её бодрит на данный исторический момент.

Какие ещё сферы внезапно окажутся необязательными? Да многие, многие. Вот вы наверняка не помните почти ничего из того, что учили в школе. Потому что оно такое и было - необязательное. Значит, и тут робота можно посадить. Хватит уже этого нытья про низкую зарплату учителей! - роботу вообще платить не нужно.

А как насчёт науки? Наука, по определению академика Арцимовича, - это "лучший способ удовлетворения личного любопытства за государственный счет". То есть опять - развлечение. И действительно, искусственный интеллект здесь применяется круче всего! Начиная с первой программы "Элиза" 1966 года, которая состояла из десятка строчек кода и успешно имитировала психотерапевта (некоторые считают это наукой) и заканчивая самым современным методом научной работы, имя которому "мета-анализ". Знаете, что это такое? Это когда вы не проводите никаких экспериментов, не ездите по опасным джунглям, не выдумываете гениальных гипотез и вообще ничего в реальном мире не делаете - просто берёте данные чужих исследований и прогоняете через AI-программу, которая ищет корреляции. Тысячи публикаций, тысячи диссертаций так сделаны. Но мы же понимаем, что человека можно совсем убрать из этой машины научных развлечений.

И даже главный современный пример интеллектуальности машин - он из той же развлекательной оперы. Вы конечно слышали этот пример: Гугл потратил миллиард баксов на разработку... еще одного игрового автомата для Лас-Вегаса. Ну а как иначе назвать весь этот шум о программе Allah Go, которая обыграла чемпиона в го? Абстрактная настольная игра, не имеющая никакого практического применения и никак не влияющая на вашу реальную жизнь. Вполне естественно, чтобы там вкалывал робот.

Поэтому многим гражданам уже сейчас стоит задуматься о получении приличной профессии будущего. Не развлекательной, а реальной. Например, профессии сотрудника службы по отстрелу роботов. А то будете потом побираться на случайных подработках, как Гарри Каспаров (если кто не знает - это бывший мировой чемпион по бессмысленной игре в шахматы, которую тоже долгое время считали признаком интеллекта, пока индустрия игровых автоматов не поставила её на правильное место - в стойло необязательных развлечений).

Вот такая она, Белочка Белоснежка искусственного интеллекта. Надеюсь, теперь никто не скажет, что у меня нет позитивных прогнозов?


cat-dog-neural
Tags: инструкции, нанополитика, наука, футурология, хайтек
Subscribe

  • книги, которые подрывают

    Все мои прошлые статьи на «Альтерлите» были ругательные, и я решил для разнообразия написать о хороших книгах. Хотя нет, так не…

  • культурные диалоги

    - Пап, ты знаешь какие-нибудь песни Цоя? - Все. - А вот эту знаешь? (включает на мобильнике) - Это "Пикник". - Вот она мне нравится! Ну и…

  • без прививки: в защиту большинства

    По всем каналам опять пустили ковидную истерику, и даже в ЖЖ вылезла армия диванных экспертов, которые уже призывают штурмовиков для принудительной…

  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your reply will be screened

    Your IP address will be recorded 

  • 31 comments

  • книги, которые подрывают

    Все мои прошлые статьи на «Альтерлите» были ругательные, и я решил для разнообразия написать о хороших книгах. Хотя нет, так не…

  • культурные диалоги

    - Пап, ты знаешь какие-нибудь песни Цоя? - Все. - А вот эту знаешь? (включает на мобильнике) - Это "Пикник". - Вот она мне нравится! Ну и…

  • без прививки: в защиту большинства

    По всем каналам опять пустили ковидную истерику, и даже в ЖЖ вылезла армия диванных экспертов, которые уже призывают штурмовиков для принудительной…