Тот ещё Шелли (lexa) wrote,
Тот ещё Шелли
lexa

Categories:

Цифровой Маугли

В продолжение вчерашней темы киберпанка для маленьких девочек. Вполне такой реальный будничный разговор с женой:

- Представляешь, я ей говорю: "Закрой рот!". А она мне отвечает: "Привет, вот что мне удалось найти в Интернете по запросу "Закрой рот"...

- Да, Siri так и работает.

- Это я не про Siri рассказываю. Это про нашу Еву.

Знатоки жанра наверняка вспомнят тут "Алмазный век" Нила Стивенсона, где умный электронный букварь помог девочке из трущоб превратиться в предводительницу целой армии. Но даже если отвлечься от технологических трудностей, можно заметить принципиальную разницу в подходах. Это ровно то, о чём я писал в статье про фальшивый искусственный интеллект.

У Стивенсона умный букварь развивался "снизу вверх": он собирал информацию с множества сенсоров, прогонял собранный "паттерн ситуации" через концентрированный опыт других людей - и моделировал персональную сказку для своей хозяйки. Он не давал готовое решение на символьном языке - вместо этого он показывал ей варианты развития конкретной ситуации. Например, при приближении опасного незнакомца букварь показывал сказку, в которой героиня попала в плен к пиратам; все варианты интерактивного продолжения кончались плохо. Хозяйка букваря очень расстроилась, но зато, когда к ней подошёл незнакомец, она поступила наилучшим образом: врезала ему хорошенько и убежала. Она сама нашла решение: искин лишь добавил ей немного опыта. Подобными методами обучения даже среди людей мало кто владеет.

В случае Siri и прочих болталок, нет ничего похожего. Даже если добавить им мощности, эти программы-болталки не будут ориентированы на человека, на его ситуацию и его психологию. Они живут в совершенно другом, собственном символьном мире. И они скорее перетащут туда человека, чем сами под человека настроятся. Люди в целом гибче машин, поэтому вместо развития искусственного интеллекта мы скорее увидим деградацию большого количества людей до уровня примитивных ботов. Собственно говоря, такая гуглизация мышления происходит уже сейчас; ровно так же биржевые инструменты (даже не будучи AI) перестраивают мозги на свой алгоритм "купли-продажи".

Двадцать лет назад у меня ещё были романтические фантазии на этот счёт в "Паутине". Хотя уже тогда было понятно, что Маугли, воспитанный Сетью, будет очень странным созданием:

"- Сеть была для него Книгой Джунглей. Он рано потерял родителей, его воспитывали в основном обучающие программы и виртуалы-хакеры. В определенном смысле он был дикарь: есть очень много вещей, о которых не написано в Сети.

- Неужели? Что же это за тайны человечества?

- Не тайны, наоборот - само собой разумеющиеся вещи. Представь обычный кулинарный рецепт, где написано "обжарьте лук", но не написано "очищенный и нарезанный". Такое в Сети на каждом шагу. Знания о человеке, которые можно почерпнуть из Сети, искажены ещё сильнее, чем то, что киплинговский Маугли узнавал от волков".
Tags: дети, футурология, хайтек
Subscribe

  • интеллект, иммунитет и другие ИБ-изобретения

    В прошлой статье я рассказывал о косяках машинного обучения – и о том, что такая ситуация загоняет искусственный интеллект в развлекательные сферы,…

  • бумажный телескоп

    «Слова у нас, до важного самого, в привычку входят, ветшают как платье», писал Маяковский. А я, признаться, регулярно забываю эту простую истину.…

  • ковид и хакеры

    В четвёртом выпуске подкаста "Смени пароль" обсуждаем с Сашей Гостевым и Серёгой Головановым, как пандемия повлияла на кибер-преступность и…

  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your reply will be screened

    Your IP address will be recorded 

  • 6 comments