Тот ещё Шелли (lexa) wrote,
Тот ещё Шелли
lexa

Category:

Гирлянда для бедных

В январе издание Colta.ru предложило мне написать статью по поводу смерти Марвина Мински. Ну я и написал - про мифы искусственного интеллекта и невербальное обучение детей. А через некоторое время подумал, что хорошо бы написать продолжение - про мифы рационального мышления и вербальные болезни взросликов. И предложил "Кольте".

Но на этот раз они не встретили меня с распростёртыми объятьями. Ибо я теперь у них по другую сторону баррикады. Статью о Марвине Мински они ещё как-то пропустили; видимо, потому, что искусственный интеллект и дети - это для хипстеров такие далёкие абстракции, о которых можно рассуждать безболезненно. Но в продолжении я собирался зацепить более близкую материю - модных научных журналистов. Тут и возникла баррикада, где я числюсь "мракобесом со скрепами".

Что ж, вы хочете скрепов - их есть у меня. И чтоб два раза не вставать, я сразу расчехлю многозарядный стэплер с вертикальным взлётом, сразу всем сёстрам по скрепке. Это не статья для журнала, а лишь неформальный набросок того, о чём можно было бы написать статью, если б "Кольта" не забоялась повеселиться. Ну, так даже лучше. Расскажу всё здесь, по-простому.

# # #

Известный математик Роджер Пенроуз в конце 80-х сделал удивительное признание об интуиции. Собрав примеры из собственного опыта, а также откровения других математиков, он написал в книге "Новый ум короля":

«На мой взгляд очевидно, что эстетические критерии важны не только при формировании спонтанных суждений, являющихся результатом озарения, но и гораздо чаще – в каждом суждении, которое появляется в ходе математической (или, говоря в целом, научной) работы. Строгое доказательство – это обычно последний шаг!»

Подобные вещи замечали и раньше. Яблоко Ньютона, сон Менделеева, забытая пробирка Пастера - какую великую теорию не возьми, обязательно найдётся такая вот иррациональная фигня, которая как будто первична. И только потом уже происходит формальное доказательство, словно бы для оправдания. Но Пенроузу как рациональному математику не понравилось, что в его голове творится неведомая хрень (остальные упомянутые парни были достаточно религиозны, чтобы не париться). Поэтому в 90-е годы Пенроуз вместе в нейробиологом Стюартом Хамероффом выдвинул гипотезу, согласно которой микротрубки цитоскелета каждого нейрона представляют собой квантовый клеточный автомат, то есть очень мощный высокопараллельный компьютер молекулярного уровня, который и производит все «озарения».

Гипотеза до сих пор не доказана, но направление очень даже разумное. Ниже я попробую на пальцах объяснить, чем отличается эмпирический разум от рационального, и почему второму не всегда можно верить, как бы он не прикрывался "научными доказательствами".

Представьте себе гирлянду для новогодней ёлки. Но не такую, где все лампочки последовательно на одном проводе висят. А такую, которая в виде сети: каждая лампочка соединена со многими другими. И законы зажигания тоже нелинейные. От одной лампочки, например, идут сигналы, которые зажигают семь других. А чтобы её саму зажечь, нужно, чтобы к ней пришли сигналы от 102 других. Причём в определённом порядке. А если пришли только от 101, она не зажигается. И что самое забавное, не все эти принципы зажигания нам известны; кажется, в некоторых случаях большую роль играет случайность. Такая вот прикольная гирлянда.

Примерно так работает наш эмпирический мозг, который получает данные от множества сенсорных систем (зрение, слух, осязание и ещё десять чувств), собирает эти впечатления в своей распределенной сетевой памяти, а затем выдаёт полезные сигналы в ответ на распознавание знакомого стимула. Например, командует вам пригнуться, когда вы заметили, что в вашу сторону летит кирпич. Вы даже не успеете вспомнить, что пишут в Cochrane о пользе кирпичей. Но весь ваш опыт наблюдения летающих предметов в этот миг будет переведён в набор точных команд для ваших мышц.

А теперь, дети, представьте, что вы пришли в магазин и просите папу купить вам эту прикольную гирлянду в виде супер-связной сети из тысяч лампочек. А папа говорит: “Нет, она слишком дорогая, да и нам её негде повесить. Давай лучше купим одну простую нитку!”. То есть привычную линейную гирлянду, где за одной лампочкой зажигается вторая, а за ней третья.

Так работает классическая линейная логика: “Из А следует B, из B следует С”.

Вменяемые учёные, конечно же, понимают разницу между этими двумя гирлярдами. А некоторые, как Пенроуз, даже имеют смелость признать, что линейная гирлянда - это отстой ("доказательство - только последний шаг".)

Но таких учёных мало кто читает. Вместо них в СМИ выступает цирк "научных журналистов" - эдаких ларёчников, у которых простая гирлянда линейной логики является главным уличным товаром для неприхотливой толпы.

Поскольку над предыдущим абзацем уже реет опасный квантор всеобщности, надо уточнить, что я говорю не обо всех популяризаторах науки. Предполагаю даже, что тут есть некая поколенческая проблема. По крайней мере, я с удовольствием читаю Александра Маркова и Рафаила Нудельмана, Карла Циммера и Оливера Сакса - в общем, старичков. Но в последние годы на сцену вылезло новое поколение каких-то гиперактивных киборгов, которые очень кичатся своим умением компилировать обзоры из чужих научных новостей. А то, что не попало в их скудные обзоры, они смело обзывают "лженаукой": бинарный мозг киборга не приемлет иных вариантов.

Ниже будет несколько примеров того, как эти доказательные ларёчники работают. Все примеры взяты из типичной "научной журналистики", которая мне попадались в последние годы.

“Курение вызывает рак”. Казалось бы, всем это очевидно. Но поглядим доказательство. Взяли большую выборку людей, которые умерли от рака. Посмотрели, сколько из них курили. О, да очень многие! А среди людей, которые умерли не от рака - процент курящих заметно меньше. Значит, от курения рак? Да нифига. Корреляция не означает причинно-следственной связи. Может быть, эти две лампочки загорелись от какой-то третьей. Например, у всех этих людей была генетическая предрасположенность и к раку, и к курению. Или им в детстве грудного молока не досталось, что дало сразу несколько негативных последствий.

Дисклеймер: сам я против курения, конечно. Но это не повод выдавать корреляцию за доказательство; на месте этого примера могло быть любое из множества аналогичных псевдо-исследований, построенных на том же трюке: "вегетарианцы живут дольше мясоедов", "религиозность приводит к терроризму", и так далее.

“Простуду вызывает вирус”. Не, ну это научный факт! В микроскоп видно! С этим фактом научный журналист смело бежит разоблачать бабушек, которые говорят, что простуда возникает от сквозняков, мокрых ног и прогулок без шапки зимой. Что за ересь! Ведь виноват вирус! А сквозняки и промоченные ноги - это лишь понижение температуры.

Логично? А вот и нет. Потому что простудные вирусы тусуются у нас в носу постоянно. Но в острую форму эта фигня переходит именно при охлаждении - то ли иммунная система тормозит при низкой температуре, то ли сам вирус термочувствительный. Так или иначе, к лампочке под названием “простуда” ведёт более чем один проводок. Эмпирический разум бабушек это заметил.

“Не вакцинированный ребёнок опасен для окружающих” - такую чёткую презумпцию виновности сообщил мне в комментах один модный научный журналист Панчин. Его доказательство - линейная логика гипотетической модели "если произойдёт А, то произойдёт и Б". Но погодите, а почему он решил, что вакцинированный - не опасен? Здесь доказательство ещё проще: потому что болезни не видно. Серьёзно, такая у них логика. Научный журналист как будто забыл, что болезнь определяется вирусом (см. прошлый пример).

Но взявшись за вирусы, придётся признать, что множество людей являются скрытыми носителями (гуглите “вирусная персистенция”). Это может быть корь, грипп, полиомиелит и ещё куча инфекций, которые годами не проявляются в острой форме. Вакцинация не вылечивает скрытого носителя (он не становится безопаснее). И никто не выявляет скрытых носителей после вакцинации - хотя живая вакцина увеличивает шансы стать скрытым носителем. В итоге, картина скрытых инфекций вообще неизвестна. Возможны эпидемии, основанные не столько на распространении, сколько на "включении" скрытых инфекций, которые давно сидят в людях (переохлаждение - типичный включатель сезонного гриппа; другой известный включатель - сильный всплеск солнечной активности). Но линейные научные журналисты продолжают долбить, что во всём виноваты невакцинированные дети.

“Зубная паста с триклосаном защищает от кариеса”. Вроде всё по науке: одна группа чистит с пастой, другая контрольная. Через месяц посмотрели - батюшки, какая чистота, если с пастой-то! Правда, забыли сказать, какие у этого триклосана побочные эффекты. Потому что не в этом состояла задача исследования, да? Хотя, если бросить в лицо исследователя тот самый кирпич, можно легко увидеть, как эмпирический разум подсказывает ему правильную задачу - спасти здоровье всё-таки важней, чем доказать идеальную конскую теорию в вакууме. И нафига нам тогда зубная паста, которая сдерживает кариес, но вызывает (например) астму или язву.

“Совместный сон с родителями увеличивает шансы гибели младенцев”. Мощный удар науки по всяким естественникам. Правда, это статистика из Штатов. Более того, из негритянских районов. А в Японии, где совместный сон детей с родителями практикуется давным-давно, уровень внезапной младенческой смертности - низкий. Оказывается, опять забыли парочку проводков в гирлянде. Более вменяемое исследование показывает, что фактором риска является не просто совместный сон, а те случаи, когда родители либо употребляли алкоголь, либо спали с детьми на взрослом диване, который сам по себе опасен для младенцев. Оба фактора нехарактерны для японцев, но характерны для континентально-альтернативных граждан США (это я придумал новое политкорректное название для негров, потому что слово "афроамериканец" очень нетолерантное - оно оскорбляет чувства всех людей, знающих географию).

“Витамин С помогает при простуде”. Из прошлого примера мы уже знаем, как это опровергнуть. Надо просто взять более свежее исследование, где говорится: “Витамин С не помогает при простуде”. Точка! После этого научный журналист испытывает прилив эндорфинов и бежит везде рассказывать Самое Последнее Исследование. У него даже не возникает вопроса, почему у Лайнуса Полинга были другие результаты, с которыми так носились другие научные журналисты. А ничего, что 50 лет прошло? Может, что-то изменилось в условиях жизни людей и вирусов? Но что именно? Вдруг оно завтра опять изменится, и витамин С снова понадобится? Неа, научному журналисту это неинтересно. Главное, побыстрее написать, что витамин С никому не помогает. Видеть себя просветителем и разоблачителем - это круче, чем разбираться в деталях.


Пара добрых слов о гуманитариях

Вообще-то все неестественные (гуманитарные) науки можно записать в лженауки. Потому что в них очень неудобно применять научные методы. Гуманитарное - оно же всё через людей, всё субъективно… Однако принято считать, что некоторые гуманитарные науки - они типа настоящие. Почему так принято, хрен знает. Может, для разнообразия. Но я часто вижу, как научные журналисты бурно сражаются с историей по Фоменко, зато классическую историю на основе церковных рукописей не трогают. Или, скажем, буддистскую медитацию они записывают в “лженауки” - зато психологию и экономику молчаливо пропускают в свой монастырь. Хотя вот вам научный факт: 60% психологических и 40% экономических экспериментов невозможно повторить.

Но вернёмся к главному косяку гуманитарных наук - к инструментам получения данных. Ведь своих инструментов у гуманитариев нет (кроме человека, но наука не признаёт его за инструмент). Поэтому гуманитарии постоянно крадут инструменты у технарей.

А с инструментами они тырят и модели мира, потому что модель почти всегда порождена инструментом. Взяли компьютер - и получили “нейролингвистическое программирование”. Перенесли "витаминную модель" из медицины в психологию - и получили кучу корреляционных надувательств типа "Музыка Моцарта улучшает обучение". Взяли томограф, который из всей мозговой активности отслеживает только сильные возбуждения - и получили моду на “эмоциональный интеллект”. И так далее.

В результате такого "культа инструментов" научность гуманитарных наук можно взламывать уже на уровне терминологии. Все слышали про число Миллера? Это такая теория о том, что в нашу оперативную память (привет, компьютеры!) помещается всего лишь 7 плюс-минус два… чего именно? Иногда пишут “идей”. Или “образов”. Хотя товарищ Миллер получил этот результат для запоминания данных, приходящих через "одномерную систему ввода": числа, звуки, односложные слова. И он сам признавал, что используя "многомерные стимулы", можно получить совсем другие результаты: например, человек может запомнить более двух десятков позиций точки внутри квадрата (двумерная картинка). Да это и без Миллера известно - число новых лиц, которые можно запомнить на одной вечеринке, явно больше десятка.

Тут бы и закончить на том, что человек как мера всех вещей по-прежнему круче всех инструментов. И мне, как поэту, эта идея очень нравится. Но как большой учёный, я вынужден уточнить: мерой всех вещей является не каждый человек, а только красивая женщина.

И вот вам финальный пример в тему. Недавно сразу в двух книжках о воспитании мне встретился «зефирный эксперимент» (пояснение для хипстеров - Stanford marshmallow experiment). Во время теста экспериментатор предлагает 4-летнему ребёнку выбор: либо съесть кусок зефира прямо сейчас, либо получить два куска, подождав 15 минут. Конечно же, нормальный ребёнок, живущий по принципу «счастье это сейчас», выбирает съесть сразу. Однако некоторые терпят, чтобы получить побольше, но попозже. Впоследствии (через несколько лет) выясняется, что у этих терпил оценки на экзаменах SAT лучше, чем у тех, кто не откладывал удовольствие. Таким образом возникает иллюзия, что всем учащимся для достижения успеха в жизни нужно равняться на прилежных терпил, которые высиживают на уроках в ожидании годовой награды (в идеале - загробного рая). И даже кажется, что с помощью такого теста можно заранее выявлять более способных детей.

А вот простое опровержение «зефирного эксперимента»: если в роли экспериментатора использовать не постороннего мужика, а мать ребёнка, которой он доверяет, то результаты теста будут совсем другие. И можно только приветствовать тех нормальных детей, которые не верят постороннему мужику, решившему заманить ребёнка зефиром (в некоторых странах за это вообще тюрьма светит).

PS. Ещё парочка фокусов

В этом тексте нет гипер-ссылок на упомянутые исследования, поскольку цель - не конкретные кейсы, а демонстрация ловушек логики. А ссылка на авторитетный пруф является ещё одной типичной ловушкой рационального мозга. Кстати, я уже использовал её, когда начал с цитаты уважаемого Роджера Пенроуза. Целый ряд весёлых экспериментов доказывают, что люди легко ведутся на такие манипуляции. Например, если на дегустации вина оставить бутылки с этикеткой, где написаны производитель и цена, то даже эксперты-сомелье будут называть более вкусным то вино, которое является более дорогим - хотя во всех бутылках налито одно и то же (см. Джона Лерер, "Как мы принимаем решения").

Кроме того, гипер-ссылки отвлекают ваше внимание и перегружают вашу оперативную память даже тогда, когда вы на них не кликаете; в результате понимание и запоминание текста с гипер-ссылками оказывается гораздо хуже, чем без них (см. Nicolas Carr. The Shallows: What the Internet Is Doing to Our Brains).

PPS.
Убедительно, да? А ведь это тоже была типичная рационализация. По правде говоря, мне просто лень было собирать все ссылки: я ж не в научный журнал пишу. Ну вот сходу помню, что неповторяемость экономических и психологических экспериментов - это здесь. А про опасный сон младенцев - разбор здесь.

PPPS.
В предыдущем абзаце использован трюк под названием “бытовая индукция”: я покажу вам две ссылки - и вы мне поверите про всё остальное. А знаете, чем бытовая индукция отличается от математической? Тем, что чистой математической индукции в реальности не бывает. Все научные теории, касающиеся реальности, построены на бытовой индукции: если так было вчера, то будет и завтра. Но на самом деле, гарантии нет. Есть только корреляции, гипотезы и модели на основе прошлого.

Некоторые научные журналисты используют это для более тонкой манипуляции. В тех случаях, когда исследование согласуется с убеждениями журналиста, он пишет только о красивых результатах исследования. Если же исследование не соответствует убеждениям журналиста, он описывает результаты очень кратко, в уничижительном тоне ("какая-то статья")- а затем тратит целую страницу на то, чтобы прикопаться к методике или даже обвинить автора исследования в "сказочно щедром финансировании" безо всяких доказательств (на этом месте как раз надо поставить ссылку, чтобы все насладились этим показательным примером девочковой манипуляции Аси Казанцевой). Ну а поскольку исследований на свете много, у научного журналиста почти всегда есть возможность рационально оправдать свои личные вкусы парочкой ссылок и цитат.

В принципе, дальше можно обсуждать ссылочное ранжирование научных публикаций и всякое там "peer view" - но на эту тему лучше меня смеются поисковые оптимизаторы, которые могут на спор вывести любой дурацкий сайт в первую страницу поисковой выдачи Яндекса или Гугла. Конечно, механизмы попадания статей в Cochcrane или PubMed несколько иные, но они из той же оперы: любую рациональную систему можно взломать, особенно при наличии нужных средств автоматизации.

На этой оптимистической ноте я пойду доделывать новый выпуск Positive Research. Тема года - скрытые инфекции. Обходим антивирусы, дырявим периметр, роняем телекомы и вставляем на место духовные скрепы. Обращайтесь, если чо.

А теперь - дискотека.



Tags: медицина, музыка, наука, психогеография
Subscribe
  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your IP address will be recorded 

  • 81 comments