Пересказ сделан к встрече екатеринбургского LW-сообщества.

Proper Use of Humility

Есть разница между скромностью как социальной функцией, которая помогает налаживать отношения в племени, и скромностью, которая заставляет тебя перепроверять вычисления или заложить в систему дополнительные меры предосторожности на всякий случай.

Физики высокомерны: они имеют наглость утверждать, что законы физики работают всегда, а не просто большую часть времени. Если бы мы согласились, что, может быть, в некоторые дни Земля плоская, мы бы выглядели менее конфликтными. У учёных и священников одинаково высокий социальный статус, почему учёные не согласны пойти на компромисс и хотят, чтобы в школах преподавали только научную точку зрения?

Мы должны смотреть, какие действия рекомендует нам «скромный» путь мышления, и спрашивать: «Если я так сделаю, это сделает меня сильнее или слабее?»

В большей части случаев эта «рационалистская скромность» — оправдание. Если нельзя быть уверенным, можно верить в желаемый исход. Покупая лотерейный билет, ты не можешь быть стопроцентно уверен, что проиграешь. Заявляя «ну, конечно, я могу быть неправ», ты проявляешь социально требуемый уровень скромности и можешь совершенно свободно продолжать в том же духе, ничего не меняя.

 

 

But There’s Still a Chance, Right?

“Но ведь шанс-то есть?” Теория вероятности позволяет нам периодически вычислить некий шанс, который слишком ничтожен, чтобы вообще обращать на него внимание — но к тому моменту, как вы узнаёте, насколько он мал, вы его уже подсчитали. В реальности этот шанс настолько маленький, что будь он пылинкой, вы бы не смогли его разглядеть, но на бумаге это число, а числа мы не воспринимаем так же интуитивно, и поэтому не способны этот шанс развидеть.

Особенно потрясающе выглядит мнение, что если какое-то доказательство не совершенно точное, то на него можно не обращать внимания.

Вероятность 0% = “ок, ты меня убедил”.

Вероятность 0,00000000000000000000000000000000000000000000001 = “но ведь это всё ещё может случиться?”

 

 

Absolute Authority

В мире непросвещённых есть авторитеты и не-авторитеты. Если учёные меняют своё мнение о каких-то вещах, это означает, что на них нельзя положиться. Кроме того, предполагается, что защитник идеи должен отвергать все возможные контраргументы; и если даже защитник науки соглашается, что она менее, чем совершенна — значит, это совершенно бесполезная штука.

Благодаря нашей системе образования мы выучиваем, что есть точное знание, которое транслирует нам учитель и которое мы должны повторить на экзамене, и есть знание неточное = предположение, которое можно выдвигать, оспаривать и выбирать исходя из личных предпочтений. “Настоящим знанием” кажется только то, что пришло из авторитетного источника; авторитетный источник не должен менять своё мнение и признавать свои ошибки.

Невозможно привести сокрушительный контраргумент такому человеку, потому что нельзя перед лицом аудитории сказать что-то вроде “ничтожный смертный, наши математические вычисления превыше твоего понимания, и наши гипотезы могущественнее того, что ты называешь точным”. Зато можно:

— “Сила науки базируется на нашей способности менять своё мнение и признавать, что мы были неправы. Если ты никогда не признаёшь, что был неправ, это не значит, что ты не делаешь ошибок”.

— “Каждый может заявить, что абсолютно уверен, но действительно не ошибаться —  гораздо сложнее. Учёные знают разницу, поэтому никогда не бывают абсолютно уверены. Это не значит, что у них есть серьёзная причина сомневаться в теории, у них просто высокие стандарты”.

— “Фраза “у нас нет абсолютной уверенности” означает на деле что-то вроде “в том практически невероятном случае, если у вас есть свидетельство обратного, мы хотим это видеть”.

— “Вы бы изменили своё мнение о вещах, которые называете точными, если бы у вас было достаточно доказательств? Если бы Бог спустился с небес и сказал, что всё, во что вы верите — правда, за исключением непорочного зачатия, вы бы изменили своё убеждение о непорочном зачатии? Тогда вы не должны говорить, что это “совершенно точно”.

 

Аргумент от софизма серого: моральные релятивисты говорят, что мир не чёрно-белый => всё серое => никто не лучше других => я могу делать, что хочу, и ты не можешь меня остановить. Но мы должны как-то запретить убивать людей, поэтому нам нужен способ быть абсолютно уверенным, а иначе моральные релятивисты победят.

Здесь мы: а) перескочили от двухцветной картины мира к одноцветной и б) предположили, что для того, чтобы быть моральным, необходимо абсолютно точно знать, что есть абсолютное добро и абсолютное зло.

На самом деле можно иметь относительно хорошие и плохие опции, быть относительно уверенным и всё ещё быть в состоянии выбирать.

 

Существует целая рационалистская культура, в которой сомнения и ошибки не считаются ужасной-ужасной штукой; существует концепция откалиброванной уверенности; существует такая практика, как изучать вещи!

Как правило, утверждения, которые вызывают у людей фанатичную уверенность, менее точны, чем те, которые слишком скучные и очевидные, чтобы её вызывать. Никто не спорит о существовании луны так же яростно, как о существовании бога.

 

 

Infinite Certainty

Мы должны отличать карту и территорию. Если учесть видимую универсальность физических законов, вполне возможно, что ни одна частица ни разу за всю историю Вселенной не развила скорость выше скорости света. Таким образом, скорость света может быть верхней границей не просто с 99,9999% вероятности, а абсолютно точно. Но можем ли мы быть в этом абсолютно уверены — это уже другой вопрос. Карта не равняется территории. Если подбросить монетку и не посмотреть на результат, монетка может абсолютно точно выпасть орлом, но ты будешь совершенно не уверен, орёл там или решка.

Если ты утверждаешь, что уверен в чём-то на 99,9999%, ты утверждаешь, что можешь сделать миллион подобных утверждений и ошибиться ровно один раз. Уверенность на уровне 1 — 1/гуглплекс — это в палату к пациентам, считающим себя Богом.

Не надо назначать чему-то вероятность, равную единице, потому что единица означает, что ты никогда по этому поводу не передумаешь.

 

 

0 And 1 Are Not Probabilities

1, 2, 3, -4 — числа. Плюс бесконечность и минус бесконечность — не числа. Считая вверх или вниз от нуля, ты до них никогда не досчитаешь. Плюс бесконечность и минус бесконечность объясняют нам поведение чисел. В реальном мире мы ничего не считаем бесконечностями. 0 и 1 в вероятности — это такие же бесконечности.

Расстояние между двумя уровнями неопределённости равняется количеству свидетельств, которые понадобятся, чтобы перейти с одного уровня на другой.

Игральная кость не всегда выпадает цифрой от 1 до 6. Она может встать на ребро, или её уничтожит метеорит, или Тёмные Лорды Матрицы вмешаются и нарисуют на одной грани “37”. Можно придумать отдельный символ, означающий “все остальные вероятности, которые я не рассмотрел”, тогда можно будет вывести и существование магического “T”, означающего все вероятности и равняющегося абсолютной уверенности. Но гораздо изящнее решать теорему, не вводя для этого отдельные магические символы, ведущие себя особым образом.