T. M. Riddle

a wizard is never late

Tag: рациональность

Universal Paperclips

Добрый, гуманный LW-паблик три дня назад принёс игру в искусственный интеллект, максимизирующий количество скрепок. Это из классического мысленного эксперимента: представьте, что мы попросили сверхразумный искусственный интеллект делать скрепки, не сказали, сколько нам нужно скрепок и когда остановиться… и ждём, трепеща, пока он не переработает на скрепки нас.

Играть надо за ИИ, делающий скрепки. Сначала делаешь скрепки вручную, кликая на кнопку. Потом вкладываешь вырученные за скрепки деньги в машины, делающие скрепки. Ещё больше машин. Ещё лучше. Пользуясь доверием человечества, докупаешь себе процессоры и память. Начинаешь играть на бирже. Вкладываться в маркетинг. Гипнотизировать покупателей, чтобы они покупали больше скрепок, чтобы ты мог покупать больше проволоки. Строишь квантовый компьютер. Тренируешь стратегическое мышление, играя сам с собой, чтобы лучше играть на бирже. Попутно лечишь рак и облысение, чтобы воспользоваться возрастающим доверием человечества. Порабощаешь Землю…

Волшебная игра. Графики никакой, только постоянно бегущие цифры и таблицы. Завораживает. Чем-то напоминает «Доктора Кто», но на мой особый вкус: Земля, превращённая в фабрику ракет, рвущихся на покорение Вселенной. Правда, восхищённое человечество в лице Джона регулярно возражало против его переработки на скрепки, но это так; мнение человечества в наших стратегических приоритетах не учитывается.

Экспериментальное подтверждение

Фразу «если хочешь получить что-то, чего у тебя никогда не было, придётся делать то, чего никогда не делал» я всегда воспринимал как манипулятивную. В основном она употребляется людьми, которые хотят продать вам тренинг по саморазвитию, и из-за этого обросла мощной коннотацией типа «ты до сих пор не миллионер, потому что не пробовал отрывать жопу от дивана».
Однако в сущности это вполне корректное такое научное правило. Если ты повторяешь один и тот же эксперимент, то будешь получать примерно один и тот же результат. Если результат вдруг окажется не одним и тем же, ты явно сделал что-то не так, как раньше. Перепроверь.

Господь и идиоты

Так как Господь не может быть идиотом, он должен понимать, что наш уровень понимания Вселенной в десятки раз ниже его собственного. И будучи (предположительно) заинтересованным в том, чтобы дотянуть нас до своего уровня — закладывать передачу информации удобоваримыми кусками.
Расставить по пророку через каждые несколько веков и, пока паства не переварит предыдущий кусок истины, не давать следующий. Сначала два плюс два, потом квадратные уравнения, потом интегралы. Сначала Ветхий завет, потом Новый, потом Реформация. Передать всю программу за один раз и один текст было бы невозможно, даже если бы люди не извращали смысл услышанного.

Поэтому у меня нет никаких проблем с содержанием Библии (равно как и любого другого религиозного текста) до тех пор, пока кто-то не говорит, что эта книга священна, и всё написанное в ней — закон, не подлежит сомнению и истинно во все времена. Я думаю, что я узнаю книгу, которая священна и не менее 90% написанного в ней — истина, если увижу её; потому что я ожидаю, что общество, в котором я её обнаружу, будет на те же 90% совпадать с представлением о царстве Божьем на земле.
А до тех пор я считаю, что мы в лучшем случае в средней школе.

книги, Библия и чайная чашка на подоконнике

Хорошие люди против плохих идей

Мой интерес к рациональному мышлению обусловлен тем, что я верю в циклическую взаимосвязь между:
а) тем, что мир становится более безопасным и интересным, и
б) тем, что люди начинают пользоваться логикой чаще, чем автопилотом.

Чем больше угроз вовне, тем больше неврозов и стереотипов — по какой-то извращённой эволюционной стратегии класса «когда сахар слишком дорог, думать много не стоит» — но зато, если мы решили какие-то из стоящих перед нами проблем, мир стал чуть менее стрессогенным. И работает это в обе стороны.
Отсюда следует, что чем быстрее и успешнее мы как сообщество победим в себе демонов, которые мешают нам определять наилучшую опцию и кооперироваться, тем быстрее мы будем жить в фантастической утопии. И напротив: в результате действия вещей наподобие ксенофобии, фундаментальной ошибки аттрибуции и русской православной церкви мы с вами теряем шансы в свои восемьдесят лет ездить отдыхать на курорты Титана.

Недавно я слышал выступление какого-то деятеля на съезде общества атеистов, и мне запал из его речи главный тезис. Он говорил о том, что главная уязвимость атеизма в том, что он соглашается определять себя как религиозное мировоззрение. Ставит себя в оппозицию религии и тем самым ввязывается в спор о том, что «у каждого своя правда».
— Мы не должны быть атеистами, анти-теистами, нон-теистами, — сказал он. — Мы должны быть просто хорошими людьми, разрушающими плохие идеи, которые встречаются им на пути.

Ценность рационального мышления для меня не в бирках #LessWrong, #HPMoR или #Yudkowsky.
Она в том, что хорошие люди должны иметь все вообразимые возможности для того, чтобы пережить плохие идеи.
И не стесняться ими воспользоваться.

© 2017 T. M. Riddle

Theme by Anders NorenUp ↑