T. M. Riddle

a wizard is never late

Universal Paperclips

Добрый, гуманный LW-паблик три дня назад принёс игру в искусственный интеллект, максимизирующий количество скрепок. Это из классического мысленного эксперимента: представьте, что мы попросили сверхразумный искусственный интеллект делать скрепки, не сказали, сколько нам нужно скрепок и когда остановиться… и ждём, трепеща, пока он не переработает на скрепки нас.

Играть надо за ИИ, делающий скрепки. Сначала делаешь скрепки вручную, кликая на кнопку. Потом вкладываешь вырученные за скрепки деньги в машины, делающие скрепки. Ещё больше машин. Ещё лучше. Пользуясь доверием человечества, докупаешь себе процессоры и память. Начинаешь играть на бирже. Вкладываться в маркетинг. Гипнотизировать покупателей, чтобы они покупали больше скрепок, чтобы ты мог покупать больше проволоки. Строишь квантовый компьютер. Тренируешь стратегическое мышление, играя сам с собой, чтобы лучше играть на бирже. Попутно лечишь рак и облысение, чтобы воспользоваться возрастающим доверием человечества. Порабощаешь Землю…

Волшебная игра. Графики никакой, только постоянно бегущие цифры и таблицы. Завораживает. Чем-то напоминает «Доктора Кто», но на мой особый вкус: Земля, превращённая в фабрику ракет, рвущихся на покорение Вселенной. Правда, восхищённое человечество в лице Джона регулярно возражало против его переработки на скрепки, но это так; мнение человечества в наших стратегических приоритетах не учитывается.

Лев Гроссман, «Волшебники»

Дочитал трилогию Льва Гроссмана про волшебников, по которой сериал «The Magicians». Мне понравилось.
На самом деле, конечно, это книга про прохождение по маршруту взросления. Сначала ты читаешь волшебные книги про мир, в котором тебе хотелось бы жить, но не видно никакого способа когда-нибудь получить хотя бы шанс на это. Тебя отделяет от него огромная пропасть из всего, что ты даже не понимаешь. Через неё невозможно строить мост — непонятны даже первые шаги. Реальность серая и скучная.
Потом ты с удивлением отмечаешь, что время, потраченное на учёбу, кроме прямого результата, то есть синяков под глазами, больной спины и вечного похмелья, даёт какие-то неожиданные спецэффекты типа того, что ты реально начинаешь уметь то, что так долго зубрил. Ты всемогущ, и девушки тебя любят.
Continue reading

Чайные чашки, время и правила беспорядка

Ганнибал Лектер за едой

Страницы испещрены символами, относящимися и к астрофизике, и к физике элементарных частиц. Многократно повторяются также символы, относящиеся к теории последовательностей. Те немногие математики, которые в состоянии понять всё это, могли бы сказать, что его вычисления начинаются просто блестяще, но потом теряют всякий блеск, буквально задавленные тем, что доктор Лектер постоянно стремится выдать желаемое за действительное: он хочет повернуть время вспять, чтобы увеличение энтропии более не определяло направление движения времени. Он желает, чтобы путь ему указывала всё более возрастающая упорядоченность. Он желает, чтобы молочные зубы Миши вернулись обратно из выгребной ямы.

— Томас Харрис, «Ганнибал»

Ганнибал, персонаж и сериал, вращается вокруг темы энтропии.

Энтропия — это мера упорядоченности системы. Мера беспорядка. Энтропия определяет течение времени: всё со временем теряет упорядоченность, становится более хаотичным, мёртвым и холодным, стремясь к конечному состоянию, в котором Вселенная будет равномерно чуть теплее абсолютного нуля (на самом деле нет). Мы никогда не увидим, как мёртвые возвращаются, а чайная чашка собирается из осколков. Всё во Вселенной движется от порядка к беспорядку, потому что случайным образом найти способ достичь беспорядка гораздо проще (из всех возможных вариантов существует только одно состояние порядка и бесконечное количество версий беспорядочности; чашка может быть целой только одним способом).

И вот на системы с высоким уровнем энтропии у Ганнибала Лектера такая аллергия, что он при виде них кушать не может. Он и известен в первую очередь тем, что употреблял в пищу грубиянов и людей без чувства вкуса и совести, утверждая, что они ничем не лучше свиней. Почему же, интересно, не лучше?

Continue reading

Экспериментальное подтверждение

Фразу «если хочешь получить что-то, чего у тебя никогда не было, придётся делать то, чего никогда не делал» я всегда воспринимал как манипулятивную. В основном она употребляется людьми, которые хотят продать вам тренинг по саморазвитию, и из-за этого обросла мощной коннотацией типа «ты до сих пор не миллионер, потому что не пробовал отрывать жопу от дивана».
Однако в сущности это вполне корректное такое научное правило. Если ты повторяешь один и тот же эксперимент, то будешь получать примерно один и тот же результат. Если результат вдруг окажется не одним и тем же, ты явно сделал что-то не так, как раньше. Перепроверь.

Как разные персонажи решают проблему вагонетки

Тяжёлая неуправляемая вагонетка несётся по рельсам. На пути её следования находятся пять человек, привязанные к рельсам сумасшедшим философом. К счастью, вы можете переключить стрелку — и тогда вагонетка поедет по другому, запасному пути. К несчастью, на запасном пути находится один человек, также привязанный к рельсам. Каковы ваши действия?

Стив Роджерс: просто останавливает вагонетку.
Тони Старк: в следующий раз, когда ты попытаешься так сделать, у тебя не получится, и будут жертвы. Я иду проектировать дружественный ИИ, отлавливающий сумасшедших философов на подходе к рельсам.
Гарольд Финч: проектирует дружественный ИИ, отлавливающий сумасшедших философов на подходе к рельсам. Отключает уведомления в случае, если к рельсам привязывают только одного человека. Потом раскаивается и организовывает круглосуточное дежурство на путях.
Джон Константин: убивает мудака, привязывающего людей к рельсам.
Альбус Дамблдор: семнадцать лет откармливает специально выбранного человека, чтобы в нужный момент он бросился на рельсы и остановил вагонетку (см. подраздел «Проблема толстяка»)
Озимандия: красит вагонетку светящейся голубой краской и переключает стрелку. При этом на рельсах с одной стороны лежит шесть миллиардов человек, а с другой — пятнадцать миллионов.
Роршах: к рельсам привязаны проститутки и либералы. Они смотрят вверх и кричат Роршаху «спаси нас!». Роршах шепчет «нет» и идёт бить морду Озимандии.
Рудольф Сикорски: если эта мирно едущая по своим делам вагонетка может оказаться автоматом Странников, мы не имеем права рисковать…
Гален Эрсо: проектируя вагонетку, закладывает в неё критическую уязвимость, которая вызывает полное уничтожение вагонетки при прямом попадании в реактор. Сообщает об этом людям на рельсах.
Джокер: привязал людей и запустил вагонетку.
Себастьян Шоу: забирается в вагонетку и обещает шампанского всем, кто выживет, чтобы встретиться с ним в дивном новом мире.
Эрик Леншерр: снимает вагонетку с рельсов и забирает её с собой, чтобы убивать ею всех человеков.
Т. Э. Лоуренс и компания: взрывают пути. Грабят сошедшую с рельсов вагонетку.

Молекулярная флюктуация или чёрт с рогами

Тут чуваки запилили текстовую игру «Синдром Сикорски» — по «Жуку в муравейнике». Теперь у всех есть возможность уползти Абалкина. Я смог, но мне лень искать остальные одиннадцать концовок; поделитесь, если кто вдруг?

Смотреть на историю с позиции лица, принимающего решения, конечно, забавно. На них там очень влияет сознание, что Странники способны на всё. Иначе ещё в тот момент, когда у них возникла какая-то подозрительная предопределённость, неслучайные случайности, а также такая интересная генетическая программа, которую не видно и не слышно, но она «включится» и заставит ничего не понимающего человека предпринять какие-то конкретные действия (причём настолько эффективно, что это будет «хорёк в курятнике»), надо было сильно засомневаться. Начать искать следы этого всемогущего вмешательства. Не найти и успокоиться.
Но у них про Странников слишком мало данных, Странники у них на глазах делали совершенно невероятные вещи, и логика Странников им непонятна. Поэтому они отлично вписываются в любую настолько извращённую историю, насколько способен придумать ваш маленький мозг… На самом деле интересно было бы поиграть в то совещание, когда они нашли саркофаг-инкубатор и пытаются решить, что с ним делать. Дополнительные баллы всем, кто придумает оригинальные теории и самые ужасные риски.

Однажды Гриндевальд

Однажды Геллерт Гриндевальд пришёл на работу в хорошем настроении и по вдохновению накатал трёхфутовое эссе о слабых местах и необходимых улучшениях системы безопасности в МАКУСА. В эпистолярном стиле, дружеском тоне и с риторическими обращениями к не поименованному собеседнику.
Засунул в стол и забыл. Потом пришёл Персиваль Грейвз, разобрал свой стол, читал, пил огневиски и плакал.

Однажды Геллерт Гриндевальд засунул Персиваля Грейвза в кладовку, варил из его волос оборотку и ходил за него на его работу строить заговоры. Но в целом неплохо к нему относился.

Continue reading

Архив погоды за 2016 год

Утро, конечно, классное. Тепло, облака плывут в голубом небе, из приоткрытого окна дышит близким летом, газончики тёмные, мокрые после вчерашнего дождя и немного зелёные. Тротуары кое-где уже сухие. Днепр спокойный и зеркально гладкий — он сверху подтаял и теперь идеально отражает город и голубое небо с облаками. А какой вчера был великолепный дождь!
Немного, конечно, смущает, что это всё середина января, а не начало апреля, а я вроде никогда не был хорошим человеком, заслуживающим прижизненного вознесения в рай, но — пути господни неисповедимы. Остаётся только варить кофе.

Continue reading

Господь и идиоты

Так как Господь не может быть идиотом, он должен понимать, что наш уровень понимания Вселенной в десятки раз ниже его собственного. И будучи (предположительно) заинтересованным в том, чтобы дотянуть нас до своего уровня — закладывать передачу информации удобоваримыми кусками.
Расставить по пророку через каждые несколько веков и, пока паства не переварит предыдущий кусок истины, не давать следующий. Сначала два плюс два, потом квадратные уравнения, потом интегралы. Сначала Ветхий завет, потом Новый, потом Реформация. Передать всю программу за один раз и один текст было бы невозможно, даже если бы люди не извращали смысл услышанного.

Поэтому у меня нет никаких проблем с содержанием Библии (равно как и любого другого религиозного текста) до тех пор, пока кто-то не говорит, что эта книга священна, и всё написанное в ней — закон, не подлежит сомнению и истинно во все времена. Я думаю, что я узнаю книгу, которая священна и не менее 90% написанного в ней — истина, если увижу её; потому что я ожидаю, что общество, в котором я её обнаружу, будет на те же 90% совпадать с представлением о царстве Божьем на земле.
А до тех пор я считаю, что мы в лучшем случае в средней школе.

книги, Библия и чайная чашка на подоконнике

Хорошие люди против плохих идей

Мой интерес к рациональному мышлению обусловлен тем, что я верю в циклическую взаимосвязь между:
а) тем, что мир становится более безопасным и интересным, и
б) тем, что люди начинают пользоваться логикой чаще, чем автопилотом.

Чем больше угроз вовне, тем больше неврозов и стереотипов — по какой-то извращённой эволюционной стратегии класса «когда сахар слишком дорог, думать много не стоит» — но зато, если мы решили какие-то из стоящих перед нами проблем, мир стал чуть менее стрессогенным. И работает это в обе стороны.
Отсюда следует, что чем быстрее и успешнее мы как сообщество победим в себе демонов, которые мешают нам определять наилучшую опцию и кооперироваться, тем быстрее мы будем жить в фантастической утопии. И напротив: в результате действия вещей наподобие ксенофобии, фундаментальной ошибки аттрибуции и русской православной церкви мы с вами теряем шансы в свои восемьдесят лет ездить отдыхать на курорты Титана.

Недавно я слышал выступление какого-то деятеля на съезде общества атеистов, и мне запал из его речи главный тезис. Он говорил о том, что главная уязвимость атеизма в том, что он соглашается определять себя как религиозное мировоззрение. Ставит себя в оппозицию религии и тем самым ввязывается в спор о том, что «у каждого своя правда».
— Мы не должны быть атеистами, анти-теистами, нон-теистами, — сказал он. — Мы должны быть просто хорошими людьми, разрушающими плохие идеи, которые встречаются им на пути.

Ценность рационального мышления для меня не в бирках #LessWrong, #HPMoR или #Yudkowsky.
Она в том, что хорошие люди должны иметь все вообразимые возможности для того, чтобы пережить плохие идеи.
И не стесняться ими воспользоваться.

« Older posts

© 2017 T. M. Riddle

Theme by Anders NorenUp ↑