Rationality: From AI to Zombies | Preface english

Перевод Eliezer Yudkowsky

Предисловие russian

You hold in your hands a compilation of two years of daily blog posts. In retrospect, I look back on that project and see a large number of things I did completely wrong. I’m fine with that. Looking back and not seeing a huge number of things I did wrong would mean that neither my writing nor my understanding had improved since 2009. Oops is the sound we make when we improve our beliefs and strategies; so to look back at a time and not see anything you did wrong means that you haven’t learned anything or changed your mind since then.

Перед вами — собрание записей в блог за два года. Сейчас я оглядываюсь на этот проект и вижу, что многое сделал совершенно неправильно. Я считаю, это хорошо. Если бы я оглянулся назад и НЕ увидел ошибок — это бы значило, что с 2009 года я не вырос как писатель и не улучшил своё понимание материала. «Ой!» — говорим мы, когда пересматриваем свои убеждения и стратегии. Если, оглядываясь назад, ты не видишь, что именно ты сделал неправильно — значит, ты с тех пор ничему не научился и не изменил свое мнение.

It was a mistake that I didn’t write my two years of blog posts with the intention of helping people do better in their everyday lives. I wrote it with the intention of helping people solve big, difficult, important problems, and I chose impressive-sounding, abstract problems as my examples.

В течение двух лет я писал посты в блог и не думал о том, чтобы помогать людям в их повседневной жизни, и я ошибался. Я хотел помогать людям с большими, сложными и важными проблемами, и подбирал впечатляющие абстрактные примеры.

In retrospect, this was the second-largest mistake in my approach. It ties in to the first-largest mistake in my writing, which was that I didn’t realize that the big problem in learning this valuable way of thinking was figuring out how to practice it, not knowing the theory. I didn’t realize that part was the priority; and regarding this I can only say “Oops” and “Duh.”

По прошествии времени я вижу, что это было второй по важности ошибкой в моём подходе. Она была связана с первой: я не понимал, что огромная проблема в изучении описанного мною способа рассуждений — применять его на практике, а не просто знать теорию. Я не осознавал, что важна именно практическая часть; оглядываясь назад, я могу сказать разве что «Ой!» и «Эх».

Yes, sometimes those big issues really are big and really are important; but that doesn’t change the basic truth that to master skills you need to practice them and it’s harder to practice on things that are further away. (Today the Center for Applied Rationality is working on repairing this huge mistake of mine in a more systematic fashion.)

Да, порой те самые большие проблемы и вправду важны, но это не отменяет простой правды: чтобы мастерски овладеть этими навыками, нужно практиковаться, а это трудно делать на отвлеченных задачах. (Сегодня CFAR, Центр прикладной рациональности, постоянно работает над тем, чтобы устранить последствия этой серьёзной ошибки).

A third huge mistake I made was to focus too much on rational belief, too little on rational action.

И третья огромная ошибка в том, что я слишком сильно концентрировался на рациональных убеждениях — и слишком мало на рациональном действии.

The fourth-largest mistake I made was that I should have better organized the content I was presenting in the sequences. In particular, I should have created a wiki much earlier, and made it easier to read the posts in sequence.

Четвёртая по важности ошибка — организация содержания цепочек. В частности, нужно было раньше создать вики и предоставить возможность читать посты как части цепочек.

That mistake at least is correctable. In the present work Rob Bensinger has reordered the posts and reorganized them as much as he can without trying to rewrite all the actual material (though he’s rewritten a bit of it).

Эту ошибку по крайней мере можно исправить. В нашей книге «Rationality: From AI to Zombies» Роб Бенсингер отредактировал мои записи и организовал их по-другому, стараясь не переписывать содержание материалов (хотя кое-где всё же пришлось это сделать).

My fifth huge mistake was that I—as I saw it—tried to speak plainly about the stupidity of what appeared to me to be stupid ideas. I did try to avoid the fallacy known as Bulverism, which is where you open your discussion by talking about how stupid people are for believing something; I would always discuss the issue first, and only afterwards say, “And so this is stupid.” But in 2009 it was an open question in my mind whether it might be important to have some people around who expressed contempt for homeopathy. I thought, and still do think, that there is an unfortunate problem wherein treating ideas courteously is processed by many people on some level as “Nothing bad will happen to me if I say I believe this; I won’t lose status if I say I believe in homeopathy,” and that derisive laughter by comedians can help people wake up from the dream.

Моей пятой ошибкой было то, что я — как мне казалось — пытался прямо говорить о глупости того, что казалось мне глупым. Я хотел избежать искажения под названием бульверизм — это когда вы начинаете обсуждение с того, что люди, которые верят в то-то и то-то, глупые. Сначала я рассматривал саму тему, а потом уже говорил: «Вот почему это глупо». В 2009 году я был не уверен, важно ли мне иметь в окружении людей, презирающих гомеопатию. Я и сейчас считаю, что если вежливо обходиться с какой-то идеей, то некоторые люди понимают это как «ничего страшного, если я скажу, что верю в гомеопатию; это не повредит моему статусу». А ирония и насмешки могут развеять их иллюзии.

Today I would write more courteously, I think. The discourtesy did serve a function, and I think there were people who were helped by reading it; but I now take more seriously the risk of building communities where the normal and expected reaction to low-status outsider views is open mockery and contempt.

Я думаю, сейчас я был бы вежливее. Беспардонность послужила определенной цели и даже кому-то помогла; но теперь я более серьёзно отношусь к риску построить сообщество, в котором нормальной ожидаемой реакцией на новичка будет открытое презрение и насмешки.

Despite my mistake, I am happy to say that my readership has so far been amazingly good about not using my rhetoric as an excuse to bully or belittle others. (I want to single out Scott Alexander in particular here, who is a nicer person than I am and an increasingly amazing writer on these topics, and may deserve part of the credit for making the culture of Less Wrong a healthy one.)

Тем не менее я очень рад, что моя читательская аудитория не стала использовать мою риторику для унижения или травли. (Я хотел бы отдельно упомянуть Скотта Александера: он более приятный человек, чем я, и отлично пишет на эти темы, а потому заслуживает благодарности за построение здоровой атмосферы сообщества Less Wrong.)

To be able to look backwards and say that you’ve “failed” implies that you had goals. So what was it that I was trying to do?

Если я оглядываюсь назад и сообщаю, что провалился — значит, у меня были цели, которых я хотел достичь. Что же это за цели?

There is a certain valuable way of thinking, which is not yet taught in schools, in this present day. This certain way of thinking is not taught systematically at all. It is just absorbed by people who grow up reading books like Surely You’re Joking, Mr. Feynman or who have an unusually great teacher in high school.

Есть один ценный способ рассуждений, которому пока не учат в школах. Ему систематически вообще нигде не учат. Он просто проявляется сам у тех, кто вырос на книгах вроде «Вы, конечно, шутите, мистер Фейнман» — или у тех, кому в университете повезло с хорошим преподавателем.

Most famously, this certain way of thinking has to do with science, and with the experimental method. The part of science where you go out and look at the universe instead of just making things up. The part where you say “Oops” and give up on a bad theory when the experiments don’t support it.

Чаще всего этот способ мышления практикуется в науке и проведении экспериментов. Просто идёте и смотрите на Вселенную, а не выдумываете. И говорите «Ой!» и отказываетесь от плохой теории, если экспериментом она не подтверждается.

But this certain way of thinking extends beyond that. It is deeper and more universal than a pair of goggles you put on when you enter a laboratory and take off when you leave. It applies to daily life, though this part is subtler and more difficult. But if you can’t say “Oops” and give up when it looks like something isn’t working, you have no choice but to keep shooting yourself in the foot. You have to keep reloading the shotgun and you have to keep pulling the trigger. You know people like this. And somewhere, someplace in your life you’d rather not think about, you are people like this. It would be nice if there was a certain way of thinking that could help us stop doing that.

Но такой склад ума применяется и шире. Он универсальнее тех очков, которые вы надеваете в лаборатории. Его можно использовать в реальной жизни, хотя тут есть свои нюансы. Если вы не можете сказать «Ой!» и отказаться от нерабочей теории — вы будете постоянно стрелять себе в ногу. Вы обречены перезаряжать оружие и спускать курок. Вы знаете таких людей. И иногда вы, даже не задумываясь об этом, действуете в точности как они. Хорошо бы существовал способ мышления, благодаря которому можно перестать так делать.

In spite of how large my mistakes were, those two years of blog posting appeared to help a surprising number of people a surprising amount. It didn’t work reliably, but it worked sometimes.

Несмотря на серьёзность моих ошибок, статьи, выложенные за два года ведения моего блога помогли удивительному количеству людей, чего я не ожидал. Это работает не слишком надёжно, но иногда всё-таки срабатывает.

In modern society so little is taught of the skills of rational belief and decision-making, so little of the mathematics and sciences underlying them… that it turns out that just reading through a massive brain-dump full of problems in philosophy and science can, yes, be surprisingly good for you. Walking through all of that, from a dozen different angles, can sometimes convey a glimpse of the central rhythm.

В современном обществе так мало учат навыкам рациональных убеждений и принятия решений, так мало учат математике и другим наукам, на которых всё это основано! В результате даже просто прочитать мои излияния о проблемах науки и философии может быть полезным. Посмотрите на всё это с десятков разных точек зрения — это иногда помогает уловить единый ритм.

Because it is all, in the end, one thing. I talked about big important distant problems and neglected immediate life, but the laws governing them aren’t actually different. There are huge gaps in which parts I focused on, and I picked all the wrong examples; but it is all in the end one thing. I am proud to look back and say that, even after all the mistakes I made, and all the other times I said “Oops”…

Even five years later, it still appears to me that this is better than nothing.

На самом деле всё сводится к одному и тому же. Я описывал огромные отвлеченные задачи и пренебрегал повседневной жизнью, но законы в обоих случаях одинаковы. Я концентрировался на одном и упускал многое другое; но всё сводится к одному. Я горжусь тем, что оглядываюсь назад — и даже при учёте всех моих ошибок и всех моих «Ой!», даже спустя пять лет я всё ещё считаю, что это лучше, чем ничего.

Тексты были взяты из открытых источников и соединены в формате "билингва" (bilingual book). Для каждой страницы указан источник, автор и переводчик. Если вы заметили неточность перевода, или неправильно сопоставленные абзацы, или текст оформлен неаккуратно - сообщите в комментариях.

Responses

Для добавления комментариев необходимо авторизоваться