うろたどな

"These fragments I have shored against my ruins."

AIが可能にする中央集権化(ユヴァル・ノア・ハラリ『21世紀の人類のための21の思考』)

In the late twentieth century democracies usually outperformed dictatorships because democracies were better at data-processing. Democracy diffuses the power to process information and make decisions among many people and institutions, whereas dictatorship concentrates information and power in one place. Given twentieth-century technology, it was inefficient to concentrate too much information and power in one place. Nobody had the ability to process all the information fast enough and make the right decisions. This is part of the reason why the Soviet Union made far worse decisions than the United States, and why the Soviet economy lagged far behind the American economy.

However, soon AI might swing the pendulum in the opposite direction. AI makes it possible to process enormous amounts of information centrally. Indeed, AI might make centralised systems far more efficient than diffused systems, because machine learning works better the more information it can analyse. If you concentrate all the information relating to a billion people in one database, disregarding all privacy concerns, you can train much better algorithms than if you respect individual privacy and have in your database only partial information on a million people. For example, if an authoritarian government orders all its citizens to have their DNA scanned and to share all their medical data with some central authority, it would gain an immense advantage in genetics and medical research over societies in which medical data is strictly private. The main handicap of authoritarian regimes in the twentieth century – the attempt to concentrate all information in one place – might become their decisive advantage in the twenty-first century.

「二〇世紀後期には、民主国家はたいてい独裁国家に優った。民主国家のほうがデータ処理がうまかったからだ。民主主義は、情報を処理して決定を下す力を、多くの人や組織に行き渡らせるのに対して、独裁制は情報と権力を一か所に集中させる。二〇世紀のテクノロジーでは、あまりに多くの情報を処理し、判断を下す能力を持っている人は誰もいなかった . . . ところが、間もなくAIが振り子を逆方向に向かわせかねない。AIのおかげで、厖大な情報を中央で処理することが可能になる。それどころか、AIを使えば、集中型のシステムのほうが分散型のシステムよりもはるかに効率が良くなるかもしれない。機械学習は、分析できる情報が多いほどうまくいくからだ。プライバシーにいっさい配慮せず、一〇億人に関する情報をすべて一つのデータベースに集中すれば、個人のプライバシーを尊重し一〇〇万人の部分的な情報だけをデータベースに持っている場合よりも、はるかに優れたアルゴリズムを作り上げられる . . . 二〇世紀の独裁政権にとって最大のハンディキャップだった、あらゆる情報を一か所に集中する試みは、二一世紀には決定的な強みとなるかもしれない。」(ユヴァル・ノア・ハラリ『21世紀の人類のための21の思考』96‐97頁)