id: Гость   вход   регистрация
текущее время 11:26 29/03/2024
Владелец: unknown (создано 10/12/2009 16:32), редакция от 11/12/2009 22:04 (автор: unknown) Печать
Категории: криптография, распределение ключей, квантовая криптография
создать
просмотр
редакции
ссылки

Доводы в пользу квантового распределения ключей


© Douglas Stebila, Michele Mosca, Norbert Lutkenhaus. 2 декабря 2009 года.
Институт информационной безопасности, Квинслендский университет технологий, Брисбэн, Австралия. Институт квантовых вычислений, университет Ватерлоо. Кафедра комбинаторики и оптимизации, университет Ватерлоо. Институт границ теоретической физики. Кафедра физики и астрономии, университет Ватерлоо — Ватерлоо, Онтарио, Канада.
Перевод © 2009 unknown

Краткое содержание


Квантовое распределение ключей (Quantum Key Distribution — QKD) даёт возможность безопасного согласования ключей с использованием квантово-механических систем. Мы приводим доводы в пользу того, что QKD станет важной частью криптографических инфраструктур будущего. Оно может обеспечить долговременную конфиденциальность для зашифрованной информации без опоры на предположения о вычислительных возможностях. Хотя QKD всё ещё требует аутентификации для предотвращения атак "человека посредине", возможно использование или информационно-теоретической аутентификации по симметричному ключу или вычислительно стойкой аутентификации по открытому ключу: даже при использовании аутентификации с открытым ключом мы аргументируем, что QKD всё ещё обеспечивает более высокую безопасность, чем классическое согласование ключа.

1 Введение


С момента своего открытия область квантовой криптографии — и в частности квантовое распределение ключа (QKD) получила широкий технический и популярный интерес. Перспектива "безусловной стойкости" вызвала интерес публики, но часто чрезмерный интерес, проявляемый в данной области также порождал критику и анализ.

QKD — новый инструмент в наборе криптографических средств: он позволяет осуществлять безопасное согласование ключа по небезопасному каналу, что является невозможной задачей для классической криптографии (Все вычисления должны рассматриваться как имеющие место в физической системе, описываемой определёнными законами природы. Под классической криптографией мы понимаем криптографию, имеющую место в вычислительных и коммуникационных системах, моделируемых классической физикой, т.е. неквантово-механической и нерелятивистской физикой; т.е. речь идёт о процессах, описываемых вероятностными машинами Тьюринга). QKD не устраняет необходимость в других криптографических примитивах, таких как аутентификация, но может быть использовано для построения систем с новыми свойствами безопасности. По мере продолжения экспериментальных исследований мы ожидаем, что стоимость и сложности использования QKD упадут до уровня, когда системы QKD могут быть доступны для широкого развёртывания, а обращение с ними может стать предметом сертификации.
В течении всей этой публикации мы делаем упор в нашей дискуссии на квантовой криптографии в виде квантового распределения ключей (QKD). Существует множество других квантовых криптографических примитивов — приватные квантовые каналы, квантовое шифрование с открытым ключом, квантовое подбрасывание монеты, квантовые вычисления вслепую, квантовые деньги — но большинство из них требует для своего выполнения средне- или крупномасштабного квантового компьютера. С другой стороны, QKD уже было выполнено множеством разных групп, наблюдались попытки коммерциализации и его потенциальная роль в последующих инфраструктурах безопасности заслуживает серьёзных исследований.


Существует три стадии (которые иногда переплетаются) в установлении безопасных комуникаций:


1. Согласование (совместная выработка) ключа: две стороны договариваются о безопасном, совместно используемом закрытом ключе.


2. Аутентификация: позволяет стороне быть уверенной, что сообщение происходит от определённой стороны. В случае согласования ключа для избежания атаки "человека посредине" должна использоваться некоторая форма аутентификации.


3. Использование ключа: как только ключ безопасно согласован, он может быть использован для шифрования (с использованием одноразового блокнота или других шифров), дальнейшей аутентификации или других криптографических целей.


QKD — это лишь часть полной инфраструктуры информационной безопасности: две стороны могут согласовать (совместно сгенерировать) закрытый ключ, безопасность которого не зависит от вычислительных предположений и который полностью независим от какого-либо входного значения протокола.


Если мы живём в мире в котором мы можем обоснованно ожидать, что криптография с открытым ключом безопасна в кратко- и среднесрочном периоде, то комбинирование криптографии с открытым ключом для аутентификации и QKD для согласования ключа приводит к очень высокому уровню долгосрочной безопасности со всеми выгодами и преимуществами, которые мы можем ожидать от распределённой аутентификации в инфраструктуре открытого ключа.


Если мы живём в мире, где криптография с открытым ключом больше не сможет обеспечивать безопасность, мы должны вернуться обратно к классическим способам распределения ключа по приватным каналам, таким как доверенные курьеры или использовать QKD. QKD всё ещё будет требовать приватных каналов для установки ключей аутентификации. Вместо того, чтобы устанавливать краткосрочные ключи аутентификации, приватный канал может быть использован для обмена ключами, которые QKD может создавать в течении долгого периода времени. Однако, при таком положении QKD может иметь преимущество поскольку объём требуемых приватных коммуникаций значительно меньше и поскольку ключи сессий на выходе из протокола QKD независимы от ключей, переданных по приватному каналу, остаётся небольшой промежуток времени, в течении которого скомпрометированный ключевой материал может затронуть безопасность последующих сессий. Каково это преимущество на практике зависит от природы приватного канала в вопросе предположений о доверии.


Если мы живём в мире, где схемы согласования ключей на основе асимметричной криптографии подразумеваются неограниченно безопасными, то здесь имеются ограниченные аргументы в пользу QKD, но оно всё ещё представляет интерес по множеству причин. QKD создаёт случайные, независимые сеансовые ключи, которые снижают ущерб, вызываемый утечкой эфемерных ключей. Другие формы криптографии также могут быть интересны, особенно для безопасного доступа к квантовой информации если квантовые вычисления получат широкое распространение.


Экспериментальные исследования в квантовом распределении ключей продолжают улучшать удобство использования, пропускную способность и расстояние для QKD систем, а также способность предоставлять и давать возможность подвергать сертификации их физическую безопасность. Поскольку системы криптографии с открытым ключом переоснащаются новыми алгоритмами и стандартами в текущие годы, то есть и возможность внедрения QKD как нового средства, предоставляющего фундаментально новые возможности безопасности.


Аналогичные работы. Эта работа мотивирована как ответ на другие мнения по поводу роли QKD, особенно сомневающимся заметкам "Почему квантовая криптография?" Патэрсона, Пайпера и Шэка. Наша дискуссия по поводу аутентификации затрагивает шифрование и аутентификацию в тех же самых аспектах как и их работа c оптимистическим взглядом на перспективы пост-квантовой криптографии с открытым ключом; мы предоставляем дополнительную информацию по допущениям о стойкости QKD, текущем состоянии исполнения QKD и как структура QKD-сетей будет вовлекаться в технологический прогресс. Отклик проекта SECOQC также относится к связанным проблемам, с особенным вниманием, которое уделяется сетям, связанным через QKD.


Краткое содержание по главам. В ходе этой публикации мы покажем, что QKD играет важную роль в безопасности инфраструктур будущего. В секции 2 мы дадим обзор того, как работает QKD и дадим примеры того, где нужна такая высокая безопасность в главе 3. Мы опишем состояние безопасности QKD в главе 4. Затем мы обсудим другие части коммуникационной инфраструктуры: шифрование в главе 5 и аутентификацю в главе 6. В главе 7 мы обсудим некоторые ограничения QKD как они устанавливаются и как они могут быть преодолены с особенным вниманием к сетям из QKD устройств в главе 8. Мы дадим заключительные выводы в главе 9.

2 Краткое введение в QKD


В этой главе мы дадим очень краткое рассмотрение квантового распределения ключа. Более детальное рассмотрение доступно из множества источников.


В QKD две стороны, Алиса и Боб, получают некоторые квантовые состояния и измеряют их. Они связываются (все коммуникации, которые происходят далее — классические), чтобы определить, какой из их результатов измерений приводит к получению секретных битов ключа; некоторые из них отвергаются, поэтому процесс называется отсеиванием, поскольку измерительные настройки были несовместимы. Они осуществляют коррекцию ошибок и затем оценивают параметр безопасности, который указывает как много информации может быть доступно из их данных подслушивающей стороне. Если это количество выше определённого порога, то они прерывают исполнение, так как больше не могут гарантировать никакой безопасности. Если это ниже порога, то они могут применить усиление приватности для выдавливания любой остаточной информации, которую может иметь прослушивающая сторона и приходят к получению совместного секретного ключа. Некоторые из этих классических коммуникаций должны быть аутентифицированы, чтобы избежать атак "человека посредине". Некоторые части протокола могут потерпеть неудачу с несущественной вероятностью.


Блок-схема QKD (12 Кб)


Диаграмма, описывающая квантовое распределение ключей, показана на рисунке. Этапы, обведённые в двойные рамки, требуют аутентификации классическими методами.


После того как секретный ключ установлен путём QKD, он может быть использован множеством способов. Самый распространённый подход — это использование его в качестве секретного ключа в одноразовом блокноте, чтобы достичь безусловно стойкого шифрования. Этот ключ также может быть использован в классической аутентификации в последующих раундах QKD.


Мы можем ожидать, что по мере того, как исследования в области QKD будут продолжаться, QKD-устройства будут становится всё более стойкими, лёгкими в конфигурировании, менее дорогими и малоразмерными, возможно достаточно миниатюризированными для размещения на одиночной печатной плате.

3 Кому нужно квантовое распределение ключей?


Широко распространено понятие о том, что "безопасность — это цепь; она сильна настолько, насколько сильно её самое слабое звено" и криптография, даже криптография с открытым ключом, на самом деле является одним из самых прочных звеньев в цепи. Мы не можем верить в то, что определённая вычислительно-стойкая криптографическая схема и размер параметров будут неограниченно безопасны и многие рекомендации экспертов несклонны к тому, чтобы описывать будущее за пределами ближайших тридцати лет. Хотя большинство шифруемой сегодня информации не требует тридцатилетней стойкости, иногда она нужна.


Более того, важно иметь подробный план всвязи с изменениями в технологиях безопасности. К примеру допустим, что определённые приложения, использующие RSA или криптографию на эллиптических кривых (ECC) требуют, чтобы информация была защищена в течении x лет и потребуется y лет, чтобы перевести инфраструктуру на новую криптосистему. Если крупномасштабные квантовые компьютеры, способные взламывать RSA или ECC будут созданы за z лет, то при z < x + y мы уже опоздали: нам нужно было готовить к использованию новую криптосистему задолго до того, как будет взломана старая.


Правительства, военные и разведывательственные агентства нуждаются в долгосрочной секретности. Например, британское правительство не рассекречивало отчёт 1945 года о своих попытках взломать во время второй мировой войны шифр Tunny до 2000 года, а текущие нормативы секретности США требуют держать документы в секрете до 25 лет.


Бизнес, пытающийся защитить долговременные стратегические торговые секреты может также желать долговременной конфиденциальности. Ситуации с долговременным развёртыванием, но очень специфическими коммуникациями, также являются преимуществом QKD: неудобно и дорого обновлять 1.5 миллиона банкоматов (ATM) по всему миру, даже если последний криптопротокол взломан или признан устаревшим, но QKD может обеспечить стандарты, значительно меньше меняющиеся под действием криптоанализа.


Одной особенной индустрией, требующей долговременной, гарантированной в будущем безопасности, является здравоохранение. Системы здравоохранения медленно, но необратимо становятся всё более электронными, а записи о состоянии здоровья нуждаются в приватности в течении 100 или более лет. Защита хранилищ этих данных в датацентрах — это важно; разумеется квантовое распределение ключей не предназначено для решения этой проблемы. В той же мере важно установление безопасных коммуникаций с записями медицинских данных, которые могут быть защищены информационно-теоретической безопасностью, предоставляемой квантовым распределением ключей.


Квантовое распределение ключей — не единственный способ получать информационно-теоретически стойкие ключи. Физическая транспортировка больших, случайно сгенерированных ключей — это также метод информационно теоретически стойкого распределения ключей. При цене жёстких дисков примерно 0.10$ за гигабайт, не следует недооценивать "пропускную способность грузовика, загруженного винчестерами" (хотя рост цен на топливо может противодействовать ценовой эффективности коммуникационнной системы такого рода). Такое решение приемлемо не во всех ситуациях. В некоторых случаях может оказаться невозможным заново произвести перезагрузку ключей таким способом (например спутники и космические аппараты). Это требует гарантий, что физические ключи транспортируются безопасным образом. Это также требует безопасного хранилища большого объёма ключей до их использования. QKD же требует лишь небольшого объёма ключей, ключа аутентификации, безопасно сохраняемых перед использованием. Что важнее, QKD может генерировать свежие ключи шифрования по запросу, которые должны быть сохранены только на короткий промежуток времени между генерацией ключей и шифрованием/расшифрованием сообщения, вместо того, чтобы иметь необходимость в большом хранилище секретных ключей в течении деятельности системы.


Более того, исследования в области экспериментов с квантовой информацией всё ещё находятся на ранней стадии, так что нельзя предсказать конечный результат, в виде которого будет существовать продукт, который может быть создан на основе этой технологии и эти системы могут превзойти ожидания и мечты сегодняшних инженеров и исследователей.

4 Безопасность QKD


Квантовое распределение ключей часто описывается его сторонниками как "безусловно безопасное", чтобы подчеркнуть отличие от вычислительно стойкой безопасности классических криптографических протоколов. Хотя всё ещё остаются некоторые условия, которым должны удовлетворять системы квантового распределения ключей, чтобы быть безопасными, словосочетание "безусловно стойкие" оправдано, поскольку условия не только сведены к минимуму, они в некотором смысле являются минимально необходимыми условиями. Любой безопасный протокол согласования ключей должен основываться на минимальных предположениях, чтобы безопасность не возникала из ничего: мы должны идентифицировать и аутентифицировать стороны коммуникации, мы должны иметь возможность в некотором приватном местоположении для совершения локальных операций и все стороны должны действовать в рамках законов физики.


Следующие положения описывают безопасность квантового распределения ключей, также существует множество формальных математических аргументов в пользу стойкости QKD.


Теорема 1 (Положение о безопасности квантового распределения ключей) если
A1) Квантовая механика верна, и
A2) Аутентификация безопасна, и
A3) Наши устройства обоснованно безопасны,
то с высокой вероятностью, ключ, установленный путём квантового распределения ключей, является случайным секретным ключом, независящим (с пренебрежимо малым отличием) от входных значений.


Допущение 1: Квантовая механика верна. Это допущение требует, чтобы любая прослушивающая сторона была связана законами квантовой механики, хотя внутри этой области нет дополнительных ограничений, кроме как невозможности прослушивающего получить доступ к устройствам. В частности, мы позволяем прослушивающей стороне иметь технологию квантовых вычислений произвольно больших масштабов, значительно более мощную чем это возможно при текущем состоянии дел. Квантовая механика была проверена экспериментально примерно в течении столетия с очень высокой степенью точности. Но даже если квантовая механика будет заменена новой физической теорией, это необязательно будет означать, что квантовое распределение ключей станет небезопасным: например, безопасное распределение ключей может быть достигнуто способом, аналогичным QKD, основанным исключительно только на допущении, что невозможно осуществлять коммуникации быстрее скорости света.


Допущение 2: Аутентификация является стойкой. Это допущение — один из главных вопросов, беспокоящих тех, кто оценивает квантовое распределение ключей. В порядке защиты против атак "человека посредине", большинство классических коммуникаций QKD должны быть аутентифицированы. Аутентификация может быть достигнута с помощью безусловной стойкости на основе коротких совместно используемых ключей или на основе вычислительной стойкости при использовании криптографии с открытым ключом. Мы рассмотрим вопросы аутентификации более подробно в разделе 6.


Допущение 3: Наши устройства безопасны. Конструирование реализаций QKD, которые могут быть проверяемо безопасными — это существенный вызов, над которым исследователи работают до сих пор. Хотя первые прототипы QKD-систем допускали утечку ключа по побочным каналам (они вызывали разные шумы, в зависимости от поляризации фотонов и таким образом "прототипы были безусловно безопасны против прослушивающих, которым не посчастливилось быть глухими"), экспериментальный криптоанализ привёл к лучшей теоретической и практической безопасности. Более изощрённые атаки на побочные каналы были продолжены против определённых реализаций существующих систем, но были также и предложены лучшие теоретические методы, такие как метод ловушек состояния. Доказательства безопасности, независящие от устройств, пытаются минимизировать допущения о безопасноти физических устройств. Обоснованно ожидается, что будущие теоретические и инженерные улучшения наконец дадут нам возможность получить устройства, имеющие строгие аргументы и минимальные допущения по поводу их безопасности.

5 Использование ключа: Шифрование


Наиболее обсуждаемый способ использования для ключа, сгенерированного с помощью квантового распределения ключей — это шифрование. Существуют два способа, которыми этот ключ может быть использован для шифрования.


В безусловно стойкой системе закрытый ключ из QKD используется как ключ для одноразового блокнота. Поскольку ключ информационно-теоретически стоек, то таким же будет и зашифрованное сообщение: никакой компьютер, ни квантовый, ни классический не будет способен дешифровать зашифрованное сообщение. Однако есть трудности с такой системой. Во-первых, для ключей одноразовых блокнотов должно быть организовано аккуратное хранение и управление, поскольку дважды использованные одноразовые ключи могут серьёзно повредить безопасности. Во-вторых, как мы обсудим в главе 7, физически QKD-системы пока ещё не могут генерировать одноразовые ключи с достаточно высокой пропускной способностью для того, чтобы шифровать большие сообщения в реальном времени при помощи одноразовых блокнотов.


Чтобы справиться со второй трудностью, связанной с низкой пропускной способностью QKD, предлагается использовать гибридные системы, в которых ключ из QKD расширяется при помощи классического потокового шифра или блочного шифра, такого как AES для того, чтобы шифровать большие сообщения. При такой постановке дел безопасность зашифрованного сообщения не является больше информационно-теоретической: она зависит от предположений о вычислительной стойкости сложности взлома используемого шифра. Хотя это и не идеальный случай, тем не менее это может быть также не особенно рискованно. Исторически сложилось, что криптографы могут очень успешно конструировать блочные шифры с незначительными уязвимостями: например стандарт шифрования данных DES, созданный в 1970-хх годах, более не считается безопасным всвязи с малой длиной его ключа, но при этом DES хорошо держался в течении 30 лет криптоаналитических атак. При атаках с известным открытым текстом стойкость DES была снижена с 256 до 241, но при использовании частой смены ключа эффект от атак на известном открытом тексте ограничен. Более того, не ожидается, что квантовые компьютеры окажут серьёзное воздействие на шифры: даже если алгоритм поиска Гровера подразумевает, что необходимо увеличить длину ключа в два раза, экспоненциально более быстрые атаки, ожидающиеся от алгоритма Шора и других не смогут быть применены к большинству шифров.


Даже при использовании гибридных систем, QKD предоставляет существенное преимущество над классическими способами согласования ключа: ключ из QKD не зависит ни от какого входа из протокола согласования ключей. Таким образом QKD уменьшает количество мест для атаки: после того, как ключ согласован — единственый способ атаковать такую систему — это подвергнуть шифрование криптоанализу. В противоположность этому, системы, использующие классические протоколы согласования ключа, могут быть атакованы путём влияния на вход протокола классического согласования и определения сгенерированных ключей (например, путём решения проблемы Диффи-Хеллмана). Однако при использовании QKD для генерирования коротких ключей, следует соблюдать осторожность, всвязи с эффектами конечной длины.


Гибридные QKD системы часто увеличивают безопасность в сравнении с шифрами, используемыми без QKD: подсистемы QKD обеспечивают часто обновляемый, независимый ключевой материал, который может быть использован для смены ключей в классическом блочном или потоковом шифре; при частой смене ключей мы уменьшаем риск атак на лежащий в основе используемый шифр, путём уменьшения открытых и шифртекстов, зашифрованных на одном и том же ключе.

6 Аутентификация


Квантовое распределение ключей не снимает необходимость аутентификации: наоборот, аутентификация необходима для безопасности QKD, в противном случае легко может быть осуществлена атака "человека посредине". Существует два способа осуществления аутентификации: аутентификация с открытым ключом и аутентификация с симметричным ключом. Аутентификация с симметричным ключом может обеспечить безусловно стойкую аутентификацию, но ценой необходимости иметь предустановленную пару симметричных ключей. Аутентификация с открытым ключом, с другой стороны, проще в развёртывании и обеспечивает чрезвычайно удобное распределённое доверие при комбинировании с центрами выдачи сертификатов (CA) в инфраструктуре открытого ключа (PKI). Аутентификация на открытом ключе не может сама по себе достичь информационно-теоретической стойкости. Мы однако убеждены, что даже при таком положении дел ситуация с безопасностью становится намного лучше: использование аутентификации на открытом ключе всё ещё даёт возможность получать системы, имеющие очень сильную долговременую стойкость.


Третий метод аутентификации — это использование доверенной третьей стороны, выступающей в роли активного посредника между двумя неаутентифицироваными сторонами, но это вызывает мало интереса для применения на практике. Центры сертификации, которые используются в аутентификации с открытым ключом, аналогичны доверяемой третьей стороне, но они не посредничают в аутентификации активным образом: они распространяют подписаные открытые ключи заранее, но они не участвуют в текущем протоколе аутентификации ключей. Разница в доверии между доверенной третьей стороной и центрами сертификации в аутентификации QKD меньше, чем в классическом случае, так как ключи из QKD независимы от входных значений.

6.1 Симметричная аутентификация ключей


Стороны, у которых уже есть совместно используемый закрытый ключ могут использовать безусловно стойкие коды аутентификации для своих сообщений. Первый такой метод был описан Вегманом и Картером и был усовершенствоваан для использования в QKD. Это одна из причин, по которой квантовое распределение ключей называют квантовым расширением ключа: можно взять короткий совместно используемый ключ и расширить его до информационно-теоретически безопасного большого совместно используемого ключа.

6.2 Аутентификация на открытых ключах


Хотя симметричные ключи обеспечивают безусловно стойкую аутентификацию, её сложно развёртывать, поскольку каждая пара сторон коммуникации должна совместно использовать закрытый ключ. Инфраструктура открытых ключей позволяет распределять доверие и является важной для успешной электронной коммерции. Хотя множество защитников квантовой криптографии упускают роль вычислительно стойкой аутентификации на открытых ключах в QKD, мы считаем, что аутентификация по открытому ключу будет важной в инфраструктуре квантового распределения ключей и всё ещё может давать осмысленные положения в области безопасности.


Аутентификация по открытому ключу, будучи вычислительно стойкой, имеет тенденцию оказываться взломанной неизменно раньше, чем мы ожидаем. В 1977 Райвист размышлял о том, что уйдёт 40 квадриллионов лет на решение проблемы RSA-129 (факторизации RSA-модуля размером 129 десятичных цифр), но он был взломан всего лишь 17 лет спустя. Хотя в популярной печати всё ещё периодически используются выражения вида "больше квадриллиона лет" для описания безопасности схем, построенных на проблемах теории чисел, технические рекоммендации, которые содержат более подробные нюансы стремятся не спекулировать лишком далеко в будущее за пределы 2030 года. Примечательно, что эти рекоммендации стараются "предполагать [...], что (крупномасштабные) квантовые компьютеры не станут реальностью ближайшего будущего".


Распространено ожидание, что крупномасштабные квантовые компьютеры когда-нибудь будут существовать, но по видимому нет причин в настоящее время сомневаться в их эффективности. Квантовые компьютеры однако, не единственная угроза против аутентификации с открытым ключом. Компьютеры становятся более быстрыми и новые алгоритмы помогают ускорять криптоанализ. Однако, мы не настолько пессимистичны, чтобы думать, что аутентификация с открытым ключом будет обречена. Фактически, мы верим, что аутентификация с открытым ключом будет неопределённо долго играть важную роль в безопасности коммуникаций, даже при наличии квантовых компьютеров.


Хотя существующие сегодня популярные схемы аутентификации с открытым ключом — RSA, дискретные логарифмы в конечном поле и эллиптические кривые, будут взломаны крупномасштабным квантовым компьютером, другие "постквантовые методы" не обязательно падут перед квантовыми алгоритмами и такие схемы безусловно будут разработаны. Как нам кажется, когда в будущем схемы с открытым ключом пройдут через жизненный цикл, в котором будут предложены новые примитивы, они окажутся стойкими против текущих техник атак, обоснованные параметры и размеры будут предложены, приняты и тогда компьютерные технологии и успехи криптоанализа снова изменят уровень безопасности, пока новая схема не предложит лучший компромисс. Не сложно вообразить себе 20-летний период, за который квантовое распределение ключей может претерпеть бурный рост. Структуры аутентификации на открытом ключе предоставляют широко масштабирумое использование, которое мы ожидаем от PKI и при комбинировании с квантовым распределением ключа могут дать предположительно серьёзные выгоды в безопасности. В квантовом распределении ключа, аутентификация — в качестве формы установления аутентификации по открытому ключу — нуждается в безопасности только в момент первоначального установления соединения. Как только QKD протокол выдаст некоторый секретный ключ, часть этого секрета может быть последовательно использована для аутентификации по симметричному ключу. Фактически, даже если оригинальные аутентификационные ключи будут раскрыты после первого обмена посредством QKD, ключ, полученный из QKD останется информационно-теоретически стойким. Другими словами, мы имеем следующую формулировку:


Если аутентификация не взломана в процессе первого раунда QKD, даже если она является только вычислительно стойкой, то последующие раунды QKD будут информационно-теоретически стойкими.


В противоположность этому, классические схемы обмена на основе открытых ключей не имеют этого свойства. Даже если кто-то может выполнить протокол, в котором каждый новый ключ будет передаваться зашифрованным старым ключом, прослушивающая сторона, которая записывает все коммуникации и затем взламывает первый ключ, затем может прочитать и все последующии коммуникации. В QKD новые ключи сессии полностью независимы от всех предыдущих ключей и сообщений.

7 ограничения


Два неоспоримых ограничения существуют в сегодняшних схемах квантового распределения ключей — расстояние и пропускная способность. Из-за недолговечной природы квантовомеханических состояний, существующих в процессе квантовой передачи ключей, чем на большее расстояние передаются фотоны, тем больше фотонов теряются из-за шумов и декогеренции, таким образом снижая пропускную способность, используемую для формирования секретного ключа. Расстояние и пропускная способность в генерации ключей — это компромисс, но прогресс движется в сторону увеличения общего копромисса.


Расстояние. Самые удалённые эксперименты по QKD проводились при генерации секретного ключа по оптоволоконной линии длиной свыше 184.6 км. (2006 г) и в свободном пространстве на расстоянии 144 км с пропускной способностью 12.8 бит в секунду. Такое расстояние в свободном пространстве считается достаточным для связи между любыми двумя точками Земли посредством орбитальных спутников и вероятно будет являться задачей предложенных экспериментов.


Квантовые репитеры (повторители) могут также преодолевать ограничения в расстояниях, допуская совместное использование квантовых состояний между удалёнными сторонами. Хотя такие системы пока ещё не используются, их легче создать, чем полномасштабные квантовые компьютеры; есть теоретический и практический прогресс в их разработке.


Пропускная способность в выработке ключей. Хотя в экспериментах на дальние дистанции были получены очень низкие значения пропускной способности в выработке ключей, на более коротких дистанциях были продемонстрированы более высокие скорости выработки ключей. Экспериментальные группы достигли выработки ключей свыше 4 Мегабит в секунду по 1-км волокну и 1 Мегабиту в секунду на 20-километровом расстоянии. Эти значения пропускной способности близко подходят к тому, что требуется для защиты реальных каналов связи.


Когда QKD-ключ используется для шифрования, текущие значения скорости выработки ключевого материала могут быть недостаточны для шифрования одноразовым блокнотом и потребуются гибридные схемы, в которых QKD ключ может быть использован в качестве закрытого ключа для алгоритмов симметричного шифрования, таких как AES. Однако, как мы показали в главе 5, даже гибридные QKD-системы предоставляют повышенный уровень безопасности по сравнению с классическим согласованием ключа, поскольку ключи, генерируемые QKD независимы от любого входного значения процедуры согласования ключей и поскольку многие алгоритмы симметричного шифрования устойчивы к атакам квантовых компьютеров. Ключевой материал может быть подвержен нежелательным искажениям, если противник будет вносить возмущения в квантовый канал, но такой противник никак не сможет повлиять на безопасность согласования ключей.

8 QKD сети


По мере прогресса QKD-технологии, структуры развёртывания QKD-систем будут прогрессировать в порядке прохождения четырёх стадий уменьшения ограничений расстояния и увеличения коммерческой применимости:


1. Линии связи точка-точка: Два QKD устройства, напрямую соединённые на относительно короткой дистанции.


2. Сети с оптическими переключателями: Множество QKD-устройств организованы в сеть, допускающую взаимодействие различных пар. Оптические переключатели однако не увеличивают расстояние связи. Переключатели (свитчи) не обязаны быть доверяемыми. Один из примеров такой сети — это квантовая сеть DARPA.


3. Сети с доверяемыми повторителями: Множество QKD-устройств объединено в сеть. Промежуточные узлы в сети могут выступать как классические повторители, ретранслирующие информацию между удалёнными узлами. Ретранслирующие узлы обязаны быть доверямыми, однако уровень доверия может быть снижен, если отправляющая сторона использует схему разделения секрета. Такой тип QKD-сетей может быть использован в случаях, когда оператор сети является и её пользователем, например банк может создать сеть между множеством филиалов, каждый из которых является доверямым по-отдельности. Один из примеров такой сети – квантовая сеть SECOQC.


4. Сеть с полноценными квантовыми повторителями: Множество QKD-устройств объединено в сеть с квантовыми повторителями. Хотя индивидуальные узлы всё ещё ограничены по расстоянию, узлы квантовых повторителей позволяют передавать спутанность на большие расстояния, так что QKD может выполняться между удалёнными сторонами. Квантовые повторители не нуждаются в доверии и такой тип QKD-сети соответствует сценарию с провайдером сетевого доступа.

9 Заключение


Квантовое распределение ключей предлагает использовать мощь законов квантовой механики для детекирования прослушивающей стороны для установления совместно используемого ключа, который проверяемо безопасен и независим от любых других данных, предоставляемых связывающимися сторонами по аутентифицированному каналу. Безопасность этой системы не зависит от допущений о вычислительных возможностях и таким образом имеет потенциал стойкости против будущих атакующих, неограниченных в своих классических или квантовых вычислительных мощностях.


Есть много сценариев, таких как правительства, военные, службы здравоохранения, в которых информация должна оставаться безопасной 20, 50 или даже 100 лет. Использование QKD уменьшает уровень допущений о криптографической системе и позволяет получить совместный секрет, такой, что по законам квантовой механики, он не зависит ни от каких данных, включая входные значения.


Важно учитывать, как QKD разместить в более широкой криптографической инфраструктуре. При использовании аутентификаци по открытому ключу QKD обеспечивает сильную безопасность с выгодой от использования распределённой аутентификации инфрастуктуры открытого ключа; аутентификация с открытым ключом должна быть безопасна только до момента проведения QKD, но ключ, полученный из QKD будет оставаться безопасным неограниченно долго. Если аутентификация с открытым ключом невозможна, аутнтификация с совместно используемым секретным ключом также может быть использована для большей безопасности по сравнению с классическим разворачиванием ключа.


Текущие ограничения QKD — расстояние и скорость выработки ключа — будут в будущем улучшены по мере экспериментальных исследований, а квантовые повторители будут перспективны для создания полностью квантовых сетей на большие расстояния.


Мы верим, что поскольку технология продолжает совершенствоваться, QKD будет становится всё более важным средством в наборе криптографических инструментов для построения безопасных систем связи.

Благодарности


Авторы выражают огромную благодарность в помощи при обсуждении вопроса Romain Alleaume, Daniel J. Bernstein, Hoi-Kwong Lo, Alfred Menezes и Kenny Paterson. Исследование проведено при участии университета Ватерлоо, NSERC Graduate Sholarship, OCE, Canada NSERC, QuantumWorks, MITACS, CIFAR, Ontario-MRI и Sun Microsystems Laboratories.


Данные о публикации: QuantumComm 2009 Workshop on Quantum and Classical Information Security.


Источник: Cryptology ePrint Archive


 
На страницу: 1, 2, 3, 4, 5, 6, 7, 8, 9 След.
Комментарии [скрыть комментарии/форму]
— Гость (13/04/2012 11:22)   <#>
К тому же там своя идеология о том, что «полезно», «интересно», «нужно» и «достойно изучения».
Вот! А ведь некоторые говорили что не может быть никакой особой "арийской физики"... :)
— unknown (13/04/2012 11:45, исправлен 13/04/2012 11:48)   профиль/связь   <#>
комментариев: 9796   документов: 488   редакций: 5664

Не, ну если выделить гранты на соответствующие исследования, то вам изучат и опишут, какие-там квантовые явления могли бы происходить в негильбертовых пространствах. Физика альтернативных вселенных — это круче суперструн будет, наверное.

— Гость (13/04/2012 12:57)   <#>
[offtop]
Ну то есть существующая наука определяется теми, кто выделяет гранты. То есть хозяевами денег. Что, собственно и требовалось доказать! :)
[/offtop]
— spinore (13/04/2012 18:11, исправлен 13/04/2012 18:19)   профиль/связь   <#>
комментариев: 1515   документов: 44   редакций: 5786

Вообще, такое направление мысли есть, из-за информационного подхода оно даже начало получать больший интерес исследователей, IMHO. Например, допускают, что неравенства Белла нарушаются даже ещё сильнее, чем тот максимум, который достижим в квантах, и показывают, что из этого бы следовало. Иногда получаются интересные протоколы типа криптографических, иногда — нарушение всяких базовых принципов типа причинности или ограничения на максимальную скорость передачи сигнала (скорость света). Это позволяет лучше понять в том числе и саму квантовую механику, «почему она именно такая», т.е. можно показать, что достаточно лишь чуть-чуть её модифицировать, и мы сразу же получим нечто, совершенно несовместимое с реальностью. На мой взгляд, это интересное направление мысли, хотя оно и несколько маргинально в науке (по числу исследователей маргинально, лженаукой это никто не считает). Обсуждалось в /comment42059.


Просто цель математики как таковой — создавать матаппарат, которые сейчас или в будущем окажется где-нибудь (абсолютно где угодно) полезным. Чем более общий и более «фундаментальный» подход, тем он концептуальней и тем выше вероятность ему найти где-то примненение. Отсюда возникает естественная тяга в математике к обобщению всего, что только можно, и это правильно.


В квантмехе цель — создавать матаппарат, который будет полезным для практических приложений квантовой механики (ну, и плюс некая окрестность вокруг этих приложений). Потому приоритет отдаётся задачам, которые имеют значимость именно в этом духе: пусть они будут достаточно общими и концептуальными, но они должны принципиально оставаться в рамках допустимого физикой.


История возникновения квантов в этом плане очень поучительна и наглядно демонстрирует, как физика воспользовалась математическими наработками сразу же, как только дозрела до них. Шредингер, видя волновые свойства в рассеянии квантовых частиц (дифракция, интерференция) искал параллели с тем, что уже было на тот момент известно. Он понимал квантовую механику, как такую специальную оптику, и в итоге угадал уравнение имени себя1. На самом деле уравнение Шредингера — не волновое, конечно же: нет таких волн, которые в точности дадут именно такие интерференционные/дифракционные картинки, но физическая интуиция подсказала правильный путь. Вот и назвали всё это дело «волновой механикой Шредингера», а его уравнение — «волновым уравнением Шредингера». Эта терминология в устаревших книжках до сих пор встречается. Собственно, «волной» как раз и было названо то, что сейчас официально называется «волновая функция в координатном представлении» или, более правильно, «вектор состояния в координатном представлении». Впрочем, если говорят «волновая функция», координатное представление подразумевается по умолчанию, если же это не так, то уточняют, например «волновая функция в импульсном представлении». Тут важно понимать, что слово «волновая» хотя и физичное, но это — дань традиции. Правильный термин — «вектор состояния», а «волновая функция» — краткое историческое (но вполне корректное) название этого самого вектора в координатном представлении.


Параллельно со Шредингером работал Гайзенберг. Гайзенберг даже не знал матриц (в начале 20го века это было нормально, физики в линейную алгебру носа не сували). Уже не помню, то ли ему кто-то помог, то ли он часть этого дела сам переизобрёл, но в итоге ему удалсь описать те же квантвоые явления в терминах матриц. Получилось то, что назвали «матричной квантовой механикой». Откуда матрицы взялись — это понятно: было осознание того факта, что физике понадобились некоммутирующие величины, а простейший пример таких объектов — матрицы (их умножение в общем случае не коммутирует2). Кстати, Дирак пытался ввести3 q-числа и c-числа. C — классические (classical), коммутирующие; q — квантовые (quantum), некомметирующие. Конечно, сейчас всё это уже имеется на более высоком витке спирали развития:

Although c-numbers are commuting, the term anti-commuting c-number is also used to refer to a type of anti-commuting numbers that are mathematically described by Grassmann numbers. The term is also used to refer solely to "commuting numbers" in at least one major textbook

Короче, кому интересно, хинты — грассмановы числа, грассманово интегрирование, грассмановы алгебры и т.д.


Поначалу, как я понимаю, учёным казалось, что волновая и матричная механика — 2 разных подхода, дающих тот же результат. Потом к делу подключились математики типа фон Неймана и Вигнера, которые смогли квантмех полностью формализовать и аксиоматизировать. Оказалось, что всё получается более простым и естественным, если мы будет отталкиваться не от представлений векторов в конкретном базисе (волновая функция — представлене вектора в гильбертовом пространстве в координатном базисе), а от самих векторов. Тогда волновая функция в координатном и импульсном представлениях естественным образом возникают как «координаты» вектора в разных базисах. В частности, координатный и импульсный базисы — не счётные, а вот фоковский базис — счётный (хотя и бесконечномерный). Представляя наш вектор в фоковском базисе | n 〉, где n — натуральные числа от нуля до бесконечности4, мы получаем бесконечного размера матрицы, но коэффициенты этих матриц — счётные. Если ограничиться каким-то числом сверху, получим обычные бесконечномерные. Вот так и вылезло описание через линейную алгебру (для конечномерных гильбертовых пространств — спин/поляризация, дирскретные переменные) и через функциональный анализ (для бесконечномерных, непрерывные переменные). Дальше, по-моему, сделали ещё один шаг, и сказали «пусть будут первичными не состояния, а результаты действия операторов физических величин на них» (ну типа зачем нам держать лишнюю сущность?), и получили те самые C*-алгебры5.


Конечно, не будь развитой математики, мы бы до сих пор думали про вектора как про тройки чисел, а не как про базисонезависимые объекты, преобразующиеся по тензорному закону при вращении координат. Вот те же спиноры, например, преобразуются не по тензорному закону, хотя их тоже можно представлять столбиками чисел в конкретном базисе, а потому они не векторы ни разу («вектор — это не палка с концом!» — из первых лекий по линейной алгебре). Сейчас, кстати, это общая тенденция: отовсюду изгонять координатный подход — хоть из квантмеха, хоть из дифференциальной геометрии или топологии. Собственно, современные версии навороченной алгебры как раз потому и становятся популярными — это та же геометрия, только уже совсем без координат, с привязкой к топологическим и симметрийным свойствам.



Последнее время сама научная парадигма поменялась. Любопытство народа требует хлеба и зрелищ описания явлений, которые могут наблюдаться при таких энергиях, какие никогда не будут достигнуты в земных вселенских масштабах. Не достичь, но чуть-чуть прикоснуться к ним, к таким экстремальным состояниям, можно разве что на горизонте событий вокруг чёрных дыр, но те, кто туда попали, нам уже не расскажут :) Достичь можно было раньше, если верить астрофизике, попав в самые первые моменты большого взрыва. Изучение физики первых моментов большого взрыва, может быть, и похвально, только вот очень плохо фальсифицируемо.


Обычно произносится примерно такой набор слов: пусть мы допускаем такую-то теорию, тогда в низкоэнергетическом пределе из неё будут следовать те-то и те-то, которые для нас наблюдаемы. Но то, что у нас наблюдаемо, уже и так прекрасно описывается существующими теориями типа КТП или стандартной модели, т.е. тестировать те более общие теории по сути не на чем. Единственное, что можно себе позволить — попытаться написать самое простое и связное (по математической красоте, самосогласованности и прочее) обобщение существующих теорий и верить, что на тех, нам недостижимых энергиях, всё именно так и есть. Когда-то думали, что таких обобщений очень мало, и можно будет показать, пользуясь чисто математикой, что означенная теория по сути единственна, что добавило бы уверенности в её правильности, хотя и без экспериментальной проверки. По мере прогресса оказалось, что таких теорий бесчисленное множество, и что теперь из них выбрать, никто не знает. Кое-о-чём не плохо написано, кстати, на лурке.


Струны тем временем живут своей жизнью, и обобщаются в другие, более общие теории: в М-теорию, например. Главный струнщик планеты Виттен тем временем получил нобеля филдса, что как бы символизирует, что струны — всё же математика, а не физика. Математики тем временем негодуют, т.к. струны.. всё же... не математика, а «теория моделей», потому там не вполне математические критерии строгости — они ближе к тем, что приняты в теоретической физике, хотя физикой это не является. Вот и получается та же алгебраическая геометрия, только вульгарная, без математической строгости, и под новым распиаренным соусом «теория суперструн», где врученный филдс — дань общественнонаучному пиару. Это как если было бы направление движения в матане от формализации Коши обратно к матанализу Лейбница, возникшее вследствие возможной применимости матанализа к чему-то очень интригующе интересному :)



1В разных аксиоматиках приняты разные подходы, но обычно уравнение Шредингера принимается как независимый постулат.
2Это не для unknown'а пояснение :) — он-то математику знает, а для других, если они вдруг заинтересуются этими постами.
3Терминология не прижилась, имеет чисто историческую ценность.
4не путать с | 0 〉, где это условно «первый базисный вектор в пространстве кубита, а | 1 〉 — второй в том же пространстве!
5Могу путать, потому читайте литературу, если хотите знать, как на самом деле.

— Гость (14/04/2012 16:36)   <#>
движения в матане от формализации Коши обратно к матанализу Лейбница
Нестандартный анализ называется ;)
— spinore (14/04/2012 19:29)   профиль/связь   <#>
комментариев: 1515   документов: 44   редакций: 5786
[offtop]
— Гость (15/04/2012 12:21)   <#>
[offtop]
Появление нестандартного анализа можно сравнить с написанием транслятора для псевдокода – это когда до этого, на заре программирования, приходилось всё писать на ассемблелре, а IF THEN ELSE писался только в комментариях. Ну и понятно также, что у языка высокого уровня (формализованного псевдокода) тоже есть тоже свои правила, которые надо понимать и соблюдать (а хороший программист даже понимает, во что это транслируется).

А приведённая критика, вобщем то, вкусовая. Нестандартный анализ – вполне строгая математическая конструкция, и доказываются в нём ровно те же результаты, что и в станартном, только удобнее – ближе к тому, как это делали Ньютон с Лейбницем. Ну а кому удобнее прежние эпсилон-дельты, ну что ж тут поделаешь, насильно мил не будешь...

Поэтому не факт, что вульгарная математика струн такая уж вульгарная – может просто еще соответствующий "транслятор" не написали. Хотя, конечно, как и во всякой модной теме, проходимцев там хватает...
[/offtop]
— spinore (12/06/2012 13:33, исправлен 12/06/2012 16:49)   профиль/связь   <#>
комментариев: 1515   документов: 44   редакций: 5786

unknown, вы в /comment52091 интересовались этой статьёй. Собственно, про неё:

There will be a "Google+ hangout" online seminar next Tuesday by Scott Aaronson, see details below or the following link.
Date: Tuesday 19th June
Time: 2pm British Summer Time
Speaker: Scott Aaronson (MIT)
Title: Quantum Money from Hidden Subspaces
Based on http://arxiv.org/abs/1203.4740

Это информация из внутренней рассылки. Собираемся пойти посмотреть.

— unknown (12/06/2012 20:58)   профиль/связь   <#>
комментариев: 9796   документов: 488   редакций: 5664
Посмотрите, расскажите, если что будет интересного.
— spinore (12/06/2012 21:20)   профиль/связь   <#>
комментариев: 1515   документов: 44   редакций: 5786
Если смогу понять, о чём идёт речь — обязательно :) Вроде бы при должном оборудовании можно даже вопросы рассказчику задавать, но есть ограничение на 10 точек подключения (на весь интернет) с таким функционалом. Если на нашу группу достанется одна из них, то хорошо.
— spinore (28/05/2013 20:28)   профиль/связь   <#>
комментариев: 1515   документов: 44   редакций: 5786

Популярных и обстоятельных книг не видел. Из того, с чем встречался:
  1. Книга Жиль ван Аша, упоминалась в /comment63154. В публичном доступе я видел только введение оттуда.
  2. В конце книжки Нильсена & Чанга есть 16 страниц, посвящённых QKD. Англоязычную версию книги можно найти в свободном доступе, если порыться. Русскоязычный перевод книги есть, но имеется ли он в интернете в свободном доступе — не проверял.
  3. В /comment35513 и /comment40667 упоминался этот RMP-обзор по QKD с Жизаном в соавторах, год 2002-ой. Журальный оригинал — здесь.
  4. В /comment51153 упоминалась методичка по QKD от МГУ.
Самая популярная и обстоятельная книга (вообще для всего) — Нильсен & Чанг. Начинать можно с неё. Есть и другие книжки по всей информатике, но я их не читал.

В отличие от стран бывшего СССР на Западе принято писать диссертации (PhD thesis) как книги для новичков, где большая часть посвящена введению в тему для тех, кто вообще в ней не смыслит. Например, есть немало диссертаций по квантовой теории информации, где всё буквально начинается с объяснения того, что такое кубит. Если хочется въехать в новую для вас тему, логично почитать диссертации, которые по ней защищались. Они обычно написаны намного понятнее, чем статьи. Многие (но не все) выкладывают собственные диссертации в публичный доступ (на личных страницах или в arXiv'е). Вот, к примеру, диссертация Реннера по безопасности QKD в дискретных переменных. fileТут — диссертация по CV QKD, тоже теория.

Другой популярный на Западе способ вникнуть в тему — читать обзорные статьи журнала Rev. Mod. Phys. Если нет доступа к журналу, ищите те же статьи в архиве, орентируясь на заглавие и список авторов. Выше ссылку на один из таких обзоров я привёл. Основной способ коммуникации после изучения основ — чтение статей из arXiv'а, это будет заодно и проверкой, понимаете ли тему. Если в статьях в arXiv'е по интересуемой вас теме не понятно ничего тождественно, то, значит, ничему не научились. :) Всё понятно тоже не будет, и это нормально, поскольку разные авторы пишут по-разному, а во многих статьях вообще бред.

Даже если попытаться вообразить книгу по QKD, я не знаю, что туда могло бы войти. Занимающиеся экспериментом и теорией говорят друг с другом на разных языках. Эксперимент и теория — настолько разные миры, что удивительно, как они вообще пересекаются. Грубо говоря, Жизан вряд ли поймёт Реннера, но поймёт Макарова. QKD как эксперимент — это квантовая оптика, оптоволокно, фотонные детекторы и прочая физика, на 95% экспериментальная. Для них фотоны — щелчки на фотодетекторах, которые они видят собственными глазами. Они примерно так о них и думают. QKD же как теория — абстрактный протокол на основе извращённой версии теории информации, где фотоны — единицы энергии, характеризующие энергию состояния электромагнитного поля.

Помимо различий эксперимент-теория есть отличия между QKD в дискретных (DV) и в непрерывных (CV) переменных. Обычно каждый коллектив концентрируется либо на CV, либо DV, причём друг друга они вообще не очень хорошо понимают. И если DV и кубиты — базовая вещь в теории информации, их хоть на каком-то уровне понимают все (и концепты объясняют всегда на примере DV и кубитов), то вот CV со своими гауссовыми состояниями (сжатыми, когерентными, тепловыми) — обычно вообще дебри для тех, кто конкретно CV не занимается. Я к тому, что QKD в целом — это слишком много всего, разные части мало друг с другом пересекаются. Нужно очерчивать список интересов более конкретно и рыть тему, исходя из него.

Наконец, что касается глобального видения, в целом, есть такое мнение: простые задачи по теории QKD уже все решены, тематика исследована вдоль и поперёк, а те задачи, что не решены — слишком сложные. То есть надо чётко осозновать, что тягаться по теории и безопасности QKD — это тягаться с людьми типа Реннера и Люткенхауса (кстати, он соавтор статьи, о которой топик). Почитайте их работы, подумайте, сможете ли понять то, что они сделали, встать на их плечи и прыгнуть вперёд — туда, куда даже они не добрались. Более реалистично заниматься либо экспериментом по QKD, либо новыми направлениями в QKD (DI, гибридные переменные, возможно и т.д.). Общий посыл таков: QKD в основном сейчас занимаются экспериментаторы и квантовые хакеры, а теоретики пошли в другие области. Стоит, конечно, вносить поправку на то, что моя колокольня не самая высокая, и я могу быть не прав, но ощущения от общения с людьми примерно такие.
— Гость (06/06/2013 07:52)   <#>

Какая-то книга. Попытка местных умов осилить и переизложить чужие идеи с поправкой на местный менталитет и понимание.
Автор-1, Автор-2, Автора-3 в архиве вообще нет. Все авторы — тут.
На страницу: 1, 2, 3, 4, 5, 6, 7, 8, 9 След.
Ваша оценка документа [показать результаты]
-3-2-1 0+1+2+3