Кэш - что это, как работает и для чего? Что такое кэш

Для Андроид 20.08.2019
Для Андроид

Ч то является самым грязным местом на компьютере? Думаете, корзина? Папки пользователя? Система охлаждения? Не угадали! Самое грязное место – это кэш! Ведь его постоянно приходится чистить!

На самом деле кэшей на компьютере много, и служат они не свалкой отходов, а ускорителями оборудования и приложений. Откуда же у них репутация «системного мусоропровода»? Давайте разберемся, что такое кэш, каким он бывает, как работает и почему время от времени .

Понятие и виды кэш-памяти

К эшем или кэш-памятью называют специальное хранилище часто используемых данных, доступ к которому осуществляется в десятки, сотни и тысячи раз быстрее, чем к оперативной памяти или другому носителю информации.

Собственная кэш-память есть у приложений (веб-браузеров, аудио- и видеоплееров, редакторов баз данных и т. д.), компонентов операционных систем (кэш эскизов, DNS-кэш) и оборудования (cache L1-L3 центрального процессора, фреймбуфер графического чипа, буферы накопителей). Реализована она по-разному – программно и аппаратно.

  • Кеш программ – это просто отдельная папка или файл, куда загружаются, например, картинки, меню, скрипты, мультимедийный контент и прочее содержимое посещенных сайтов. Именно в такую папку в первую очередь «ныряет» браузер, когда вы открываете веб-страницу повторно. Подкачка части контента из локального хранилища ускоряет ее загрузку и .

  • В накопителях (в частности, жестких дисках) кэш представляет собой отдельный чип RAM емкостью 1-256 Mb, расположенный на плате электроники. В него поступает информация, считанная с магнитного слоя и пока не загруженная в оперативную память, а также данные, которые чаще всего запрашивает операционная система.

  • Современный центральный процессор содержит 2-3 основных уровня кеш-памяти (ее также называют сверхоперативной памятью), размещенных в виде аппаратных модулей на одном с ним кристалле. Самым быстрым и наименьшим по объему (32-64 Kb) является cache Level 1 (L1) – он работает на той же частоте, что и процессор. L2 занимает среднее положение по скорости и емкости (от 128 Kb до 12 Mb). А L3 – самый медленный и объемный (до 40 Mb), на некоторых моделях отсутствует. Скорость L3 является низкой лишь относительно его более быстрых собратьев, но и он в сотни раз шустрее самой производительной оперативки.

Сверхоперативная память процессора применяется для хранения постоянно используемых данных, перекачанных из ОЗУ, и инструкций машинного кода. Чем ее больше, тем процессор быстрее.

Сегодня три уровня кеширования – уже не предел. С появлением архитектуры Sandy Bridge корпорация Intel реализовала в своей продукции дополнительный cache L0 (предназначенный для хранения расшифрованных микрокоманд). А наиболее высокопроизводительные ЦП имеют и кэш четвертого уровня, выполненный в виде отдельной микросхемы.

Схематично взаимодействие уровней cache L0-L3 выглядит так (на примере Intel Xeon):

Человеческим языком о том, как всё это работает

Ч тобы было понятно, как функционирует кэш-память, представим человека, работающего за письменным столом. Папки и документы, которые он использует постоянно, лежат на столе (в кэш-памяти ). Для доступа к ним достаточно протянуть руку.

Бумаги, которые нужны ему реже, хранятся недалеко на полках (в оперативной памяти ). Чтобы их достать, нужно встать и пройти несколько метров. А то, с чем человек в настоящее время не работает, сдано в архив (записано на жесткий диск ).

Чем шире стол, тем больше документов на нем поместится, а значит, работник сможет получить быстрый доступ к большему объему информации (чем емкость кэша больше, тем в теории быстрее работает программа или устройство ).

Иногда он допускает ошибки – хранит на столе бумаги, в которых содержатся неверные сведения, и использует их в работе. В результате качество его труда снижается (ошибки в кэше приводят к сбоям в работе программ и оборудования ). Чтобы исправить ситуацию, работник должен выбросить документы с ошибками и положить на их место правильные (очистить кэш-память ).

Стол имеет ограниченную площадь (кэш-память имеет ограниченный объем ). Иногда ее можно расширить, например, придвинув второй стол, а иногда нельзя (объем кэша можно увеличить, если такая возможность предусмотрена программой; кэш оборудования изменить нельзя, так как он реализован аппаратно ).

Другой способ ускорить доступ к большему объему документов, чем вмещает стол – найти помощника, который будет подавать работнику бумаги с полки (операционная система может выделить часть неиспользуемой оперативной памяти для кэширования данных устройств ). Но это всё равно медленнее, чем брать их со стола.

Документы, лежащие под рукой, должны быть актуальны для текущих задач. За этим обязан следить сам работник. Наводить порядок в бумагах нужно регулярно (вытеснение неактуальных данных из кэш-памяти ложится «на плечи» приложений, которые ее используют; некоторые программы имеют функцию автоматической очистки кэша ).

Если сотрудник забывает поддерживать порядок на рабочем месте и следить за актуальностью документации, он может нарисовать себе график уборки стола и использовать его, как напоминание. В крайнем случае – поручить это помощнику (если зависимое от кэш-памяти приложение стало работать медленнее или часто загружает неактуальные данные, используйте средства очистки кэша по расписанию или раз в несколько дней проводите эту манипуляцию вручную ).

С «функциями кэширования» мы на самом деле сталкиваемся повсеместно. Это и покупка продуктов впрок, и различные действия, которые мы совершаем мимоходом, заодно и т. д. По сути, это всё то, что избавляет нас от лишней суеты и ненужных телодвижений, упорядочивает быт и облегчает труд. То же самое делает и компьютер. Словом, если бы не было кэша, он бы работал в сотни и тысячи раз медленнее. И нам бы вряд ли это понравилось.

Ещё на сайте:

Что такое кэш, зачем он нужен и как работает обновлено: Февраль 25, 2017 автором: Johnny Mnemonic

Компьютер, увы, не моментально выполняет команды, которые получает от людей. Для ускорения этого процесса применяется ряд хитростей, и почетное место среди них принадлежит кэшированию. Что это такое? Чем являются кэшированные данные? Как этот процесс собственно происходит? Что такое кэшированные данные в смартфоне "Самсунг", к примеру, и отличаются они чем-то от тех, что в компьютере? Давайте приступим к получению ответов на эти вопросы.

Так называют промежуточный буфер, который обеспечивает быстрый доступ к информации, вероятность запроса которой выше всего. Все данные содержатся в нём. Важным преимуществом является то, что извлечь всю необходимую информацию из кэша можно значительно быстрее, чем из исходного хранилища. Но существует значительный недостаток - размер. Кэшированные данные применяются в браузерах, жестких дисках, ЦПУ, веб-серверах, службах WINS и DNS. Основой структуры являются наборы записей. Каждая из них ассоциирована с определённым элементом или блоком данных, которые выступают копией того, что есть в основной памяти. Записи имеют идентификатор (тег), с помощью которого и определяется соответствие. Давайте посмотрим с немного другой точки зрения: что такое кэшированные данные в телефоне "Самсунг" или другого производителя? Отличаются ли они от тех, что создаются в компьютере? С принципиальной точки зрения - нет, разница исключительно в размере.

Процесс использования

Когда клиент (они были перечислены выше) запрашивает данные, то первое, что делает компьютер - исследует кэш. Если в нём находится необходимая запись, то она и используется. В этих случаях происходит попадание. Периодически данные из КЭШа копируются в основную память. Но если нужная запись не была найдена, то происходит поиск содержимого в базовом хранилище. Вся взятая информация переносится в кэш, чтобы к ней потом можно было обращаться более быстро. Процент, когда запросы увенчиваются успехом, называется уровнем или коэффициентом попадания.

Обновление данных

При использовании, допустим, веб-браузером осуществляется проверка локального кэша с целью найти копию страницы. Учитывая ограниченность данного при промахе принимается решение отбросить часть информации, чтобы освободить пространство. Чтобы решить, что именно будет заменено, используют различные алгоритмы вытеснения. Кстати, если говорить о том, что такое кэшированные данные на "Андроиде", то в массе своей они используются для работы с картинками и данными приложений.

Политика записи

Во время модификации содержимого кэша обновляют данные и в основной памяти. Временная задержка, которая проходит между внесением информации, зависит от политики записи. Существует два основных типа:

  1. Немедленная запись. Каждое изменение синхронно заносится в основную память.
  2. Отложенная или обратная запись. Обновление данных проводится периодически или при запросе со стороны клиента. Чтобы отслеживать, было ли внесено изменение, используют признак с двумя состояниями: «грязный» или изменённый. В случае промаха может производиться два обращения, направленные основной памяти: первое используется, чтобы записать данные, что были изменены из кэша, а второе - чтобы прочитать необходимый элемент.

Может быть и такое, что информация в промежуточном буфере становится неактуальной. Это происходит при изменении данных в основной памяти без внесения корректировок в кэш. Для согласованности всех процессов редактирования используют протоколы когерентности.

Современные вызовы

С увеличением частотности процессоров и повышением производительности оперативной памяти появилось новое проблемное место - ограниченность интерфейса Что из этого может подметить знающий человек? Кэш-память очень полезна, если частота в ОЗУ меньше чем в процессоре. Многие из них имеют свой собственный промежуточный буфер, чтобы уменьшить время доступа к оперативной памяти, которая действует медленнее, нежели регистры. В ЦП, которые поддерживают виртуальную адресацию, часто размещают небольшой, но очень быстрый буфер трансляций адресов. Но в других случаях кэш не очень полезен, а иногда только создаёт проблемы (но это обычно в компьютерах, которые подверглись модификации непрофессионалом). Кстати, говоря о том, что такое кэшированные данные в памяти смартфона, надо отметить, что из-за маленького размера устройства приходится создавать новые миниатюрные реализации кэша. Сейчас некоторые телефоны могут похвастаться параметрами, как у передовых компьютеров десять лет назад - а какая разница в их размере!

Синхронизация данных между разными буферами

  1. Инклюзивный. Кэш может вести себя как угодно.
  2. Эксклюзивный. Разрабатывался под каждый конкретный случай.
  3. Неэкслюзивный. Стандарт широкого распространения.

Уровни кэширования

Их количество обычно равняется трём или четырём. Чем больше уровень памяти, тем она объемнее и медленнее:

  1. L1 cache. Самый быстрый уровень кэша - первый. По сути, он часть процессора, поскольку расположен на одном кристалле и относится к функциональным блокам. Обычно делится на два вида: кэш инструкций и данных. Большинство современных процессоров без этого уровня не работают. Данный кэш функционирует на частоте процессора, поэтому обращение к нему может осуществлять каждый такт.
  2. L2 cache. Обычно располагается вместе с предыдущим. Является памятью раздельного пользования. Чтобы узнать его величину, необходимо весь объем, отданный под кэширование данных, поделить на количество ядер, которое есть в процессоре.
  3. L3 cache. Медленный, но самый большой зависимый кэш. Обычно больше 24 Мбайт. Используется, чтобы синхронизировать данные, которые поступают от различных кэшей второго уровня.
  4. L4 cache. Использование оправдано только для высокопроизводительных многопроцессорных майнфреймов и серверов. Его реализуют в качестве отдельной микросхемы. Если вы задаёте вопрос о том, что такое кэширование данных в смартфоне "Самсунг" и ищете в нём этот уровень - могу сказать, что лет на 5 точно поторопились.

Ассоциативность кэша

Это фундаментальная характеристика. Ассоциативность кэшированных данных необходима для отображения логической сегментации. Она, в свою очередь, нужна из-за того, что последовательный перебор всех имеющихся строк занимает десятки тактов и сводит на нёт все преимущества. Поэтому используется жесткая привязка ячеек ОЗУ к данным кэша, для сокращения времени поиска. Если сравнивать промежуточные буферы, у которых одинаковый объем, но разная ассоциативность, то тот, у кого она большая, будет работать менее быстро, но с значительной удельной эффективностью.

Заключение

Как видите, кэшированные данные при определённых условиях позволяет вашему компьютеру действовать более быстро. Но, увы, существует ещё довольно много аспектов, над которыми можно работать длительное время.

Думаю, каждый из вас неоднократно встречал в сети советы очистить кэш браузера . Вполне вероятно, что многие следуют этим советам. Но далеко не каждый знает, что же это такое на самом деле: ; и для чего его нужно чистить? Сегодня подробно об этом расскажу.

Что такое кэш браузера?

Когда в интернете мы открываем и просматриваем веб-страницы сайтов, наш браузер при этом автоматически сохраняет определенные данные с этих страниц на жесткий диск нашего компьютера. Сюда относятся различные элементы дизайна, изображения и картинки, просмотренные видеоролики и т.д. Необходимо это для того, чтобы при следующем обращении к этой веб-странице часть информации загружалась непосредственно с нашего жесткого диска, а не заново с сервера. Это значительно ускоряет время загрузки страниц!

Благодаря тому, что браузер при повторной загрузке страницы какого-либо сайта берет большинство данных из кэша, а не грузит каждый раз все заново – то происходит еще и экономия входящего интернет трафика.

Для чего нужно чистить кэш браузера?

Кэш браузера необходимо периодически очищать. Для этого есть минимум пару причин.

Во-первых, если вы активно посещаете различные сайты в интернете, то на жестком диске скапливается большое количество файлов кэша. Общий размер этих файлов может достигать нескольких гигабайт (правда в некоторых браузерах можно задать фиксированный размер кэша в настройках).

Вторая причина – более важная. Со временем, некоторые сайты могут начать отображаться некорректно. Например, на сайте поменялся дизайн, а ваш браузер продолжает использовать устаревшие данные из своего кэша.

Где хранится кэш браузера?

Каждый браузер хранит свой кэш в определенной папке на жестком диске компьютера. В операционных системах Windows 7, 8 и 10 кэш всех популярных браузеров по умолчанию сохраняется по пути C:\Users\Имя пользователя\AppData\Local каждый в своей папке.

Изначально папка AppData является скрытой, поэтому чтобы войти в нее и увидеть содержимое – необходимо включить в системе отображение скрытых и системных файлов. В Windows 7 для этого в проводнике зайдите в строке меню во вкладку “Сервис” – “Параметры папок” – “Вид”. Здесь снимите галку с пункта “Скрывать защищенные системные файлы” и поставьте маркер в положение “Показывать скрытые файлы, папки и диски”:

Итак, популярные браузеры хранят свой кэш в следующих папках:

Google Chrome

C:\Users\Имя пользователя\AppData\Local\Google\Chrome\User Data\Default\Cache

C:\Users\Имя пользователя\AppData\Local\Google\Chrome\User Data\Profile 1\Cache

Mozilla Firefox

C:\Users\Имя пользователя\AppData\Local\Mozilla\Firefox\Profiles\название профиля.default\cache2\entries

Opera

C:\Users\Имя пользователя\AppData\Local\Opera Software\Opera Stable\Cache

Яндекс Браузер

C:\Users\Имя пользователя\AppData\Local\Yandex\YandexBrowser\User Data\Default\Cache

Internet Explorer

C:\Users\Имя пользователя\AppData\Local\Microsoft\Windows\Temporary Internet Files\

C:\Users\Имя пользователя\AppData\Local\Microsoft\Windows\INetCache\

Как очистить кэш браузера?

Очистить кэш браузера на компьютере очень просто, и времени это займет совсем немного. Находясь в любом браузере, зажмите на клавиатуре три клавиши: Ctrl+Shift+Delete . Дальше выскочит окошко, в котором вам останется только выбрать что именно и за какой период очищать. Тоже самое только со скриншотами я описал в отдельной статье “ ”.

Замечу следующее: после очистки кэша, первое время веб-страницы сайтов будут загружаться чуть медленнее. Причина в том, что все эти страницы будут грузиться прямо с веб-сервера, а кэш-файлы будут создаваться на вашем жестком диске заново.

Чтобы очистить кэш сразу во всех установленных на компьютере браузерах, можно воспользоваться хорошей бесплатной программой .

Всем привет! Заметил что на блоге практически отсутствуют информационные заметки, а тут мне задали вопрос… а что такое кэш в телефоне и почему он занимает столько свободного места?! На предложение погуглить был озадачен — бО льшая часть ресурсов рассказывали о кэш памяти компьютера, которая ничего общего с понятием кэширования на телефоне не имеет. Люди путаются, пытаются понять и у них ничего не получается — оно и неудивительно.

Так что же такое кэш в телефоне андроид? — Когда вы используете приложения, они сохраняют часть данных на телефон для последующего использования (чтобы не подгружать заново из интернета). Эти файлики хранятся в кэше приложения.

Простой пример. Наверняка всем знакомо приложение «Вконтакте» — оно будет сохранять изображения и другие данные на телефон, чтобы каждый раз не закачивать их из интернета снова. Аватарки, история сообщений — наверняка вы заметили что частично эти данные доступны даже без доступа в интернет, так вот — они подгрузились с вашего устройства и тем самым увеличивает скорость загрузки и значительно экономит трафик.

Что такое кэшированные данные в телефоне андроид? — Это временные данные, которые хранятся в памяти вашего устройства для более быстрой работы приложения и экономии вашего интернет трафика.

Просмотреть сколько занимает кэш приложения или игрушки можно в настройках вашего устройства, например на смартфонах Xioami в их фирменной прошивке MIUI есть отдельный пункт в настройках, который все эти нюансы анализирует и может помочь очистить вам кеш приложений.

Чтобы предупредить волну комментариев о том, что я дал не совсем верное определение — я знаю что такое кэш, но в контексте телефонов мое определение будет более верным и понятным для простых людей

Можно ли удалить кэшированные данные в телефоне

Удалить конечно же можно, но вот нужно ли?! — это совсем другой вопрос. Если у вас нет проблем со свободным пространством на телефоне, то и особой нужды удалять кэшированные данные смысла нет… если вы поняли как это работает, то логично что все приложения опять же подгрузят все эти данные (хотя немного свободного места вы выиграете)

Очистка кэшированных данных не удаляет другую информацию (логины, пароли или сохранения ваших любимых игрушек), поэтому при возникновении любых проблем с кешем его можно не задумываясь удалить.

Очистить Кеш или стереть данные приложения? — Что выбрать…

Наверняка с функцией «Очистить кеш» вы обратили внимание на кнопку «Стереть данные» — это крайние меры… этим самым вы очищаете кеш приложения и удаляете все настройки программы. После этого, приложение или игра запустится с нуля (как будто вы его установили впервые).

Если вы сотрете данные приложения «Вконтакте», то вам при запуске придется заново вводить свои учетные данные. Аналогично и с игрушками — весь игровой процесс вы потеряете и начнете с самого начала (если вы не использования облачного сохранения)

После очистки данных приложения или игрушки попробуйте запустить ее… без устаревших данных и кеша вы запускаете программу в первый раз, просто проверьте решило ли это вашу проблему, если вы искали функцию «Стереть данные» для разрешения проблем с работой приложения.

Когда стоит очищать кэш или данные

Теперь перейдем к вечному вопросу — стоит ли очищать кэш в телефоне принудительно?! Скорее всего этого делать не придется, однако некоторые приложения могут некорректно работать… если вы заметили что одна из программ начала жрать место в памяти устройства — можете смело очищать кеш.

Если приложение или игра работает откровенно плохо или не работает совсем (а вполне возможно вы просто хотите запустить его как в первый раз) — вы можете «Стереть данные» и выполните первоначальную настройку. Будьте аккуратны — восстановить данные вы уже не сможете!

Заключение — что мы узнали о кэше

Вот мы с вами и разобрали что такое КЭШ в телефоне и почему он занимает так много места. Надеюсь моя непутевая заметка помогла вам разобраться в данных терминах и вы больше не боитесь этих непонятных выражений — всегда рад увидеть вас в комментариях!

Диаграмма кэша памяти ЦПУ

Кэш - это память с большей скоростью доступа, предназначенная для ускорения обращения к данным, содержащимся постоянно в памяти с меньшей скоростью доступа (далее «основная память»). Кэширование применяется ЦПУ , жёсткими дисками , браузерами и веб-серверами .

Кэш состоит из набора записей. Каждая запись ассоциирована с элементом данных или блоком данных (небольшой части данных), которая является копией элемента данных в основной памяти. Каждая запись имеет идентификатор , определяющий соответствие между элементами данных в кэше и их копиями в основной памяти.

Когда клиент кэша (ЦПУ, веб-браузер, операционная система) обращается к данным, прежде всего исследуется кэш. Если в кэше найдена запись с идентификатором, совпадающим с идентификатором затребованного элемента данных, то используются элементы данных в кэше. Такой случай называется попаданием кэша . Если в кэше не найдено записей, содержащих затребованный элемент данных, то он читается из основной памяти в кэш, и становятся доступным для последующих обращений. Такой случай называется промахом кэша . Процент обращений к кэшу, когда в нём найден результат, называется уровнем попаданий или коэффициентом попаданий в кэш.

Например, веб-браузер проверяет локальный кэш на диске на наличие локальной копии веб-страницы, соответствующей запрошенному URL. В этом примере URL - это идентификатор, а содержимое веб-страницы - это элементы данных.

Если кэш ограничен в объёме, то при промахе может быть принято решение отбросить некоторую запись для освобождения пространства. Для выбора отбрасываемой записи используются разные алгоритмы вытеснения .

При модификации элементов данных в кэше выполняется их обновление в основной памяти. Задержка во времени между модификацией данных в кэше и обновлением основной памяти управляется так называемой политикой записи .

В кэше с немедленной записью каждое изменение вызывает синхронное обновление данных в основной памяти.

В кэше с отложенной записью (или обратной записью ) обновление происходит в случае вытеснения элемента данных, периодически или по запросу клиента. Для отслеживания модифицированных элементов данных записи кэша хранят признак модификации (изменённый или «грязный» ). Промах в кэше с отложенной записью может потребовать два обращения к основной памяти: первое для записи заменяемых данных из кэша, второе для чтения необходимого элемента данных.

В случае, если данные в основной памяти могут быть изменены независимо от кэша, то запись кэша может стать неактуальной . Протоколы взаимодействия между кэшами, которые сохраняют согласованность данных, называют протоколами когерентности кэша .

Кэш центрального процессора

Ряд моделей центральных процессоров (ЦП) обладают собственным кэшем, для того чтобы минимизировать доступ к оперативной памяти (ОЗУ), которая медленнее, чем регистры . Кэш-память может давать значительный выигрыш в производительности, в случае когда тактовая частота ОЗУ значительно меньше тактовой частоты ЦП. Тактовая частота для кэш-памяти обычно ненамного меньше частоты ЦП.

Уровни кэша

Кэш центрального процессора разделён на несколько уровней. Для универсальных процессоров - до 3. Кэш-память уровня N+1 как правило больше по размеру и медленнее по скорости обращения и передаче данных, чем кэш-память уровня N.

Самой быстрой памятью является кэш первого уровня - L1-cache. По сути, она является неотъемлемой частью процессора, поскольку расположена на одном с ним кристалле и входит в состав функциональных блоков. Состоит из кэша команд и кэша данных. Некоторые процессоры без L1 кэша не могут функционировать. На других его можно отключить, но тогда значительно падает производительность процессора. L1 кэш работает на частоте процессора, и, в общем случае, обращение к нему может производиться каждый такт (зачастую является возможным выполнять даже несколько чтений/записей одновременно). Латентность доступа обычно равна 2−4 тактам ядра. Объём обычно невелик - не более 128 Кбайт.

Вторым по быстродействию является L2-cache - кэш второго уровня. Обычно он расположен либо на кристалле, как и L1, либо в непосредственной близости от ядра, например, в процессорном картридже (только в слотовых процессорах). В старых процессорах - набор микросхем на системной плате. Объём L2 кэша от 128 Кбайт до 1−12 Мбайт. В современных многоядерных процессорах кэш второго уровня, находясь на том же кристалле, является памятью раздельного пользования - при общем объёме кэша в 8 Мбайт на каждое ядро приходится по 2 Мбайта. Обычно латентность L2 кэша, расположенного на кристалле ядра, составляет от 8 до 20 тактов ядра. В отличие от L1 кэша, его отключение может не повлиять на производительность системы. Однако, в задачах, связанных с многочисленными обращениями к ограниченной области памяти, например, СУБД , производительность может упасть в десятки раз.

Кэш третьего уровня наименее быстродействующий и обычно расположен отдельно от ядра ЦП, но он может быть очень внушительного размера - более 32 Мбайт. L3 кэш медленнее предыдущих кэшей, но всё равно значительно быстрее, чем оперативная память. В многопроцессорных системах находится в общем пользовании.

Отключение кэша второго и третьего уровней обычно используется в математических задачах, например, при обсчёте полигонов, когда объём данных меньше размера кэша. В этом случае, можно сразу записать все данные в кэш, а затем производить их обработку.

Ассоциативность кэша

Одна из фундаментальных характеристик кэш-памяти - уровень ассоциативности - отображает её логическую сегментацию. Дело в том, что последовательный перебор всех строк кэша в поисках необходимых данных потребовал бы десятков тактов и свёл бы на нет весь выигрыш от использования встроенной в ЦП памяти. Поэтому ячейки ОЗУ жёстко привязываются к строкам кэш-памяти (в каждой строке могут быть данные из фиксированного набора адресов), что значительно сокращает время поиска. С каждой ячейкой ОЗУ может быть связано более одной строки кэш-памяти: например, n -канальная ассоциативность (англ. n -way set associative ) обозначает, что информация по некоторому адресу оперативной памяти может храниться в n местах кэш-памяти.

При одинаковом объеме кэша схема с большей ассоциативностью будет наименее быстрой, но наиболее эффективной.

Кэширование внешних накопителей

Многие периферийные устройства хранения данных используют кэш для ускорения работы, в частности, жёсткие диски используют кэш-память от 1 до 32 Мбайт (модели с поддержкой одновременно и имеет смысл прочитать блок один раз, затем хранить одну копию блока в оперативной памяти для всех процессов;

  • доступ к некоторым блокам оперативной памяти происходит гораздо чаще, чем к другим, поэтому использование кэширования для таких блоков в целом увеличивает производительность системы;
  • для некоторых блоков памяти внешних накопителей не требуется непосредственной записи после модификации, и использование кэша для таких блоков оптимизирует использование ввода-вывода.
  • Кэширование, выполняемое операционной системой

    Кэш оперативной памяти состоит из следующих элементов:

    1. набор страниц оперативной памяти, разделённых на буферы, равные по длине блоку данных соответствующего устройства внешней памяти;
    2. набор заголовков буферов, описывающих состояние соответствующего буфера;
    3. хеш-таблицы , содержащей соответствие номера блока заголовку;
    4. списки свободных буферов.

    Алгоритм работы кэша с отложенной записью

    Изначально все заголовки буферов помещаются в список свободных буферов. Если процесс намеревается прочитать или модифицировать блок, то он выполняет следующий алгоритм:

    1. пытается найти в хеш-таблице заголовок буфера с заданным номером;
    2. в случае, если полученный буфер занят, ждёт его освобождения;
    3. в случае, если буфер не найден в хеш-таблице, берёт первый буфер из хвоста списка свободных;
    4. в случае, если список свободных буферов пуст, то выполняется алгоритм вытеснения (см. ниже);
    5. в случае, если полученный буфер помечен как «грязный», выполняет асинхронную запись содержимого буфера во внешнюю память.
    6. удаляет буфер из хеш-таблицы, если он был помещён в неё;
    7. помещает буфер в хеш-таблицу с новым номером.

    Процесс читает данные в полученный буфер и освобождает его. В случае модификации процесс перед освобождением помечает буфер как «грязный». При освобождении буфер помещается в голову списка свободных буферов.

    Таким образом:

    1. если процесс прочитал некоторый блок в буфер, то велика вероятность, что другой процесс при чтении этого блока найдёт буфер в оперативной памяти;
    2. запись данных во внешнюю память выполняется только тогда, когда не хватает «чистых» буферов, либо по запросу.

    Алгоритм вытеснения

    Если список свободных буферов пуст, то выполняется алгоритм вытеснения буфера. Алгоритм вытеснения существенно влияет на производительность кэша. Существуют следующие алгоритмы:

    1. LRU (Least Recently Used) - вытесняется буфер, неиспользованный дольше всех;
    2. MRU (Most Recently Used) - вытесняется последний использованный буфер;
    3. LFU (Least Frequently Used) - вытесняется буфер, использованный реже всех;
    4. ARC (англ.) (Adaptive Replacement Cache) - алгоритм вытеснения, комбинирующий LRU и LFU, запатентованный

      Программное кэширование

      Политика записи при кэшировании

      При чтении данных кэш-память даёт однозначный выигрыш в производительности. При записи данных выигрыш можно получить только ценой снижения надёжности. Поэтому в различных приложениях может быть выбрана та или иная политика записи кэш-памяти..

      Существуют две основные политики записи кэш-памяти - сквозная запись (write-through) и отложенная запись (write-back).

      • сквозная запись подразумевает, что при изменении содержимого ячейки памяти, запись происходит синхронно и в кэш и в основную память.
      • отложенная запись подразумевает, что можно отложить момент записи данных в основную память, а записать их только в кэш. При этом данные будут выгружены в оперативную память только в случае обращения к ним какого либо другого устройства (другой ЦП, контроллер DMA) либо нехватки места в кэше для размещения других данных. Производительность, по сравнению со сквозной записью, повышается, но это может поставить под угрозу целостность данных в основной памяти, поскольку программный или аппаратный сбой может привести к тому, что данные так и не будут переписаны из кэша в основную память. Кроме того, в случае кэширования оперативной памяти, когда используются два и более процессоров, нужно обеспечивать согласованность данных в разных кэшах.

      Кэширование интернет-страниц

      В процессе передачи информации по сети может использоваться кэширование интернет-страниц - процесс сохранения часто запрашиваемых документов на (промежуточных) прокси-серверах или машине пользователя, с целью предотвращения их постоянной загрузки с сервера-источника и уменьшения трафика . Таким образом, информация перемещается ближе к пользователю. Управление кэшированием осуществляется при помощи CMS конкретного сайта для снижения нагрузки на сервер при большой посещаемости. Кэширование может производится как в память, так и в файловый кэш (



    Рекомендуем почитать

    Наверх