Низкое энергопотребление миропроцессоров.

Мотивирующий пример – рынок настольных компьютеров

Процессоры от 8080 до 80486SL в принципе рассеивали корпусом. Малые радиаторы сохранялись на скалярных последних СISC 80486 (без активного охлаждения). Первый «кулер» (активное охлаждение) появился на Pentium-I. Иные процессоры (Pentium-II, Pentium-III, Pentium-4, Athlon, Athlon XP) ставили очередные рекорды в энергопотреблении. Возник рынок устройств, предназначеных для охлаждения и улучшения эргономики (снижения уровня шума), появились водяные системы охлаждения. Существенно увеличились мощности блоков питания (от 200 до 300-400 Ватт). Типичный настольный компьютер превращался в монстра, который просто не вписывался в эргономику дома или квартиры. Новейшие процессоры с повышенной тактовой частотой можно было успешно использовать для отопления небольшого помещения.

С каких-то пор энергопотребление стало выгодным маркетинговым лозунгом (значение которого несколько преувеличивалось, особенно в случае настольных машин). Появилось явное разделение направленности «энергетических» маркетологов на разные сегменты рынка: настольных решений, серверных решений и мобильных решений. Ноутбучные решения: Pentium-M, Celeron-M, Core Duo, Turion, Turion x2, Core Solo, Core 2 Duo. Настольные решения: Athlon-64 Winchester, Venice, Merom.

Самым весомым вкладом стало увеличение срока работы ноутбука от батарей от 2 до 4-х часов. Дальнейшим продвижением в этом направлением стал переход на нормы 28нм, когда с появлением процессоров серии Sandy Bridge потребление системного блока с современным блоком питания 300 Вт составляет всего 50-60 Вт. Перевод серверных процессоров на те же технологические нормы привёл к резкому падению энергопотребления серверных процессоров. Экономические выгоды от перехода на низкопотребляющие процессоры таковы, что гораздо выгоднее приобрести процессор на базе новых технологических норм (22нм, 14нм) и уменьшить мощность системы охлаждения, чем пользоваться старыми серверами.

Однако, только переход на новые производственные нормы (28 и менее нм) не позволяет сам по себе серьёзно сократить энергопотребление процессора. Пример замеров реального потребления системного блока с процессором Sandy Bridge показывает, что при его максимальном термопакете в 65 Вт реальное потребление всего системного блока составляет всего 50-55 Вт. Резкое уменьшение энергопотребления достигается прежде всего за счёт

1) полной ревизии потребления энергии процессором - фактически энергопотребление отдельных блоков регулируется цепями, которые могут как полностью отключать энергию от блока так и регулировать частоту тактового сигнала, поступающего на блок. Таким образом неиспользуемые блоки (векторная обработка, плавающая точка) могут быть выключены полностью;

2) ревизия вспомогательных компонентов - системных шин, уменьшение паразитных токов утечки;

3) оптимизация управления энергии с помощью программных компонент, позволяющих системе переводить процессор в специальные состояния низкого потребеления, например в разы опуская тактовую частоту.

Необходимо понимать, что в случае снижения энергопотребления срабатывает аналог закона Амдала – мы не можем существенно уменьшить энергопотребление системы, уменьшив энергопотребление лишь отдельного компонента… либо же прибегнуть к маркетологической хитрости. С другой стороны без маркетологоческих хитростей ноутбук работает 8 часов без подзарядки, а это практически весь рабочий день.

Серверные решения в комментариях не нуждаются - система охлаждения потребляет больше электроэнергии, чем сам сервер. Простые экономические расчёты, учитывающие только цену потребляемой компьютером электроэнергии показывают, что только снижения энергопотребления в течении двух лет позволяет окупить upgrade системы.

Последний тренд в развитии серверов тех же социальных сетей вообще определяющий - для обработки баз данных и текстовой информации не нужен сложный процессор. Достаточно "серверной" версии ARM - то есть с поддержкой виртуальной памяти, 64-битной адресации, защиты памяти и ЕСС-коррекции ошибок. Это очень серьёзный тренд, размывающий фундамент на котором зиждутся серверные решения - мощные горячие процессоры для серверов больше не нужны.

Мобильный рынок – мотивирующий пример

Эргономика и удобство применения ставят, в том числе, следующие вопросы:

• Какой вес вашего ноутбука? А как насчёт полегче?
• Сколько способен выдержать без подзарядки мобильный телефон?
• Сколько дополнительных батарей и зарядных устройств вы берёте с собой в дорогу?

Параметры энергопотребления устройства диктуются эргономикой.

Кому нужен ноутбук, на котором нельзя работать более 2-х часов? Может ли батарея весить больше чем ноутбук? Мобильное устройство – это комплекс. В определённый момент перед инженерами, пытающимися снизить потребление энергии встаёт вопрос – энергопотребление узла (монитор, винчестер, …) нельзя снизить без существенной деградации его характеристик. Например, в целях уменьшения потребления монитора можно уменьшить диагональ или яркость, но будет ли приятно пользоваться таким устройством.

Цифры

• 1% повышения напряжения и 1% повышения частоты ведёт к повышению рассеиваемой мощности на 3% и производительности 0,66% (0.09 мкм)
• Старый пример: Dual Core при понижении напряжения на 15% и частоты на 15% при увеличении площади кристалла в 2 раза позволяет сохранить энергопотребление на существующем уровне и увеличить производительность «удвоенного» процессора в 2 раза

Современные низкопотребляющие платформы

Доля процессора и электроники в общем мала, часто лимитирующим фактором являются дисплей, графическая подсистема и блок питания.

Рынки встраиваемых систем

Несколько лет назад средний американец сталкивался с 35-40 компьютерными устройствами в день (от гаражного замка до компьютера). Сегодня это количество выросло минимум на 50%.

Каким должно быть автономно работающее устройство?

• Надёжным
• Не требующим частого технического обслуживания
• Не требующим специальных условий (в т.ч. климатических) для установки
• Пожаробезопасным

Какова должна быть схема питания такого устройства?

• Применимость для различных климатических условий (сравним Калифорнию и Восточную Сибирь)
• Гарантированная ёмкость батареи

Что может ожидать устройство от схемы питания?

• Флуктуации напряжения
• Изменение максимального тока на выходе стабилизотора
• Оптимальный потребляемый ток
• Изменение ёмкости элемента питания в зависимости от погодных условий

Технологические моменты

Оптимизация потребления питания

• Доводка архитектур (путём добавления некоторой логики) с целью отключения простаивающих блоков от источников тактирующего сигнала и источников питания
• Введение нескольких режимов останова процессора и внешних устройств
• Снижение рабочей частоты наряду с увеличением вычислительной мощности (например, установка большего количества исполнительных устройств)
• Введение нескольких доменов питания
• Введение нескольких доменов источников опорной частоты и переключение процессора на альтернативные источники в режиме простоя

Архитектурные решения для снижения потребления

• Нетрадиционные архитектуры, конвейеры и исполнительные устройства
• Нетрадиционные схемы организации внутренней памяти
• Специализация архитектур
• Асинхронные вычислительные устройства

Оптимизация (управления питанием)

Проще всего – остановить процессор

• Останов процессора не обозначает, что тактовая частота не подаётся на устройства – они могут работать вхолостую

Введения логики запрещения тактового сигнала: если в некоторый момент (интервал) времени устройство не используется, зачем подавать тактовый сигнал?

• Но: подводка тактового сигнала является нетривиальной задачей, часто схема подводки тактового сигнала представляет собой дерево с дюжиной уровней и с множеством усилителей сигнала – что может давать ощутимые ощутимые сложности при проектировании, так как допуски на точность фазы сигнала относительно небольшие
• Постоянное включение-выключение больших блоков даёт сильные помехи на источник питания, что может сказываться на работе прецизионных внешних устройств
• Асинхронные процессоры не есть панацея – они применимы в относительно простых случаях, о асинхронном Пентиуме-М пока никто не говорит
• Снижение рабочей частоты, мультичастотные логики, снижение напряжения – серьёзная задача для проектировщика микросхем

Оптимизация управления питанием

А если у нас специализированный процессор?

• Несколько доменов питания – например, ряд устройств процессора может быть независим от остальных – пока работает ядро, контроллер дисплея или последовательных интерфейсов может быть отключен – как в статическом режиме (вход питания закорочен на землю), так и в динамическом (управление ИМ контроллера питания). Но: контроллер питания нуждается в управлении и стоит денег
• Управление разными источниками частоты. При соответствующем проектировании логика ядра может работать в широком диапазоне частот (от сотен герц до сотен мегагерц). В зависимости от режима можно иметь несколько источников тактового сигнала:
• Дежурный таймер – от 8 до 32 кГц, от кварцевого резонатора – для режимов «беспокойного сна»
• RC-цепочка низкой точности (от 500 Гц до нескольких МГц) – для «рабочих» режимов, когда точность часов не имеет особого значения
• PLL-генератор – умножитель частоты, требуется для активного режима работы процессора (50 Мгц и выше), имеет свой отдельный домен питания
• Наличие нескольких режимов останова процессора, отличающихся временем отклика на прерывание – чем больше время отклика, тем глубже потребление в режиме сна
• Программируемое напряжение питания

Архитектурные решения

• Нетрадиционные решения (специализированные процессоры, систолические массивы, заказные ИМ) приводят к серьёзному снижению потребления (за счёт устранения накладных расходов и, часто, применения потоковых алгоритмов), но при этом теряется гибкость архитектуры: потребление ниже, скорость выше – гибкость ниже, стоимость выше
• Организация внутренней памяти вычислительных систем
• Кеш – иногда самое холодное место (в П4 по сравнению со всем остальным), а иногда достаточно горячее
• Специализированная (буферная) память
• Отказ от лишних ячеек памяти
• Распределение тепловыделения – разделение большого потенциально горячего участка (повышение температуры на несколько градусов часто снижает срок службы аппаратуры вдвое) на более мелкие зоны (например, при конвейеризации) с целью распределения точечного тепловыделения
• Асинхронная логика – тактовая частота отсутствует, но есть сложность синхронизации внутри и вне чипа

Модель тепловыделения для CMOS процесса

Способы борьбы

• Выбор между динамической и статической логикой
• Статическая логика подразумевает подавление ложных изменений сигнала, связанных с нестабильностью комбинационных схем, продуцирующих резутальтат (pt – меньше)
• Улучшение технологического процесса с целью уменьшения тока КЗ, уменьшения паразитных емкостей
• Вероятностная компоновка комбинационных схем, позволяющая блокировать излишние переключения логики на ранних этапах
• Введение режимов отключения питания
• Улучшение режимов передачи данных по проводникам с помощью оптимизации выбора передающей логики
• Уменьшение питающего напряжения

• Приводит к увеличению задержки переключения транзисторов

Типичный сумматор в CMOS-логике

Как достичь 100000 МФлопс?

Примем, что у нас существует регистровый файл (РФ) с N регистрами

• Площадь файла на кристалле растёт как N3
• Время задержки растёт как N(3/2)
• Энергопотребление растёт как N3
• Для технологии 0.18 мкм при подключении к РФ 7 и более арифметико-логических устройств (АЛУ), площадь кристалла, занимаемая РФ, становится больше, чем суммарная площадь АЛУ (в случае, если скорость доступа к РФ и скорость доступа к кеш-памяти 1-го уровня отличаются не более чем на такт), время доступа к регистровому файлу начинает превышать время операции умножения чисел с плавающей точкой при подключении более чем 58 АЛУ (вполне реальная цифра), рассеянная энергия РФ начинает превышать рассеянную энергию умножителя для чисел с плавающей точкой при количестве подключённых АЛУ более 8.

(В случае отличия скорости доступа на несколько тактов, эти цифры равны соответственно 1 (т.е. доминирование по площади всегда), 22 и 2).

• Что делать с регистровым файлом?

Организация регистрового файла

Трансформации:

• SIMD – регистровый файл (одна операция исполняется над многими данными)
• DRF – распределённый по функциональным устройствам (ФУ) регистровый файл
• Иерархический – с разделением регистров, работающих с ФУ от регистров, работающих с памятью
• Потоковый – позволяющий работать с длительным потоком данных, над которых производится серия операций

Регистровый файл включает

• Ячейки хранения (собственно, регистры, файл)
• Коммутатор

Простой файл

Иерархический файл

Потоковый файл

Схема и размещение регистровой ячейки

• R – количество регистров,
• b – длина регистра в битах
• h – высота регистровой ячейки без портов в единицах сетки проводников
• w – высота регистровой ячейки без портов в единицах сетки проводников
• p – количество портов регистрового файла

Централизованный регистровый файл

РФ с большим количеством портов растёт в размере как Rp2.

Один регистровый файл и N ФУ требует r регистров для обслуживания одного АЛУ и pe+3 портов (два порта на чтение и 1 на запись).

R=rN, p = (pe+3)N; Rp2 ~ N3

(pe – количество портов, соединённых с памятью, кеш-памятью, forwarding-логикой)

Организация распределённого РФ (экстремальная версия)

Локальный регистровый файл имеет один порт записи, один порт чтения, содержит r/2 регистров. Необходимо подключить: N арифметико-логических устройств, peN внешних портов и 2N распределённых РФ. Для большого количества АЛУ имеет смысл организовать их в двухмерный массив и использовать двухуровневый коммутатор (см. рис.)

Каждая строка АЛУ подключается к N1/2 b-битовых шин для передачи результатов к столбцам, и каждый столбец АЛУ требует 2N1/2 b-битовых шин для передачи как минимиум одного значения к каждому и распределённых РФ в этой строке. Так же необходимо наличие дополнительных peN шин данных для подключения дополнительных портов. Как правило, площадь переключателя превышает площадь распределённого РФ.

Задержки

Задержки распространения по линиям связи

• Задержка - минимальное время распространения сигнала по линии связи
• Подразумевает оптимальное расположение повторителей
• Растёт линейно с длиной проводника
• В основном значительны для РФ с большим количеством портов

Задержки включения и выключения вентилей

• В основном значительны для РФ с малым количеством портов

Задержка включения/выключения для централизованного РФ превышает задержку распространения при поддержке более чем 10 АЛУ (0.18 мкм), общая задержка растёт пропорционально N3/2

Для распределённого РФ задержка обычно постоянна (2-х портовые файлы), но задержка коммутатора растёт линейно с числом N и превышает время доступа в регистровый файл при подключении более 35 АЛУ

Рассеиваемая мощность

Пропорциональная ёмкости переключающихся элементов. Для централизованного РФ с большим количеством портов – это ёмкость линий проводников. Для количества битовых линий (bR)1/2, которые соединяют (pR)1/2 регистровых ячеек, результирующая ёмкость пропорциональна bR(h+p)Cw

Рассеивание энергии на линиях портов пропорционально p2R.

Общая рассеиваемая энергия растёт пропорционально N3.

Для РФ с малым количеством портов – это ёмкость переключающихся транзисторов. Пропорциональна bRCbit.

Оптимизации, связанные с уменьшением длины проводников и иерархическими внутренними структурами (технологические) обычно уменьшают рассеиваемую мощность на некоторую константу.

Для распределённого РФ

Каждый 2-портовый РФ рассеивает постоянную мощность. Но линии связи рассеивают пропорционально N2, их рассеивание становится определяющим при подключении более чем 20 АЛУ. Общая рассеиваемая мощностью растёт как N2.

Централизованный РФ

Количество регистров растёт пропорционально количеству АЛУ. R = (ra+rmT)N, каждое АЛУ требует ra регистров для входных и выходных операндов и rm регистров для сокрытия времени доступа к памяти T.

Количество портов для доступа к АЛУ p=(M+3)N – M портов в память и 3 для получения/передачи данных к каждому АЛУ.

Площадь регистрового файла

поэтому отношение площадей РФ к АЛУ растёт как N3.

Времена задержки – в основном, это время задержки распространения сигнала

задержка централизованного РФ растёт пропорционально N3/2.

Рассеянная мощность – в основном из-за большой ёмкости проводников

поэтому превышение рассеянной мощности в АЛУ и ФУ над рассеянной мощностью в ФУ растёт пропорционально N2.

Централизованный РФ

T – время доступа в память (1 и 40).

Рост площади

Рост задержки (такты)

Рост потребляемой мощности

РФ типа SIMD, распределённые РФ

SIMD-регистр поделен на С кластеров, в каждом N/C АЛУ, отношение площади АЛУ к к площади ФУ растёт как N2/C2.

Распределённый РФ растёт по площади пропорционально N2 – в основном, из-за коммутатора, площадь же самим регистров растёт линейно от N.

Рост площади

Рост задержки (такты)

Рост потребляемой мощности

Иерархический РФ

Рост размера РФ связан с временем доступа в память: rmT регистров для поддержки АЛУ, но количество регистров для операций с АЛУ постоянно – ra. В иерархическом РФ сам РФ разбит на большой суб-РФ с несколькими портами для операций с памятью и временного хранения значений, и меньший РФ с большим количеством портов для подключения АЛУ (например, Крей).

Таким образом площадь регистрового файла вместо получается равной но: существуют дополнительные порты (количеством GN) для соединения обоих файлов, что даёт окончательную площадь но даже в этом случае итоговая площадь гораздо меньше, чем площадь соответствующего централизованного РФ (см. далее).

Иерархическая организация РФ комбинируется с распределёнными реализациями и SIMD-реализациями РФ

Иерархический РФ

Сравнение площадей

Сравнение задержек

Потоковый РФ

Буфер для потоковых вычислений, скрадывающий время доступа к памяти.

Каждый буфер включает rsW регистров, rs – объём буферирования для скрадывания времени доступа в память, W – ширина доступа в РФ.

Один порт потокового РФ должен иметь такую же пропускную способность, как все порты иерархического РФ, поэтому W=(G+M)N, что позволяет уменьшить размер коммутатора, изначально растущий как N2.

Площадь потокового буфера растёт пропорционально N2, и в большинстве случаев гораздо больше площади коммутатора, уменьшение объёма коммутатора способствует некоторому уменьшению времени доступа в буфер.

Потоковый РФ

Сравнение площадей в разных РФ

Сравнение задержки в разных РФ

Рассеянная мощность в разных РФ

Некоторые примеры экономичных архитектур

Atmel SmartARM (ARM7TDMI) - старая базовая модель

• Короткий конвейер (5 Ступеней)
• 32-битовое ядро
• 3 частотных домена:
• 500 Гц – спящий режим
• 3-16 МГц – экономичные режимы
• 48-55 Мгц – высокопроизводительный режим (PLL)
• Рынок: встроенные применения
• Несколько модельных рядов: минимальный (только Flash и SRAM), с дополнительными опциями (USB, контроллер DRAM, CAN), существуют SoC.
• 64-256 Кбт Flash, 16-64 Кбт SRAM
• От 2-х до 5 доменов питания
• Потребление ядра 160 мкА/МГц

ARM Cortex-M0 - современная сверхнизкопотребляющая модель

• Короткий конвейер (3 Ступени)
• система команд Thumb/Thumb-2, умножитель 32 на 32, 32 битная обработка
• несколько частотных доменов
• Рынок: встроенные применения
• Несколько модельных рядов: минимальный (только Flash и SRAM), с дополнительными опциями (USB, контроллер DRAM, CAN), существуют SoC.
• 64-256 Кбт Flash, 16-64 Кбт SRAM
• От 2-х до 5 доменов питания
• Потребление ядра 16 мкА/МГц - в 10 менее чем предыдущий пример
• Интегрируется в SoC массировано - как выделенные ядра для задач обслуживания периферии.

MSP430 (Texas Instruments)

• RISC-подобная система команд, короткий конвейер
• 16-битовое ядро
• 3 частотных домена:
• 32 кГц – режим сна
• 800 кГц – 4 МГц – основной режим
• До 16МГц – высокопроизводительный режим
• Рынок: встраиваемые применения
• Несколько модельных рядов: с минимальным набором компонент (обязательно Flash и SRAM), USB, CAN, …
• До 128 Кбайт Flash, до 40 Кбайт SRAM
• 2-4 домена питания (нет PLL)
• Потребление ядра 120 мкА/МГц

К сведению: формулы для площади, задержки и мощности

Справочные материалы – формулы для различных организаций РФ

Справочные материалы - параметры

Спасибо за внимание!