English (United Kingdom)

https://curated-unify.zendy.io/wp-json/zendy-region/v1/featured_content/oa?rat=en

https://curated-unify.zendy.io/wp-json/zendy-region/v1/highlighted_journal/

Global: Zendy Plus annual

Presents the access of premium content as premium feature

Premium Content

Presents the keyphrase highlighting as premium feature

Keyphrase Highlighting

Presents the summarisation as premium feature

Summarisation

Insights

Presents the pdf analysis as premium feature

PDF Analysis

Presents the zaia usage as premium feature

ZAIA

Global: Zendy Tools annual

Global: Zendy Free Plan

Global: Zendy Tools monthly

Global: Zendy Plus monthly

DVFS (Dynamic Voltage and Frequency Scaling) has been widely used to improve the use of computational resources when running parallel applications. However, parallel applications behave differently and relate in different ways to each DVFS governor. Hence, it is necessary to use optimized methods of DVFS in order to improve the trade-off between performance and energy consumption, represented by EDP (energy-delay product). Given that, through an extensive design space exploration of different DVFS governors, degrees of CPU frequency, and operating mode of boosting techniques with the execution of sixteen parallel applications on three multicore architectures, we propose PampaFreq, a methodology that optimizes EDP on AMD processors considering the characteristics of the application at run time. In the most significant case, PampaFreq optimizes the EDP by 38% when compared to the ondemand DVFS governor. Resumo. O DVFS (Dynamic Voltage and Frequency Scaling) tem sido amplamente utilizado para melhorar o uso dos recursos computacionais quando aplicações paralelas estão sendo executadas. No entanto, as aplicações paralelas têm comportamentos distintos e se relacionam de diferentes maneiras com as polı́ticas de modificação de frequência do DVFS. Neste sentido, é necessário utilizar métodos otimizados de DVFS para melhorar o custo-benefı́cio entre desempenho e consumo de energia, representado pelo EDP (energy-delay product). Dito isso, através de uma extensa exploração de espaço e projeto de diferentes polı́ticas de DVFS, nı́veis de frequência de operação da CPU e modo de operação de técnicas de boosting com a execução de dezesseis aplicações paralelas em três arquiteturas multicore, nós propomos PampaFreq, uma metodologia que otimiza o EDP em processadores AMD considerando as caracterı́sticas da aplicação em tempo de execução. No caso mais significativo, PampaFreq otimiza o EDP em até 38% quando comparado com governor ondemand. 1. Introdução A cada nova geração de sistemas computacionais de alto desempenho (HPC highperformance computing), melhorias significativas são realizadas no hardware e software ∗Este trabalho foi parcialmente financiado pela FAPERGS nos projetos 19/2551-0001224-1 e 19/25510001689-1 e PROBIC-FAPERGS para melhorar o desempenho de aplicações paralelas. No entanto, esta melhoria não pode afetar negativamente a potência consumida pelos componentes de hardware (e.g., CPU, memórias cache e barramentos de comunicação): enquanto os computadores exascale poderão chegar ao consumo de energia correspondente à potência fornecida por uma usina nuclear de médio porte, os processadores de propósito geral têm seu desempenho impactado pelos limites do TDP (thermal design power). Portanto, ao executar aplicações paralelas, o objetivo não é apenas melhorar o desempenho, mas também, fazer isso com o menor consumo de energia possı́vel. Neste sentido, diferentes técnicas têm sido propostas com o objetivo de melhorar o custo benefı́cio entre o desempenho e consumo de energia, representado pela métrica EDP (energy-delay product) [Lorenzon and Beck 2019]. Por um lado, considerando que muitas aplicações paralelas não escalam conforme o número de threads executando a aplicação aumenta, estratégias que ajustam dinamicamente o número de threads conseguem agir no nı́vel de software para otimizar o EDP de tais aplicações sem a necessidade de modificação nas caracterı́sticas do hardware [Lorenzon et al. 2015, Lorenzon et al. 2017]. Por outro lado, dado que componentes de hardware permitem que sua frequência e tensão de operação possam ser alteradas em tempo de execução, Sistemas Operacionais implementam técnicas para a gerência de tais componentes [Sartor et al. 2017]. Uma destas técnicas é amplamente conhecida como DVFS. Um sistema com DVFS ativo tem a habilidade de adaptar a frequência e tensão de operação do processador em tempo de execução de acordo com as caracterı́sticas da aplicação que está sendo executada. Com isso, é possı́vel utilizar o perı́odo que o processador está em idle (e.g., thread aguardando dado da memória ou em sincronização) para obter redução cúbica de potência, uma vez que a tensão tem influência quadrática na potência dinâmica do processador. Portanto, quanto maior for a taxa de comunicação/sincronização de uma aplicação paralela, maior será a possibilidade de otimizar o EDP através do ajuste de frequência e tensão de operação do processador. Neste sentido, o DVFS tem se estabilizado como uma técnica promissora para reduzir o consumo de energia de arquiteturas multicore com o mı́nimo de impacto no desempenho, otimizando assim o EDP da aplicação. Adicionalmente, técnicas chamadas de “boosting” também aplicam DVFS, porém com o objetivo de maximizar o desempenho do processador através do aumento da frequência nominal de operação dentro dos limites do TDP. O princı́pio de funcionamento da técnica se dá da seguinte maneira: dado um TDP, o processador aumenta a frequência de operação de um grupo de núcleos, enquanto que os núcleos restantes executam a uma frequência menor ou são desligados [Charles et al. 2009]. Estas tecnologias têm sido amplamente utilizadas para melhorar o desempenho de aplicações de diferentes domı́nios [Charles et al. 2009, Wamhoff et al. , dos Santos Marques et al. 2017, Marques et al. 2019], que contém fases sequenciais e paralelas. Nas fases sequenciais (e.g., seções crı́ticas), o processador aplica o boosting na frequência deste núcleo enquanto baixa a frequência de operação dos outros que estão esperando. No entanto, enquanto técnicas de boosting podem reduzir o tempo de execução de uma aplicação paralela, o consumo de energia pode não seguir o mesmo comportamento, uma vez que esta técnica aumenta a frequência e tensão de operação do processador. Portanto, neste artigo nós propomos PampaFreq, uma metodologia para otimizar o EDP de aplicações paralelas através do ajuste dinâmico da frequência do processador e do modo de operação de boosting. PampaFreq considera as caracterı́sticas da aplicação (e.g., instruções por ciclo –IPC– e comportamento da memória compartilhada) em tempo de execução para tomar a decisão da frequência ideal e da ativação/desativação das técnicas de boosting. Para mostrar sua eficácia, realizamos uma exploração de espaço e projeto com diferentes governors do DVFS, faixas de frequência de operação do processador e configuração de Turbo Boost em três plataformas multicore (Intel e AMD). Através da execução de dezesseis aplicações paralelas com distintos comportamentos de acesso a memória e utilização do processador, em resumo, as contribuições deste artigo são: • Mostrar que, muito embora o uso da tecnologia de boosting (Turbo Core e Turbo Boost) propicia melhor desempenho, o consumo de energia aumenta de maneira não proporcional, piorando o EDP. • Mostrar que, o governor ondemand não é suficiente para entregar o melhor custobenefı́cio entre desempenho e energia nos processadores AMD devido a quantidade de nı́veis de frequência disponı́vel. • Dada a limitação do governor ondemand nos processadores AMD, PampaFreq é capaz de melhorar o EDP em até 38% quando comparado ao governor ondemand. O restante deste artigo está estruturado como segue. A fundamentação teórica relacionada a DVFS e técnicas de boosting são apresentadas na Seção 2. A metodologia utilizada no desenvolvimento dos experimentos é detalhada na Seção 3. Os resultados experimentais são discutidos na Seção 4 onde também descrevemos a necessidade do PampaFreq. Os trabalhos relacionados em conjunto com as nossas contribuições são descritas na Seção 5. Por fim, as conclusões são destacadas na Seção 6. 2. Fundamentação Teórica: DVFS e Turbo Boost Um sistema DVFS implementa diferentes governors para controlar a frequência do processador. Os principais disponı́veis nos sistemas operacionais atuais incluem: powersave, no qual a frequência é setada para o mı́nimo possı́vel; performance, onde a frequência dos núcleos é configurada para o máximo possı́vel; ondemand, onde a frequência de operação dos núcleos é ajustada de acordo com a carga de trabalho, sendo este, o padrão em muitas distribuições Linux; conservative, similar ao ondemand, porém a mudança da frequência de acordo com a carga de trabalho ocorre de maneira mais conservativa; e userspace, no qual o usuário define a frequência de operação de cada núcleo/processador. Técnicas de boosting podem melhorar o desempenho do processador através do aumento da frequência de operação nominal dentro dos limites do TDP [Branover et al. 2012]. Em arquiteturas modernas, a frequência da CPU e o gerenciamento de potência dos componentes de hardware é controlado pelo ACPI (advanced configuration and power interface) [Haj-Yahya et al. 2018]. Ele define os estados de potência e desempenho (C-states e P-states: C-states são usados para reduzir a potência e, consequentemente, o consumo de energia, através do desligamento de subsistemas; e P-states permitem modificar os pontos de operação de frequência e tensão dos núcleos que estão ativos). A Figura 1 apresenta como os estados de potência e desempenho são definidos. Os C-states básicos definidos pelo ACPI são: C0, onde a CPU/núcleo está ativo e executando instruções; e de C1 até Cn, onde a CPU/núcleo é configurado para reduzir o consumo de energia através do corte do sinal de clock e potência dos núcleos que não estão Energy Consumption Turbo frequency Max operating frequency Energy saving frequency (min V)

PampaFreq: Otimizando o EDP de Aplicações Paralelas em Processadores AMD