Qualcomm Nuvem AI 100 Plataforma Reclama 10X Eficiência Energética

Não é todo dia que uma grande empresa como a Qualcomm entra em um novo mercado, e podemos olhar para trás até hoje como um ponto de inflexão na corrida armamentista da nuvem em nuvem.

Publicidade

Em sua conferência AI Day em São Francisco, a Qualcomm anunciou não apenas uma nova arquitetura de chip, mas toda uma nova plataforma de centro de dados para computação artificial que tem atenção e suporte de importantes players de data center, como o Facebook ou a Microsoft.

Existem diferentes cargas de trabalho de IA em datacenters, divididas principalmente em Treinamento (aprender novas habilidades) e Inferência (usando habilidades adquiridas). O novo Cloud AI 100 da Qualcomm é um acelerador de inferência que foi projetado explicitamente para fornecer uma eficiência de energia 10 vezes maior do que as soluções implantadas hoje. Embora as GPUs sejam provavelmente melhores no treinamento, pois podem exigir maior precisão (16 ou 32 bits), a Inference pode ser executada com 8 bits ou menos.

A eficiência de energia é definida pela quantidade de cálculos que uma pessoa pode fazer por Watt. de potência, medida em Performance / Watt. Como é possível uma melhora de 10x? Considere isto: a princípio, as redes neurais convolucionais de AI (CNN) eram executadas em CPUs de uso geral com 2-64 núcleos grandes cada.

IMAGEM_2

Em seguida, as GPUs (processadores gráficos) surgiram e eram cerca de 10 vezes mais eficientes em termos de consumo de energia do que os processadores nesse tipo de tarefa. Isso ocorre porque as GPUs possuem nativamente uma arquitetura massivamente paralela com milhares de minúsculos núcleos de computação onde as CPUs têm de 2 a 64 núcleos. No entanto, as arquiteturas das GPUs são projetadas para gráficos, não para IA. Como tal, existem ineficiências inerentes que poderiam ser melhoradas.

A arquitetura de processador de 100 nm AI da Qualcomm traz todos os benefícios de décadas de design de baixo consumo de smartphones em um chip construído a partir do solo. para AI. Ainda não temos as especificações exatas, mas a partir de uma visão de alto nível, parece possível que essa arquitetura possa trazer uma enorme diferença na eficiência de energia.

Se você observar o desempenho comprovado por watt de diferenças entre as plataformas Snapdragon e PC, poderá medir facilmente um múltiplo em eficiência de energia em aplicativos do dia-a-dia. Agora, se você ampliar isso com intensas cargas de trabalho de computação, a diferença aumentará.

No entanto, o hardware não é o único ponto forte da Qualcomm: o chip Cloud AI 100 faz parte de um sistema centralizado em IA mais amplo. esforço que inclui pesquisa de software, bibliotecas e drivers. Para obter um desempenho ainda mais alto, a Qualcomm está criando um conjunto de ferramentas, incluindo compiladores e análises, que podem melhorar a largura de banda compactando CNNs ou calcular mais rapidamente usando aproximação muito precisa (desista de 1% de precisão para atingir um nível de desempenho muito mais alto) .

A Qualcomm apresentou maneiras muito inteligentes de acelerar os cálculos de IA que giram em torno do fato de que a IA oferece muitas oportunidades para otimizações que podem ser encontradas ao analisar cada tipo de rede neural.

Em suma, este é um anúncio empolgante para uma indústria de nuvem que está desesperada para colocar uma tampa no aumento exponencial do consumo de energia relacionado às atividades de IA. Os datacenters têm limitações de espaço e energia, portanto, arquiteturas mais eficientes podem fornecer o alívio necessário a duas das métricas de datacenter mais caras.

O Cloud AI 100 ainda não foi concluído: a Qualcomm começará a amostragem novo produto no final deste ano para uma meta de produção em 2020. É promissor o suficiente para que o Facebook e a Microsoft estivessem no palco para mostrar apoio, pois eles podem se beneficiar imediatamente quando a tecnologia for implantada.

Para a Qualcomm, esse novo mercado oferece Uma oportunidade considerável para alavancar as tecnologias existentes, embora também precise inventar uma nova tecnologia para fazer isso funcionar. Para proteger seus ganhos potenciais, a Qualcomm pode construir uma barreira de entrada ” apoiando uma série de padrões desde o início, o que é difícil de alcançar para uma startup. Finalmente, a escala de fabricação (incluindo economias de escala) ajudará a manter os concorrentes sob controle.

Via: Ubergizmo