A Tencent Cloud lança “Modelo como um Serviço” (MaaS) para modelos de linguagem grandes. O serviço é alimentado por uma nova GPU da Nvidia.
O Tencent Cloud MaaS oferece vários modelos de linguagem incorporados que abrangem diferentes setores, como finanças, mídia, turismo ou manufatura, que podem ser especializados ainda mais pelas empresas para seus propósitos. Alternativamente, modelos personalizados podem ser treinados por meio do serviço em nuvem.
A empresa oferece uma variedade de ferramentas, incluindo rotulagem de dados, treinamento, avaliação, teste e ferramentas de implantação de modelo.
A Tencent foi a primeira na China a utilizar as novas GPUs da Nvidia
A empresa está trabalhando com diversos parceiros para construir um ecossistema de modelos de linguagem em chinês e já implantou mais de 50 soluções baseadas em modelos de linguagem em mais de 10 setores, de acordo com Tang Daosheng, vice-presidente executivo sênior da Tencent e chefe do Grupo de Indústrias em Nuvem e Inteligentes.
Serviços semelhantes são oferecidos pela Baidu na China. No entanto, a Tencent foi a primeira empresa chinesa a abrir um cluster de computação de alto desempenho com uma GPU Nvidia H800 em abril. Além da GPU da Nvidia, a Tencent também conta com seus próprios servidores StarLake para seu centro de dados.
Restrições de exportação afetam a indústria de IA da China
Na China, a H800 da Nvidia é o acelerador de IA mais rápido atualmente disponível. No entanto, a H800 é uma versão reduzida da H100 de ponta da Nvidia, que não pode ser vendida na China devido às restrições de exportação dos Estados Unidos impostas pelo CHIPS Act. As restrições afetam as GPUs A100 e H100 da Nvidia, que são usadas para treinamento de IA na maioria dos centros de dados do mundo.
A empresa reduziu a taxa de transferência de dados de chip para chip da A100 de 600GBps para 400GBps e está vendendo o cartão como A800. De acordo com especialistas chineses, para a H800 a taxa de transferência da H100 foi reduzida pela metade, de 600GBps para 300GBps. No treinamento de IA, isso pode fazer uma grande diferença, de modo que empresas com acesso a cartões H100 podem ter uma vantagem sobre as empresas chinesas.
Na China, o Grupo Alibaba, a Baidu e a Tencent escolheram todos os cartões H800 da Nvidia.
Fonte: Andre Lug
