Nova ferramenta da NVIDIA,
Chat with RTX
, opera como chatbot com IA estilo ChatGPT em sistemas com placas RTX 3000, utilizando dados locais e offline.
A empresa NVIDIA anunciou o lançamento do ‘Chat With RTX’ nesta terça-feira (13), uma ferramenta revolucionária que traz um chatbot local no estilo ChatGPT para os sistemas que possuem as placas GeForce RTX 3000 ou superiores, proporcionando uma experiência única.
Com o lançamento do ‘Chat With RTX’, a Nvidia está mais uma vez na vanguarda da tecnologia, oferecendo aos usuários a oportunidade de utilizar um chatbot local incrivelmente avançado, desenvolvido especialmente para as placas GeForce RTX. Com a utilização dessa ferramenta, os usuários poderão desfrutar de uma interação aprimorada com o sistema, elevando a experiência ao próximo nível.
Converse com RTX: Apresentação do ChatGPT local
Ainda em uma fase inicial de demonstração técnica, o ‘Chat With RTX’ (Converse com RTX) está agora acessível para download e é uma das primeiras ferramentas locais de chatbot lançadas para o consumidor doméstico. A iniciativa está alinhada com o RTX Remix e NVIDIA TensorRT que buscam implementar soluções de software gratuitas — e em alguns casos de código aberto — para desbloquear o poder da IA local em todos os produtos com núcleos Tensor.
Leia também,pode ser do seu interesse:
- Nvidia | IA é o próximo ponto de inflexão da indústria de games
- Era da IA nos PCs | As projeções da Intel para 2024 e além
Esta estratégia sugere que a NVIDIA está concentrada em oferecer cada vez mais soluções locais de IA como resposta à estratégia de mercado adotada pela Intel com os processadores Intel Core Ultra com NPU e aceleradores de IA embarcados. A ênfase na NVIDIA mostra a importância do foco em Nvidia IA para a empresa.
Inteligência Artificial com placas GeForce RTX 3000
De forma geral, soluções online como o Gemini (antigo Bard), da Google, o Copilot, da Microsoft e o próprio ChatGPT se baseiam em modelos abertos com dados disponíveis na internet para criar as interações com os usuários. O uso das placas GeForce RTX e a presença da tecnologia NVIDIA nessas soluções é um indicativo do avanço na aplicação de IA local nas mais diversas áreas.
O ‘Chat With RTX’ pode oferecer benefícios significativos para criadores de conteúdo e profissionais autônomos. Por exemplo, um youtuber poderia buscar em qual momento de um vídeo ele falou sobre seu personagem gratuito favorito de Genshin para criar cortes pontuais, por meio de interações com o software. No entanto, ainda há limitações com relação ao uso de bibliotecas locais, que a NVIDIA busca solucionar.
Expansão do Chat With RTX e modelos LLM
Ao testar a ferramenta, foi possível inserir pastas inteiras com arquivos de texto para criar um banco de dados unificado. Ao realizar a pergunta — inclusive em português —, a plataforma realiza a busca das informações entre os documentos em extensões DOC/DOCX, TXT e PDF, e gera respostas em inglês. O desenvolvimento dos modelos LLM e o foco em soluções locais de IA são evidenciados com a inclusão dos modelos reduzidos do Mistral, Llama 2, TensorRT-LLM e a ferramenta de Geração Aumentada de Recuperação (RAG), destacando o comprometimento da NVIDIA com essas inovações.
Neste momento, o ‘Chat With RTX’, em versão 0.2, já inclui os modelos reduzidos do Mistral, Llama 2, TensorRT-LLM e a ferramenta de Geração Aumentada de Recuperação (RAG). Isso demonstra o avanço da tecnologia NVIDIA e sua presença nas mais recentes inovações em IA local.
Requisitos da instalação e potenciais futuros
O novo chatbot da NVIDIA ainda está em uma fase inicial, mas sinaliza uma evolução significativa na aplicação da IA local com a plataforma ‘Chat With RTX’. Vale mencionar que ele exige no mínimo uma placa de vídeo GeForce RTX 3000, o que ressalta a importância da NVIDIA neste contexto específico. Além disso, a ferramenta é extremamente pesada, com mais de 35 GB de download, e deve ser descompactada antes da instalação, características que devem ser levadas em consideração pelo usuário.
Apesar das limitações atuais, é provável que novas funcionalidades sejam introduzidas futuramente, permitindo a criação de assistentes virtuais personalizados. A presença da tecnologia Nvidia e os avanços da IA local evidenciam um futuro promissor para soluções de chatbots e assistentes virtuais.
Fonte: © CanalTec
