Grandes modelos de linguagem na forma de chatbots são essencialmente uma nova interface de computador. O PrivateGPT demonstra como isso pode ser aplicado aos seus dados privados.
Grandes modelos de linguagem de empresas como Microsoft ou OpenAI podem capturar o conteúdo de documentos e torná-lo “conversável”. Ou seja, eles podem ter uma conversa sobre o conteúdo, explicar detalhes ou interpretar afirmações, gerar resumos, inferir novos conteúdos e assim por diante. Isso pode auxiliar em pesquisas e compreensão, e quando funciona de forma confiável, é uma maneira revolucionária de interagir com computadores e conteúdos.
No entanto, há uma ressalva: os chatbots das grandes empresas de tecnologia precisam ler seus documentos. Por motivos de privacidade, você pode querer evitar isso. Uma possível alternativa vem do movimento de código aberto: o PrivateGPT, um chatbot local para documentos.
O PrivateGPT torna os arquivos locais conversáveis
O projeto de código aberto possibilita conversas de chatbot sobre seus arquivos locais. Você pode adicionar arquivos ao sistema e ter conversas sobre o conteúdo deles sem conexão com a internet. Por exemplo, você pode analisar o conteúdo em um diálogo de chatbot enquanto todos os dados são processados localmente. O software atualmente suporta doze formatos de arquivo por meio do LangChain, incluindo PowerPoint, Word, PDF e HTML.
O PrivateGPT utiliza o GPT4ALL, um chatbot local treinado na fórmula Alpaca, que por sua vez é baseada em uma variante LLaMA ajustada com 430.000 saídas turbo do GPT 3.5. Alternativamente, outros modelos de linguagem de código aberto executáveis localmente, como o Camel, podem ser integrados.
Empresas poderiam utilizar um aplicativo como o PrivateGPT para gerenciamento interno de conhecimento, atendimento ao cliente ou até mesmo para criar modelos de comunicação a partir de seus dados sem dar acesso a terceiros.
Todos os arquivos necessários e instruções de instalação do PrivateGPT estão disponíveis no Github. Um tutorial em vídeo sobre a instalação está disponível com Matthew Berman. Além disso, o PrivateGPT-App é uma aplicação web que serve como interface visual para o PrivateGPT.
Fonte: Andre Lug
