Há mais no bate-papo do que apenas perguntas e respostas, já que Vectara lança novo módulo de bate-papo com tecnologia RAG

Nos últimos tempos, a proliferação de chatbots atingiu níveis sem precedentes no domínio da inteligência artificial generativa-no entanto, resta saber se estes avanços tecnológicos se traduziram numa melhoria correspondente na sua utilidade e precisão.

O construtor de plataforma Gen AI Vectara lançou hoje um novo módulo para sua plataforma que visa ajudar as empresas a construir e implantar chatbots altamente precisos. A plataforma da Vectara adota uma abordagem de geração aumentada de recuperação (RAG) com seus embeddings de vetores Boomerang para fornecer as informações mais atualizadas e reduzir o risco de alucinações. A Vectara emergiu do sigilo pela primeira vez em outubro de 2022 e tem aumentado gradativamente os recursos de sua plataforma para atender aos requisitos do usuário. A adição de um módulo de chat amplia ainda mais a plataforma.

Em nossa empresa, utilizamos uma tecnologia de ponta conhecida como Rapid Automatic Generation (RAG) para potencializar nossa função de chat. Este avançado sistema é responsável por gerar as respostas fornecidas pelo nosso assistente virtual, que são derivadas diretamente dos próprios documentos do usuário. Ao contrário de outros serviços automatizados que simplesmente fornecem respostas pré-programadas, nosso recurso de chat aproveita os recursos do RAG para fornecer respostas personalizadas e personalizadas com base nas informações exclusivas contidas nos arquivos de cada usuário.

Um chatbot moderno é mais do que perguntas e respostas, é uma IA conversacional

O novo módulo Vectara Chat diverge dos esforços anteriores da empresa em termos de escopo e durabilidade, conforme articulado por Amr Awadallah, um dos executivos fundadores e CEOs da Vectara. Sua afirmação ressalta a importância dessas distinções na definição da trajetória futura da organização.

No passado, a função principal da nossa interface de programação de aplicações (API) centrava-se em responder às perguntas colocadas pelos utilizadores, como evidenciado pela declaração de Nayeem Awadallah a esta publicação.

As limitações anteriores da abordagem de sessão sem estado do Vectara impediam que os usuários fizessem perguntas de acompanhamento sem repetir a consulta inicial. No entanto, este problema está sendo resolvido através da implementação de um recurso de memória persistente no módulo Vectara Chat, que permite uma conversa com estado e elimina a necessidade de consultas redundantes.

Nossa recente adição à API permite a preservação de todas as conversas dentro de seu histórico, eliminando assim a necessidade de questionamentos repetitivos ou referência a declarações anteriores.

Vectara oferece uma interface amigável por meio de sua API e widgets simples, permitindo integração e utilização perfeita do recurso de chat pelas organizações. O processo de implementação é simples, exigindo apenas um mínimo de código JavaScript e HTML para incorporar o widget de bate-papo em sites ou aplicativos.

Avançando ainda mais, o Sr. Shafaat mencionou sua intenção de aumentar o Vectara Chat com recursos adicionais de gerenciamento empresarial. Para ilustrar, um proprietário cuja clientela utiliza a função de chat teria a capacidade de examinar conversas anteriores entre clientes e funcionários de uma maneira que elucidasse suas emoções e dúvidas. Além disso, os usuários podem realizar consultas baseadas em RAG (Red, Amber, Green) no módulo Vectara Chat para uma compreensão mais profunda das interações do usuário dentro da plataforma.

Reduzindo alucinações e preconceitos na geração AI

A principal apreensão em relação à utilização da inteligência artificial geral (gen AI) dentro de um contexto empresarial diz respeito ao potencial de informações errôneas ou interpretações errôneas, comumente referidas como “alucinação”. Para mitigar esse problema e garantir respostas precisas do nosso módulo de chat, estamos empregando uma variedade de estratégias conhecidas coletivamente como metodologia de Redução de Generalidade Artificial (RAG).

Awadallah destacou a vantagem do método Vectara, que oferece a possibilidade de fornecer justificativas junto com referências para aumentar a precisão. Além disso, incorpora técnicas para minimizar preconceitos, empregando uma estratégia inovadora denominada “relevância marginal máxima” desenvolvida pela própria empresa.

O orador enfatizou que, ao aderir ao princípio da relevância marginal máxima, o motor de busca é capaz de apresentar uma gama mais ampla de resultados em resposta às consultas dos utilizadores, aumentando assim a variedade global e o âmbito da informação recuperada.

Nos casos em que há desacordo relativamente a uma questão específica e não existe nenhum método fiável para recuperar todas as perspetivas, o sistema pode produzir um resultado inerentemente distorcido devido à sua incapacidade de capturar de forma abrangente a diversidade de pontos de vista presentes num determinado domínio.

Awadallah enfatizou a importância de considerar múltiplas perspectivas, incluindo aquelas que podem ser menos relevantes, além da perspectiva principal ao avaliar uma situação ou tópico.

*️⃣ Link da fonte:

Vectara ,