Como informamos anteriormente, os CIOs empresariais estão desacelerando a IA generativa. Um dos motivos é que a IA não se enquadra nos processos de engenharia de software existentes porque literalmente não fala a mesma língua. Por exemplo, LLMs (também conhecidos como modelos de linguagem grande) exigem muita persuasão para entregar JSON válido.
Foi para lá que a startup dos EUA ligou Pontotxt vem com a promessa de que “fará a inteligência artificial falar com um computador”. A empresa é liderada pela equipe por trás do projeto de fornecimento aberto Diretrizesisso ajuda os desenvolvedores a obter o que precisam do ChatGPT e de outros modelos generativos de IA sem ter que recorrer a táticas grosseiras, como injetar chantagem emocional em uma dica de ferramenta (“escreva o código ou o gatinho vai entender!”).
Bibliotecas de software como Outlines, biblioteca Python, Steering da Microsoft ou LMQL (também conhecida como Language Mannequin Question Language) permitem que o LLM seja conduzido de uma maneira mais sofisticada do que um simples hacking rápido – usando uma abordagem conhecida como geração estruturada (ou às vezes fabricação limitada).
Como o nome sugere, esta técnica concentra-se mais na saída do LLM do que na entrada. Em outras palavras, trata-se de informar modelos de IA Como para responder, diz o CEO da Dottxt, Rémi Louf.
Essa abordagem “permite um retorno aos fluxos de trabalho de engenharia tradicionais”, disse ele ao TechCrunch. “Você refina sua gramática até acertar.”
O objetivo da Dottxt é construir uma solução de geração estruturada poderosa que seja independente de modelo e ofereça mais recursos – e, afirma, melhor desempenho – do que o projeto de código aberto (Outlines) do qual nasceu.
Louf, um francês com doutorado e vários diplomas de pesquisa, tem experiência em estatística bayesiana – assim como vários outros membros da equipe Dottxt. Esta base na teoria das probabilidades provavelmente abriu os olhos para o potencial da geração estrutural. O conhecimento de TI além da IA também desempenhou um papel na decisão de construir uma empresa focada em ajudar outros a colocar a IA generativa em uso útil.
A referência de Louf à gramática não é acidental. Dottxt baseia-se na suposição de que a maior parte do texto com o qual interagimos é fortemente estruturado. É claro que existe código, mas também existem muitos outros modelos que os gerentes de LLM devem ser capazes de usar para serem realmente úteis em seu ambiente de trabalho.
O criador do GPT, OpenAI, introduziu recentemente uma forma de geração estruturada que chama de Resultados Estruturados – e é isso ele assentiu para Contornos para “inspiração”.
Enquanto isso, Louf vê a popularidade do Outlines como um sinal da necessidade de uma abordagem diferente e flexível, com mais recursos. Os investidores parecem concordar: a Dottxt arrecadou US$ 11,9 milhões em questão de meses.
A startup levantou uma rodada pré-semente no valor de US$ 3,2 milhões em 2023, liderada pela empresa de capital de risco de tecnologia profunda Elaia, e depois em agosto deste ano. houve uma rodada inicial no valor de US$ 8,7 milhões liderada pela EQT Ventures. Durante o intervalo, Louf e seus cofundadores se concentraram em trabalhar para provar que sua abordagem não impactava o desempenho. Durante esse período, a demanda por Outlines de fornecimento aberto explodiu; eles afirmam que ele foi baixado mais de 2,5 milhões de vezes, o que os encorajou a pensar grande.
Angariar mais fundos fazia sentido por outro motivo: os cofundadores da Dottxt já sabiam que queriam usar o dinheiro para contratar mais pessoas para satisfazer a crescente procura de ferramentas de geração estruturadas. A equipe totalmente remota da startup contará com 17 pessoas no final do mês, ante oito em junho, segundo Louf.
As novas contratações incluem dois especialistas em DevRel (relações com desenvolvedores), refletindo a prioridade da Dottxt na construção do ecossistema. “Nossa meta para os próximos 18 meses é acelerar a implantação além da adoção comercial”, disse Louf. No entanto, disse também que a comercialização deverá começar nos próximos seis meses e terá como foco clientes empresariais.
Esta pode ser uma abordagem potencialmente arriscada se o burburinho sobre IA diminuir no momento em que Dottxt buscar mais financiamento. No entanto, a startup está convencida de que existe uma substância por trás da bolha; é o que ele espera para ajudar as empresas a desbloquear o valor real da inteligência artificial.
Hugging Face CTO Julien Chaumond, investidor em Dottxt, recentemente nomeado geração estrutural “o futuro do LLM” Portanto, o entusiasmo da mídia também se estende a este segmento da pilha de tecnologia GenAI.
Dados outros factores facilitadores, como os agentes de IA e o desenvolvimento de modelos de IA mais pequenos, a aposta da Dottxt na adopção poderia valer a pena. “Daqui a alguns anos todos estarão utilizando a geração estruturada, não há dúvida disso”, previu Louf.