Credito: tempo dei sogni

Microsoft con la sua libreria TypeChat sta cercando di consentire un facile sviluppo di interfacce in linguaggio naturale per Modelli linguistici di grandi dimensioni (LLM) utilizzando i tipi.

disponibile su github, Digita chat È una libreria open source utilizzata dattiloscritto E Intelligenza artificiale generativa Per associare il linguaggio naturale, lo schema dell’applicazione e le API. TypeChat usa le definizioni del tipo nella tua applicazione per recuperare risposte AI strutturate che sono indipendenti dai tipi.

È stato presentato il 20 luglio da una squadra che comprende Cattivo # E dattiloscritto Lo sviluppatore principale Anders Hejlsberg, un tecnico di Microsoft, TypeChat affronta la difficoltà di sviluppare interfacce in linguaggio naturale, in cui le applicazioni si basano su alberi decisionali complessi per definire l’intento e raccogliere l’input necessario per agire.

I creatori di TypeChat hanno affermato che TypeChat sostituisce l’ingegneria rapida con l’ingegneria schematica. Gli sviluppatori possono specificare quali tipi rappresentano le destinazioni supportate in un’applicazione in linguaggio naturale. Questo potrebbe essere semplice come un’interfaccia per classificare le emozioni o più complesso, come i tipi di carrello della spesa o un’app musicale.

Dopo che lo sviluppatore ha definito i tipi, TypeChat crea una direttiva per LLM utilizzando tali tipi e verifica che la risposta LLM corrisponda allo schema. Se la convalida fallisce, viene utilizzata un’ulteriore interazione del modello linguistico per correggere l’output non conforme. TypeChat astrae anche l’istanza e afferma che corrisponde all’intento dell’utente.