Dovresti iniziare ad usare Pi Agent
Pi Agent è un harness IA minimale che ti semplificherà la vita e ti farà risparmiare denaro
LLM e Prompt Engineering
11 post
Compressione di modelli Transformer: guida completa a pruning, quantizzazione e distillazione
Scopri le tecniche più efficaci per comprimere modelli di machine learning: pruning, quantizzazione, knowledge distillation e altro. Guida completa con esempi pratici, vantaggi e trade-off per ottimizzare latenza, memoria e throughput in produzione.
Guidare la risposta di un LLM per output strutturato
Impara come strutturare la risposta di un modello linguistico per assicurare che il formato di risposta sia rispettato, come JSON
Estrarre qualsiasi entità da testo con GLiNER
GLiNER è un modello NER in grado di identificare qualsiasi tipo di entità utilizzando un codificatore di trasformatore bidirezionale (simile a BERT) che supera ChatGPT e altri LLM in task di classificazione dei token zero-shot
Come usare LLM in locale con ollama e Python
Scopri come eseguire modelli linguistici di grandi dimensioni (LLM) in locale su Windows, Mac o Linux con Ollama e Python, sfruttando il supporto GPU per prestazioni ottimali. Guida completa all'installazione e utilizzo
Oltre la RAG: GPT-4 e database vettoriali per la creazione di mappe mentali
Progetto che usa GPT-4 (o qualsiasi altro LLM), un database vettoriale e Streamlit per navigare una base di conoscenza ampia e creare mappe mentali da essa per una migliore fruizione delle informazioni
Prompt Injection: una Sfida Irrisolta negli LLM
La prompt injection è una forma di attacco cibernetico che comporta la manipolazione delle risposte di un LLM attraverso l'inserimento di istruzioni malevole nei prompt e presenta sfide uniche che richiedono contromisure specifiche
Cosa è ChatGPT - Approfondimento Tecnico e Consigli all'Utilizzo
La sua genesi e la descrizione del suo funzionamento dal punto di vista tecnico. Sfide legate all'utilizzo degli LLM e prospettive future nel settore.
Creare un Chatbot in Python con LangChain e RAG
Impara a creare un Chatbot in Python con LangChain e RAG, è una tecnica che permette di migliorare la qualità della risposta degli LLM utilizzando un archivio dati esterno