Costrure un'app con llama

Together AI , il cloud leader nell'accelerazione dell'intelligenza artificiale, consente agli sviluppatori e alle aziende di progettare, sviluppare e gestire senza problemi l'intero ciclo di vita dell'intelligenza artificiale generativa su modelli open source come Llama .

Per ispirare gli sviluppatori che si basano su Llama, Together AI ha creato l' app LlamaCoder , un'app web open source che consente agli utenti di generare un'app completa a partire da un prompt utilizzando Llama 3.1 405B.

In poco più di un mese dal suo rilascio, Together AI ha un successo virale tra le mani. Più di 2.000 star di GitHub e centinaia di sviluppatori hanno clonato il repository e più di 200.000 app sono state generate usando LlamaCoder.

"Gli sviluppatori lo adorano", afferma Hassan El Mghari, un ingegnere informatico che guida le relazioni con gli sviluppatori presso Together AI. "È stato incredibile vedere le persone generare app di quiz, timer pomodoro, app di budget e altro ancora e farle proprie, semplicemente con prompt. Dimostra davvero la potenza di Llama 3.1 405B".

In questo esempio, Llamacoder sta realizzando un'app per quiz di storia.

Llama 3.1 405B è stato il primo modello open source in grado di funzionare bene in questo specifico caso d'uso di codifica, aggiunge. Together AI ha anche sviluppato una varietà di altre app di esempio che utilizzano Llama 3.1, tra cui LlamaTutor , un'app progettata per aiutare le persone a imparare, e TurboSeek , un motore di ricerca basato sull'intelligenza artificiale.

"I modelli Llama hanno ampliato i confini degli LLM open source, rivaleggiando con i migliori modelli closed source, fornendo al contempo strumenti di sicurezza per uno sviluppo responsabile", afferma El Mghari. Aggiunge che le capacità all'avanguardia di Llama 3.1 405B in termini di conoscenza generale, orientabilità, matematica, utilizzo di strumenti e traduzione multilingue hanno il potenziale per accelerare rapidamente l'adozione da parte di sviluppatori e aziende dell'IA open source.

Ampliamento dei casi d'uso con ogni nuova versione

 Oltre 150.000 sviluppatori e aziende utilizzano la piattaforma Together per un'ampia gamma di casi d'uso, tra cui gaming, servizio clienti, benchmark e riepilogo. Mentre utilizzano la piattaforma Together per alimentare le loro applicazioni di intelligenza artificiale generativa, ogni sviluppatore e azienda mantiene la proprietà dei propri pesi ottimizzati e può scaricarli per altri casi d'uso.

In questo esempio, Llamacoder sta sviluppando un'app per la gestione del budget.

"La nostra visione è quella di portare le innovazioni dalla ricerca alla produzione il più velocemente possibile. Basato sulla nostra ricerca leader nell'ottimizzazione dell'inferenza, Together Inference Engine sfrutta innovazioni tra cui i kernel FlashAttention-3, speculatori personalizzati basati su RedPajama e le tecniche di quantizzazione più accurate disponibili sul mercato", afferma El Mghari. "Questi progressi consentono agli sviluppatori di creare ed eseguire applicazioni di intelligenza artificiale generativa su modelli Llama 3.1 con prestazioni, accuratezza ed efficienza dei costi senza pari su scala di produzione".

Tutto questo è reso possibile adottando un approccio aperto. El Mghari afferma che molte delle aziende che utilizzano Together AI sono passate da provider closed source perché sono ansiose di raccogliere i benefici dell'open source.

"L'intelligenza artificiale open source ha cambiato le regole del gioco per la comunità dell'intelligenza artificiale", afferma. "È nel migliore interesse di tutti gli sviluppatori e porterà al progresso e all'innovazione più rapidi. E oltre a tutto ciò, consente alle organizzazioni di possedere veramente i propri dati, i propri modelli e di avere quella flessibilità completa invece di rimanere bloccate".

0