Nilesh guida l'ingegneria per Inferless, una piattaforma serverless con stato costruita da zero per aiutare gli sviluppatori a deployare modelli personalizzati e open source con bassi tempi di avvio a freddo e un'efficiente scalabilità automatica. Ha aiutato centinaia di aziende a ottimizzare la loro infrastruttura cloud; ha sviluppato una piattaforma di automazione degli annunci basata su machine learning mentre era in Amazon; e ha pubblicato un brevetto sull'uso della containerizzazione delle applicazioni e diversi altri sull'analisi del codice.
L'esperienza di Nilesh si concentra sull'infrastruttura di machine learning, Kubernetes, ingegneria, infrastruttura AI, deployment di modelli AI, osservabilità e deployment di agenti AI. Ha conseguito una Laurea in Tecnologia in Ingegneria del Software presso il Delhi College of Engineering.
In questo episodio, il Dr. Darren dialoga in una conversazione stimolante con Nilesh Agarwar, co-fondatore e CTO di InfraLess. Nilesh esplora l'evoluzione dell'AI e il ruolo cruciale della gestione dei dati nell'attuale panorama. Sottolinea le sfide che le organizzazioni devono affrontare in termini di sicurezza dei dati, efficienza e necessità di architetture dati innovative. La discussione esplora anche l'importanza del computing edge, il potenziale dei modelli AI ibridi e l'emergere di hardware specializzato per soddisfare le esigenze in evoluzione delle applicazioni AI. Nilesh enfatizza l'importanza di integrare l'AI nei pipeline di dati per migliorare l'accesso e la sicurezza dei dati, affrontando le complessità di gestire più modelli e garantire l'uso efficiente delle risorse informatiche. ## Conclusioni * L'AI ha spostato l'attenzione dalla computazione alla gestione dei dati. * L'efficienza dei dati è cruciale per un addestramento efficace dei modelli. * Le organizzazioni sono sempre più preoccupate per la sicurezza dei dati. * I data warehouse sono spesso inadeguati per le esigenze dati moderne. * Nuove architetture, come i database a vettori, stanno emergendo. * L'AI può migliorare l'accesso ai dati attraverso query in linguaggio naturale. * I modelli ibridi domineranno il futuro dell'AI. * Il computing edge è essenziale per applicazioni in tempo reale. * L'hardware specializzato diventerà sempre più prevalente nell'AI. * La pulizia dei dati è cruciale per prevenire la fuga di PII.