Nilesh dirige l'ingénierie pour Inferless, une plateforme sans état et sans serveur construite de zéro pour aider les développeurs à déployer des modèles personnalisés et open source avec des temps de démarrage à froid faibles et un autoscaling efficace. Il a aidé des centaines d'entreprises à optimiser leur infrastructure cloud ; développé une plateforme d'automatisation des publicités basée sur l'apprentissage automatique pendant son temps chez Amazon ; et a publié un brevet sur l'utilisation de la conteneurisation des applications ainsi que plusieurs autres sur l'analyse de code.
L'expertise de Nilesh réside dans l'infrastructure d'apprentissage automatique, Kubernetes, l'ingénierie, l'infrastructure AI, le déploiement de modèles AI et l'observabilité, ainsi que le déploiement d'agents AI. Il est titulaire d'un Bachelor of Technology en ingénierie logicielle informatique du Delhi College of Engineering.
Dans cet épisode, le Dr Darren engage une conversation stimulante avec Nilesh Agarwar, cofondateur et CTO d'InfraLess. Nilesh explore l'évolution de l'IA et le rôle crucial de la gestion des données dans le paysage actuel. Il met en évidence les défis auxquels les organisations sont confrontées en matière de sécurité des données, d'efficacité et de nécessité d'architectures de données innovantes. La discussion aborde également l'importance de l'informatique en périphérie, le potentiel des modèles d'IA hybrides et l'émergence de matériel spécialisé pour répondre aux demandes évolutives des applications d'IA. Nilesh souligne l'importance d'intégrer l'IA dans les pipelines de données pour améliorer l'accès et la sécurité des données, tout en abordant les complexités de la gestion de plusieurs modèles et en veillant à l'utilisation efficace des ressources de calcul. ## Points à retenir * L'IA a déplacé l'accent de l'informatique vers la gestion des données. * L'efficacité des données est cruciale pour un entraînement efficace des modèles. * Les organisations sont de plus en plus préoccupées par la sécurité des données. * Les entrepôts de données sont souvent inadéquats pour les besoins modernes en données. * De nouvelles architectures, comme les bases de données vectorielles, émergent. * L'IA peut améliorer l'accès aux données grâce à des requêtes en langage naturel. * Les modèles hybrides domineront l'avenir de l'IA. * L'informatique en périphérie est essentielle pour les applications en temps réel. * Le matériel spécialisé deviendra plus courant dans l'IA. * Le nettoyage des données est crucial pour prévenir la fuite d'informations personnelles identifiables.