Aller au contenu

Neoclouds and the Future of AI Infrastructure, with Mike Maniscalco

17 octobre 2026 · 1 h 4 min

Notes de l’épisode

Mike Maniscalco is the CEO of QumulusAI, an AI infrastructure provider built to deliver high-performance computing for AI natives and inference providers. Mike is a serial entrepreneur with multiple successful exits who previously served as CTO of Applied Digital.

Most of us experience AI as software, but every prompt runs on chips, power, cooling, and buildings that take years to bring online. Mike spends his days on that physical layer, and this conversation provides a fascinating glimpse into the infrastructure that makes it all possible.

We start with what a neocloud is and why the ChatGPT moment opened the door for a new kind of cloud provider to compete with traditional hyperscalers like AWS, Google, and Microsoft. From there, we unpack the challenges around scaling AI infra, how demand for compute keeps outrunning the data center capacity needed to serve it, and how advancements in chips and cooling technology are reshaping the way data centers are built.

That leads to what all of this means for businesses building with AI: why more companies are moving to open source models and inference providers as their AI spend grows, how routing each task to the right model can cut costs without sacrificing quality, and why trust and data isolation matter when deciding where your workloads run.

Finally, we zoom out to get Mike's take on the broad implications of AI on topics like job displacement, healthcare, and the future of work, and why he remains an optimist about where it's all headed.

🔗 Episode Links:
- Mike Maniscalco on LinkedIn: https://www.linkedin.com/in/michaelmaniscalco/
- QumulusAI: https://www.qumulusai.com
- QumulusAI on LinkedIn: https://www.linkedin.com/company/qumulusai
- TOP500 list of the world's fastest supercomputers: https://www.top500.org

🔖 Chapters:
00:00 Intro
03:26 What are Neoclouds?
07:08 Comparing Neo Clouds with Traditional Cloud Providers
09:52 The Intersection of AI and Cryptocurrency Infrastructure
12:24 QumulusAI Overview
15:52 The Mixture of Experts: Enhancing AI Models
22:48 The Supply-Demand Imbalance
26:45 Who are Neocloud Customers?
29:15 Business implications of open source and self-hosting
36:49 Trust and Flexibility in AI Solutions
39:06 Challenges in the Neo Cloud Space
41:54 Innovations in Data Center Cooling Technologies
48:52 The Future Impact of AI on Society
57:45 AI's Impact on Healthcare and Quality of Life
01:02:56 Wrapping Up

Tous les épisodes de Thinking Straight

Paramètres

Affichage

Langue

Détermine les stations affichées en premier sur la page d’accueil.

Historique

Les stations et épisodes écoutés récemment et tes dernières recherches sont seulement enregistrés dans ce navigateur.

Notifications

Un court message quand un podcast que tu suis publie un nouvel épisode. Désactive un podcast précis avec la cloche sur sa page.

Compte

Enregistrez vos favoris – dans l’app et sur le site.

Raccourcis clavier

/
Ouvrir la recherche
Espace
Lecture ou pause
← →
Dans le lecteur : 15 s en arrière, 30 s en avant (épisodes) · dans une rangée : tuile suivante
↑ ↓
Dans une rangée : cible dans la tuile
Début / Fin
Dans une rangée : première ou dernière tuile
Esc
Fermer la fenêtre ou le menu
?
Cet aperçu
En cours de lecture

Voir la station

À suivre

    Ajoutez des épisodes avec « À suivre » – ils seront lus après l'épisode en cours.