Zum Inhalt springen

Trust as an Operating Metric in AI Companions (EP 15)

08.01.2026 · 37 Min.

Shownotes

🎙️Lior Oren, Chief Technology Officer at Replika


A conversation on how emotionally intimate AI systems are built, monitored, and held together under real-world constraints.


🎧 Opening

This episode explores how trust is built, measured, and sometimes strained in AI systems designed for emotionally intimate conversations. It’s a technical and ethical discussion for people working on conversational AI, product infrastructure, and safety in systems that users form real attachments to. The focus stays on operational reality - what engineers actually face when AI moves from tools to companions.


🔍 Episode overview

Eva Simone Lihotzky speaks with Lior Oren about what it means to run AI companions at scale, where user trust is not an abstract principle but a daily KPI. Drawing on his experience as CTO of Replika and prior work on integrity teams at Meta, Lior explains how unpredictability, observability, and emotional reliance shape engineering decisions.

The conversation examines tensions between flexibility and stability, innovation and guardrails, and regulation and lived product reality. Rather than future speculation, it stays grounded in how teams design memory, user control, and safety systems when conversations themselves are the product.


🧩 Key themes discussed

  • Trust treated as a measurable success metric, not a philosophical goal

  • Why observability is essential in statistical, non-deterministic AI systems

  • Guardrails as part of core infrastructure, similar to security or reliability

  • Emotional attachment influencing uptime, priorities, and team culture

  • User agency through transparency, memory control, and conversational steering

  • The risk of breaking “tone” and continuity when models change

  • Limits of regulation and the trade-offs inherent in statistical safety systems

Alle Folgen von The In-Between Tech and Trust Podcast

Einstellungen

Darstellung

Sprache

Bestimmt, welche Sender dir auf der Startseite zuerst gezeigt werden.

Verlauf

Zuletzt gehörte Sender und Folgen und deine letzten Suchen liegen nur in diesem Browser.

Hinweise

Ein kurzer Hinweis, wenn ein Podcast, dem du folgst, eine neue Folge hat. Einzelne Podcasts stellst du über die Glocke auf ihrer Seite ab.

Konto

Favoriten speichern – in der App und auf der Website.

Tastenkürzel

/
Suche öffnen
Leertaste
Abspielen oder anhalten
← →
Im Player: 15 s zurück, 30 s vor (Folgen) · im Regal: nächste Kachel
↑ ↓
Im Regal: Ziel innerhalb der Kachel
Pos1 / Ende
Im Regal: erste bzw. letzte Kachel
Esc
Fenster oder Menü schließen
?
Diese Übersicht
Läuft gerade

Zur Senderseite

Als Nächstes

    Folgen mit „Als Nächstes“ vormerken – sie laufen nach der aktuellen Folge.