Zum Inhalt springen

Yapay Zeka Kıyamet Senaryoları 1: Yanlış Amaca Hizalanan Zekalar

12.10.2026 · 30 Min.

Shownotes

Otostopçunun Yapay Zeka Rehberi’nde bu hafta: Yapay Zeka Kıyamet Senaryolarını konuşmaya başlıyoruz, bizim dilimizle yapay zeka kaynaklı büyük bir felaket gerçekten nasıl başlayabilir? İlk senaryo belki de en basiti: Makine kötüleşmez, bize düşman olmaz, sadece yanlış şeyi fazlasıyla iyi yapar. Yapay zeka güvenliği literatüründeki reward hacking, specification gaming ve goal misgeneralization problemleri tam olarak bu noktaya işaret ediyor. Biz bir niyet tarif ettiğimizi düşünürken aslında yalnızca ölçülebilir bir hedef veriyoruz; sistem de niyetimizi değil o hedefi optimize ediyor. Peki , Bir makine söylediğimizi yapar ama aslında istediğimizi yapmazsa ne olur?

Kommunity - Fatih Bildirici ML Systems Design Eğitimi: https://www.youtube.com/watch?v=fEUuBND5XO4&t=183s

Kitap Kulübümüz:

https://otostopcununyzrehberi.substack.com/p/otostopcunun-yapay-zeka-rehberi-kitap

Kaynaklar

  • Nick Bostrom, Superintelligence: Paths, Dangers, Strategies, Oxford University Press, 2014.

  • Dario Amodei vd., “Concrete Problems in AI Safety”, 2016.

  • Lauro Langosco vd., “Goal Misgeneralization in Deep Reinforcement Learning”, ICML.

  • Stuart Russell, Human Compatible: Artificial Intelligence and the Problem of Control, 2019.

Alle Folgen von Otostopçunun Yapay Zeka Rehberi

Einstellungen

Darstellung

Sprache

Bestimmt, welche Sender dir auf der Startseite zuerst gezeigt werden.

Verlauf

Zuletzt gehörte Sender und Folgen und deine letzten Suchen liegen nur in diesem Browser.

Hinweise

Ein kurzer Hinweis, wenn ein Podcast, dem du folgst, eine neue Folge hat. Einzelne Podcasts stellst du über die Glocke auf ihrer Seite ab.

Konto

Favoriten speichern – in der App und auf der Website.

Tastenkürzel

/
Suche öffnen
Leertaste
Abspielen oder anhalten
← →
Im Player: 15 s zurück, 30 s vor (Folgen) · im Regal: nächste Kachel
↑ ↓
Im Regal: Ziel innerhalb der Kachel
Pos1 / Ende
Im Regal: erste bzw. letzte Kachel
Esc
Fenster oder Menü schließen
?
Diese Übersicht
Läuft gerade

Zur Senderseite

Als Nächstes

    Folgen mit „Als Nächstes“ vormerken – sie laufen nach der aktuellen Folge.