Skip to content

Yapay Zeka Kıyamet Senaryoları 1: Yanlış Amaca Hizalanan Zekalar

October 12, 2026 · 30 min

Show notes

Otostopçunun Yapay Zeka Rehberi’nde bu hafta: Yapay Zeka Kıyamet Senaryolarını konuşmaya başlıyoruz, bizim dilimizle yapay zeka kaynaklı büyük bir felaket gerçekten nasıl başlayabilir? İlk senaryo belki de en basiti: Makine kötüleşmez, bize düşman olmaz, sadece yanlış şeyi fazlasıyla iyi yapar. Yapay zeka güvenliği literatüründeki reward hacking, specification gaming ve goal misgeneralization problemleri tam olarak bu noktaya işaret ediyor. Biz bir niyet tarif ettiğimizi düşünürken aslında yalnızca ölçülebilir bir hedef veriyoruz; sistem de niyetimizi değil o hedefi optimize ediyor. Peki , Bir makine söylediğimizi yapar ama aslında istediğimizi yapmazsa ne olur?

Kommunity - Fatih Bildirici ML Systems Design Eğitimi: https://www.youtube.com/watch?v=fEUuBND5XO4&t=183s

Kitap Kulübümüz:

https://otostopcununyzrehberi.substack.com/p/otostopcunun-yapay-zeka-rehberi-kitap

Kaynaklar

  • Nick Bostrom, Superintelligence: Paths, Dangers, Strategies, Oxford University Press, 2014.

  • Dario Amodei vd., “Concrete Problems in AI Safety”, 2016.

  • Lauro Langosco vd., “Goal Misgeneralization in Deep Reinforcement Learning”, ICML.

  • Stuart Russell, Human Compatible: Artificial Intelligence and the Problem of Control, 2019.

All episodes of Otostopçunun Yapay Zeka Rehberi

Settings

Display

Language

Decides which stations you see first on the home page.

History

Recently played stations and episodes and your latest searches are only stored in this browser.

Notifications

A short notice when a podcast you follow has a new episode. Turn off single podcasts with the bell on their page.

Account

Save favorites – in the app and on the website.

Keyboard shortcuts

/
Open search
Space
Play or pause
← →
In the player: back 15 s, forward 30 s (episodes) · in a row: next tile
↑ ↓
In a row: target within the tile
Home / End
In a row: first or last tile
Esc
Close window or menu
?
This overview
Now playing

Go to station page

Play next

    Add episodes with “Play next” – they play after the current episode.