Aller au contenu

Yapay Zeka Kıyamet Senaryoları 1: Yanlış Amaca Hizalanan Zekalar

12 octobre 2026 · 30 min

Notes de l’épisode

Otostopçunun Yapay Zeka Rehberi’nde bu hafta: Yapay Zeka Kıyamet Senaryolarını konuşmaya başlıyoruz, bizim dilimizle yapay zeka kaynaklı büyük bir felaket gerçekten nasıl başlayabilir? İlk senaryo belki de en basiti: Makine kötüleşmez, bize düşman olmaz, sadece yanlış şeyi fazlasıyla iyi yapar. Yapay zeka güvenliği literatüründeki reward hacking, specification gaming ve goal misgeneralization problemleri tam olarak bu noktaya işaret ediyor. Biz bir niyet tarif ettiğimizi düşünürken aslında yalnızca ölçülebilir bir hedef veriyoruz; sistem de niyetimizi değil o hedefi optimize ediyor. Peki , Bir makine söylediğimizi yapar ama aslında istediğimizi yapmazsa ne olur?

Kommunity - Fatih Bildirici ML Systems Design Eğitimi: https://www.youtube.com/watch?v=fEUuBND5XO4&t=183s

Kitap Kulübümüz:

https://otostopcununyzrehberi.substack.com/p/otostopcunun-yapay-zeka-rehberi-kitap

Kaynaklar

  • Nick Bostrom, Superintelligence: Paths, Dangers, Strategies, Oxford University Press, 2014.

  • Dario Amodei vd., “Concrete Problems in AI Safety”, 2016.

  • Lauro Langosco vd., “Goal Misgeneralization in Deep Reinforcement Learning”, ICML.

  • Stuart Russell, Human Compatible: Artificial Intelligence and the Problem of Control, 2019.

Tous les épisodes de Otostopçunun Yapay Zeka Rehberi

Paramètres

Affichage

Langue

Détermine les stations affichées en premier sur la page d’accueil.

Historique

Les stations et épisodes écoutés récemment et tes dernières recherches sont seulement enregistrés dans ce navigateur.

Notifications

Un court message quand un podcast que tu suis publie un nouvel épisode. Désactive un podcast précis avec la cloche sur sa page.

Compte

Enregistrez vos favoris – dans l’app et sur le site.

Raccourcis clavier

/
Ouvrir la recherche
Espace
Lecture ou pause
← →
Dans le lecteur : 15 s en arrière, 30 s en avant (épisodes) · dans une rangée : tuile suivante
↑ ↓
Dans une rangée : cible dans la tuile
Début / Fin
Dans une rangée : première ou dernière tuile
Esc
Fermer la fenêtre ou le menu
?
Cet aperçu
En cours de lecture

Voir la station

À suivre

    Ajoutez des épisodes avec « À suivre » – ils seront lus après l'épisode en cours.