Saltar al contenido

Yapay Zeka Kıyamet Senaryoları 1: Yanlış Amaca Hizalanan Zekalar

12 de octubre de 2026 · 30 min

Notas del episodio

Otostopçunun Yapay Zeka Rehberi’nde bu hafta: Yapay Zeka Kıyamet Senaryolarını konuşmaya başlıyoruz, bizim dilimizle yapay zeka kaynaklı büyük bir felaket gerçekten nasıl başlayabilir? İlk senaryo belki de en basiti: Makine kötüleşmez, bize düşman olmaz, sadece yanlış şeyi fazlasıyla iyi yapar. Yapay zeka güvenliği literatüründeki reward hacking, specification gaming ve goal misgeneralization problemleri tam olarak bu noktaya işaret ediyor. Biz bir niyet tarif ettiğimizi düşünürken aslında yalnızca ölçülebilir bir hedef veriyoruz; sistem de niyetimizi değil o hedefi optimize ediyor. Peki , Bir makine söylediğimizi yapar ama aslında istediğimizi yapmazsa ne olur?

Kommunity - Fatih Bildirici ML Systems Design Eğitimi: https://www.youtube.com/watch?v=fEUuBND5XO4&t=183s

Kitap Kulübümüz:

https://otostopcununyzrehberi.substack.com/p/otostopcunun-yapay-zeka-rehberi-kitap

Kaynaklar

  • Nick Bostrom, Superintelligence: Paths, Dangers, Strategies, Oxford University Press, 2014.

  • Dario Amodei vd., “Concrete Problems in AI Safety”, 2016.

  • Lauro Langosco vd., “Goal Misgeneralization in Deep Reinforcement Learning”, ICML.

  • Stuart Russell, Human Compatible: Artificial Intelligence and the Problem of Control, 2019.

Todos los episodios de Otostopçunun Yapay Zeka Rehberi

Ajustes

Visualización

Idioma

Determina qué emisoras ves primero en la página de inicio.

Historial

Las emisoras y episodios escuchados recientemente y tus últimas búsquedas solo se guardan en este navegador.

Avisos

Un breve aviso cuando un pódcast que sigues tiene un episodio nuevo. Puedes desactivar pódcast concretos con la campana de su página.

Cuenta

Guarda tus favoritos: en la app y en la web.

Atajos de teclado

/
Abrir búsqueda
Espacio
Reproducir o pausar
← →
En el reproductor: 15 s atrás, 30 s adelante (episodios) · en una fila: siguiente tarjeta
↑ ↓
En una fila: destino dentro de la tarjeta
Inicio / Fin
En una fila: primera o última tarjeta
Esc
Cerrar ventana o menú
?
Este resumen
Reproduciendo ahora

Ir a la emisora

A continuación

    Añade episodios con «A continuación»: sonarán después del episodio actual.