
Anthropic propone una ley para frenar modelos de IA ante riesgos catastróficos
Shownotes
Anthropic está promoviendo entre legisladores estadounidenses un borrador de ley para regular los modelos de IA de frontera. La propuesta permitiría activar un mecanismo para detener judicialmente el lanzamiento o funcionamiento de un modelo cuando evaluadores independientes detecten un riesgo previsible e inminente de consecuencias catastróficas, incluyendo más de 50 muertes o lesiones graves o daños superiores a mil millones de dólares, asociados a amenazas como armas biológicas, ciberataques o pérdida de control de sistemas de IA. El Departamento de Comercio tendría que recurrir ante un juez para conseguir el bloqueo, en lugar de poder ordenarlo unilateralmente. La iniciativa deriva del Advanced AI Framework que Anthropic presentó en junio y refleja el creciente debate sobre pasar de compromisos voluntarios a regulación obligatoria de la IA más avanzada.
Fuentes
- TechCrunch — Anthropic pitches AI safety bill that may block a model if 50+ people could be killed — artículo que originó este episodio. TechCrunch
- Reuters — Anthropic quietly pitches its own AI safety bill to lawmakers — confirma la existencia del borrador y los principales umbrales propuestos. Reuters
- Anthropic — Advanced AI Framework — documento original de la compañía con su propuesta regulatoria y los riesgos que pretende cubrir. Anthropic
- Anthropic — Policy on the AI Exponential — explicación oficial de la postura de la empresa sobre regulación y supervisión gubernamental. Anthropic
- Bloomberg — Anthropic Pitches AI Safety Bill to Lawmakers — cobertura adicional de la propuesta y de los umbrales de riesgo.
Me pueden seguir en todas las redes como @fran_villafanez
💻 https://notadevoz.franvillafanez.com
✉️ https://notadevoz.substack.com/
📱Canal de Telegram https://t.me/notadevozpodcast
📱Grupo de Telegram https://t.me/notadevozelpodcast
📱Canal de WhatsApp https://whatsapp.com/channel/0029VaAq3pt8fewmSh8h2r2a
☕ Invitame un café https://cafecito.app/notadevoz