Contacta con nosotros

Temario del curso

Fundamentos de la Ética en Sistemas Autónomos

  • Definición de autonomía en agentes de IA.
  • Principales teorías éticas aplicadas al comportamiento de las máquinas.
  • Perspectivas de las partes interesadas y diseño sensible a los valores.

Riesgos Sociales y Casos de Uso Críticos

  • Agentes autónomos en seguridad pública, salud y defensa.
  • Colaboración humano-IA y límites de confianza.
  • Escenarios de consecuencias no deseadas y amplificación de riesgos.

Panorama Legal y Regulatorio

  • Visión general de la legislación y tendencias políticas de IA (Ley de IA de la UE, NIST, OCDE).
  • Responsabilidad, liability y personalidad jurídica de los agentes de IA.
  • Iniciativas de gobernanza global y vacíos regulatorios.

Explicabilidad y Transparencia en las Decisiones

  • Desafíos de la toma de decisiones autónoma tipo "caja negra".
  • Diseño de agentes explicables y auditables.
  • Herramientas y marcos de transparencia (por ejemplo, tarjetas de modelos, hojas de datos).

Alineación, Control y Responsabilidad Moral

  • Estrategias de alineación de IA para el comportamiento de los agentes.
  • Paradigmas de control con humano en el bucle versus humano fuera del bucle pero en supervisión.
  • Responsabilidad compartida entre diseñadores, usuarios e instituciones.

Evaluación y Mitigación de Riesgos Éticos

  • Mapeo de riesgos y análisis de fallos críticos en el diseño de agentes.
  • Mecanismos de protección y interrupción manual (botón de apagado).
  • Auditorías de sesgo, discriminación e equidad.

Diseño de Gobernanza y Supervisión Institucional

  • Principios de gobernanza responsable de la IA.
  • Modelos de supervisión multisectorial y auditorías.
  • Diseño de marcos de cumplimiento para agentes autónomos.

Resumen y Próximos Pasos

Requerimientos

  • Comprensión de los sistemas de IA y los fundamentos del aprendizaje automático.
  • Familiaridad con agentes autónomos y sus aplicaciones.
  • Conocimiento de los marcos éticos y legales en la política tecnológica.

Público Objetivo

  • Éticos de IA (especialistas en ética de la inteligencia artificial).
  • Formularios y reguladores de políticas.
  • Practicantes e investigadores avanzados de IA.
 14 Horas

Número de participantes


Precio por participante

Próximos cursos

Categorías Relacionadas