Hace referencia al desafío que involucra lograr que una Inteligencia Artificial General, que puede desarrollar actividades sin supervisión humana y tener sus propios planes e “intenciones”, actúe de manera “alineada” con los valores humanos.
Actualmente no hay una respuesta a este problema, sino que intensos debates sobre si la alineación es realmente posible.