Tras la donación de la villa de Alba de Tormes a la familia de los Álvarez de Toledo, el castillo fue lugar de residencia y la cabeza del Señorío.