Polly Jean Harvey se sacó la lotería en 1988. En aquel entonces, era una adolescente de un pequeño pueblo que viajaba a la cercana Yeovil y a Sherborne, el lugar más cercano en su parte de Inglaterra donde tocaban bandas de rock 'n' roll. Una de sus favoritas era Automatic Dlamini, liderada por el cantante y baterista John Parish. Incluso les había pedido que tocaran en su fiesta de cumpleaños número 18. Parish y compañía nunca tocaron en ese concierto, pero Harvey consiguió algo aún mejor: una invitación para unirse a la banda.
Harvey todavía recuerda haber ido a la casa de Parish para su audición, sentada en una habitación y repasando las partes de guitarra que tocaría si fuera aceptada. "Estaba completamente petrificada". Parish finalmente la tranquilizó, haciéndola practicar un riff hasta que lo hizo bien. "Después de unas tres horas de tocar la misma línea, comencé a perder los nervios". Parish recuerda que Harvey aparecía en los conciertos y le daba cintas de sus canciones. Le impresionó que una adolescente pudiera tener una "voz increíblemente madura y sabia", y dice que fue la primera persona en la que pensó cuando necesitó un nuevo miembro para la banda. Disfrutó viéndola crecer como música. "Fue emocionante verla cambiar de una joven tímida y retraída de 18 años a PJ Harvey".
Desde entonces, Parish y Harvey han trabajado juntos a menudo, con Parish actuando como músico y productor en varios de los álbumes de Harvey.
'A Woman A Man Walked By', como gran parte del trabajo de Harvey y Parish, juntos o individualmente, es atmosférico y angular, a veces incluso confrontativo. Sus ganchos no son para tararear, son para excavar en tu subconsciente, primarios pero precisos. Su historia como estudiante y mentor es sin duda parte de lo que los hace tan efectivos como colaboradores (Harvey señala que cuando Parish toca como su acompañante, puede tocar inmediatamente cualquier parte de guitarra exactamente como ella se la tocó la primera vez). Pero también son espíritus musicales afines —ambos fans de Captain Beefheart— con aversión a volver a terrenos musicales antiguos, incluso si eso pudiera hacerlos más populares. "Ambos tenemos esta especie de regla tácita: hacemos música para nosotros mismos", dice Parish. "Realmente esperamos que a otras personas les guste, pero no puedes hacer cosas pensando en lo que a otras personas les podría gustar o querrían comprar. Tienes que hacer lo que quieres hacer y asumir que si a ti te gusta, a alguien más le gustará".
Detalles de la reedición en vinilo de 2021: la reedición es fiel a la grabación original con el corte de vinilo realizado por Jason Mitchell en Loud Mastering, supervisado por John Parish.