Aly Cissokho es el cuarto de una familia de cinco hermanos con raíces senegalesas. Comenzó su carrera futbolística a la edad de ocho años en el equipo de su ciudad natal, AMJ Blois, donde permaneció cuatro años en la sección de benjamines hasta que, en 1999, se incorporó al club más importante de la ciudad, el Blois Foot 41, donde asumió su rol de lateral izquierdo mientras los técnicos lo describían como un jugador con gran potencial. Tras cuatro temporadas en el Blois, Cissokho pasó a jugar al FCO Saint-Jean-de-la-Ruelle, equipo de la Sexta División francesa. En el año 2004, Cissokho fue observado por uno de los ojeadores del equipo FC Gueugnon, quien recomendó su fichaje para el equipo, que por aquel entonces se encontraba jugando en la Segunda División, la Ligue 2. En Julio de 2004, firmó con este equipo y se unió a la academia juvenil del club.

Tras dos años en la academia y otros dos años en el equipo de reservas, Cissokho hizo su debut profesional el 25 de mayo de 2007, en un partido de Liga contra el Metz, disputando los 90 minutos del encuentro. Al finalizar la campaña, firmó su primer contrato profesional, ascendidendo al primer equipo para la temporada 2007-2008. Al principio disfrutó de pocos minutos, al ser considerado suplente, pero el cambio de entrenador en octubre de 2007 le dio la titularidad. Disputó un total de 22 partidos de Liga, 15 como titular, pero no pudo evitar el descenso del equipo. El 2 de junio de 2008, el Vitória de Setúbal de la Primera División de Portugal consiguió el fichaje de Cissokho, que firmó por tres años, hasta 2011. Pero tras sus buenas actuaciones, el Oporto adquirió el 60% de sus derechos en enero de 2009 por 300.000 euros. Nada más llegar, Cissokho debutó con el primer equipo y acabó disputando 15 partidos de Liga, contribuyendo a que el equipo se proclamara campeón de Liga por cuarta temporada consecutiva y campeón de Copa.

El 14 de junio de 2009, el Milán anunció el fichaje del jugador por 15 millones de euros, pero el jugador no superó la revisión médica por un problema dental. Un mes más tarde, el Olympique de Lyon llegó a un acuerdo con el Oporto por la misma cantidad, y Cissokho, tras superar la revisión médica, firmó un contrato de cinco años. En sus tres primeras temporadas, el jugador se convierte en titular indiscutible, disputando un total de 134 partidos entre Liga, Copa y competiciones europeas, llamando la atención de varios clubes a nivel europeo. El Valencia, que había vendido en el verano de 2012 a Jordi Alba al FC Barcelona, y llevaba todo el verano buscando un lateral izquierdo para sustituirle, anunció su fichaje el 23 de agosto de 2012, en un acuerdo que se cerró por una cantidad cercana a los 6 millones de euros y cuatro temporadas.

Su primera temporada en el equipo valencianista no fue mala, llegando a jugar un total de 36 partidos oficiales, 28 de ellos como titular, siendo el décimo jugador de la primera plantilla con más minutos disputados y logrando incluso marcar dos goles en la Liga, contra el Valladolid y contra el Celta. Pese a ello, nunca llegó a convencer a la dirección deportiva y, con la llegada de Miroslav Djukic, dejó de contar en la pretemporada 2013/2014, por lo que ese verano se le buscó una salida que permitiera recuperar la inversión realizada por el jugador. Finalmente, Cissokho salió cedido al Liverpool por un millón de euros más una opción de compra de 4,5 millones de euros. En el verano de 2014, tras realizar parte de la pretemporada con el Valencia, no convence al nuevo técnico Nuno Espírito Santo y se confirma su traspaso definitivo al Aston Villa inglés a cambio de 3 millones de euros. Cissokho participa en 37 partidos con el conjunto birtánico, pero en agosto de 2015 se confirma su cesión al FC Porto por una temporada, donde apenas disputa dos encuentros. En 2017 marcha cedido de nuevo, esta vez al Olympiakos, pero tampoco tuvo suerte en el fútbol griego y finalizado el curso marcha a Turquía para jugar con el Yeni Malatyaspor. Tras completar 32 encuentros, firma en el verano de 2018 por el Antalyaspor.