Esta bailable canción fue incluida en el álbum A New Day Has Come en 2002. Producida y escrita por Martin Briley, Francis Galluccio y Marjorie Maye, When The Wrong One Loves You Right es, junto con otros temas como Ten Days, Super Love y Sorry For Love, una de las canciones más uptempo y movidas de todo el álbum.


Esta canción habla de la situación que vive una mujer que siente que es amada por la persona incorrecta, por aquel que no sería su amante ideal. A pesar de ello, se deja llevar por el fuerte sentimiento del amor.


A pesar de que When The Wrong One Loves You Right no fue lanzado al mercado como single, Celine interpretó el tema durante el especial de CBS A New Day Has Come en 2002 junto al popular grupo pop Destiny's Child. La actuación cerró un medley abierto con el tema Emotion. La versión en directo durante este programa fue una versión acortada de la original incluida en el álbum, excluyendo la estrofa siguiente al primer estribillo.


Con esta actuación finalizó la promoción de esta potente canción, a pesar de que fue reproducida en varias cadenas de radio en Canadá a lo largo de 2002, para promocionar el álbum.