Esta canción fue lanzada como cuarto single del álbum The Colour Of My Love el 18 de julio de 1994 en América del Norte, en octubre en Reino Unido, Australia y Japón y en febrero de 1995 en el resto del mundo. La canción tiene influencias de rock e incluye un solo de guitarra, una de las pocas canciones de Celine Dion en las que esto ocurre, interpretado por Aldo Nova. La canción fue escrita por Andy Hill y Peter Sinfield.


Esta fue la canción, según los fans británicos de Celine, que la hizo una estrella en el Reino Unido, ya que anteriormente era principalmente conocida allí por su victoria en Eurovisión de 1988.


El single fue un éxito en Europa y Australia. Desgraciadamente para la discografía de Dion, no fue un éxito en Estados Unidos, pero arrasó en Reino Unido, acabando como una de las grabaciones más vendidas de todos los tiempos. Aún a día de hoy sigue siendo el segundo mayor éxito de Celine Dion en Reino Unido, solamente eclipsado por My Heart Will Go On.


Existen dos versiones del videoclip: la primera fue estrenada en agosto de 1994; posteriormente, debido al gran éxito en Reino Unido, Celine grabó un videoclip especial en diciembre de 1994. Fue estrenado en el programa de televisión Top Of The Pops.


El single incluye también algunas canciones del álbum Dion Chante Plamondon, que fue estrenado a nivel internacional en 1994. Era la primera vez que un single en inglés de Celine incluía canciones en francés a nivel mundial.


La canción ocupó la primera posición en la inmensa mayoría de listas de singles en Europa, incluyendo Irlanda, Reino Unido, Bélgica, Noruega, Suecia y Dinamarca. También fue un gran éxito en Australia, alcanzando la segunda posición. 


El single ayudó a disparar las ventas de The Colour Of My Love, que había sido lanzado un año antes y cuyas ventas ya empezaban a caer. Gracias al éxito de Think Twice, el álbum volvió a ser número 1 en países como Reino Unido, Irlanda, Australia, Noruega, Bélgica y Grecia.


En septiembre de 2011, se incluyó una versión demo del tema en el recopilatorio especial Celine Dion: The Essential 3.0, con diferencias en la interpretación de Celine y en el instrumental.


Celine Dion incluyó el tema en sus recopilatorios All The Way... A Decade Of Song (1999) y My Love: Ultimate Essential Collection (2008) y en las giras The Colour Of My Love Tour, D'eux Tour, Falling Into You World Tour, Let's Talk About Love World Tour y Taking Chances World Tour.