Kiss è nata come una piccola demo acustica della durata di circa un minuto, con un verso e un ritornello. Prince ha dato la canzone alla band Mazarati per il loro omonimo album. Mazarati e il produttore David Z hanno rielaborato drasticamente la canzone, dandole un suono maggiormente aggressivo funk e spogliandola di effetti (fino a giungere a un suono minimalista). Quando Mazarati consegnò la canzone a Prince, l’artista rimase sbalordito dal suo lavoro e decise di riprendersi la canzone. Prince ne ha quindi sostituito il cantato principale e una parte di chitarra, portando la canzone nella forma attuale.
