Ce phénomène coloré est dû à la réfraction et à la réflexion de la lumière du soleil sur des gouttes de pluie dont la taille varie entre 0,25 et environ 3 mm. La lumière est réfractée en ses différentes couleurs et réfléchie selon un angle d'environ 42 degrés. Comme il faut à la fois de la pluie et du soleil, les arcs-en-ciel apparaissent généralement lors d'averses et d'orages ponctuels.

Plus le soleil est bas dans le ciel, plus l'arc-en-ciel semble grand et impressionnant. C'est tôt le matin, en fin d'après-midi ou en soirée que les chances sont les meilleures. Lorsque les gouttes de pluie sont grosses, la lumière du soleil se réfracte davantage et l'arc-en-ciel apparaît particulièrement lumineux et net. Avec de petites gouttes, les couleurs sont plus pâles. Et si l'arc-en-ciel se trouve devant un nuage d’orage sombre, le contraste est optimal pour les couleurs.
Même s'il y a des gouttes de pluie et du soleil, un arc-en-ciel n'est pas toujours visible. Cela s'explique par la réfraction à un angle d'environ 42 degrés : si le soleil est à plus de 42 degrés au-dessus de l'horizon, l'arc-en-ciel est projeté vers le sol et n'est pas visible. Pendant la saison estivale, il n'y a donc pas d'arc-en-ciel possible pendant la journée. Le jour le plus long de l'année, lorsque le soleil culmine à 66 degrés au-dessus de l'horizon, les arcs-en-ciel n'apparaissent qu'en soirée, après 17 heures. On les voit d'abord bas au-dessus de la surface de la Terre, puis ils s'élèvent de plus en plus haut dans le ciel à mesure que le soleil descend.
Parfois, on peut observer, en plus de l'arc-en-ciel principal (de premier ordre), un arc-en-ciel secondaire (de deuxième ordre). Dans le cas d'un arc-en-ciel secondaire, la lumière du soleil subit une double réfraction sur la paroi interne de la goutte et est réfléchie vers l'observateur. Les couleurs de l'arc-en-ciel secondaire apparaissent donc dans un ordre inverse par rapport à celles de l'arc-en-ciel principal.

Lorsqu'un double arc-en-ciel apparaît, on distingue clairement « la bande sombre d'Alexandre » entre les deux arcs. Dans cette partie du ciel, la lumière du soleil n'est que partiellement réfléchie vers nos yeux, ce qui nous donne l'impression qu'elle est plus sombre.
