Segundo
Ferreira, Aurélio Buarque de Holanda. Novo Aurélio Século XXI: o dicionário da língua portuguesa. 3a Edição, Rio de Janeiro: Nova Fronteira, 1999.

A palavra tangente provém do latim tangente, 'que toca'.

O mesmo dicionário apresenta o significado geométrico para a palavra tangente:
Geom. Num ponto de uma curva ou de uma superfície, limite da secante que passa por este ponto e por outro, quando este tende para aquele.