Com a publicação da "Introdução à arte analítica", do matemático e advogado francês François Viète (1540–1603), a álgebra iniciou a transição do período medieval, marcado por al-Khwarizmi (c.780–c.850) e Fibonacci (c.1170– c.1240), para a Idade Moderna.

Viète desempenhava importantes funções na corte da França, inclusive no serviço de inteligência do rei. O seguinte episódio demonstra o seu prestígio.

Em livro publicado em 1593, o belga Adriaan van Roomen (1561–1615) listou "todos os matemáticos da Europa", desafiando-os a resolver uma certa equação (de grau 45!!). Algum tempo depois, o rei francês Henrique 4º recebeu o embaixador da Holanda em audiência, durante a qual enalteceu a excelência dos artistas, profissionais e cientistas franceses. "Mas o senhor não tem matemáticos, majestade, o Sr. Roomen não listou nenhum francês!", interrompeu o embaixador. "Tenho sim, e é excelente!", retorquiu o rei, mandando chamar Viète.

"Ut legi, et logi" ("Li, resolvi" em latim) diria depois o matemático: ao final da audiência real ele já tinha duas soluções da equação, e à noite escreveu ao embaixador que poderia fornecer "quantas desejar, pois são em número infinito".

Mas a maior contribuição matemática de Viète é a notação literal, a ideia de representar números, conhecidos ou não, por meio de letras. Ela tem o grande mérito de unificar problemas que antes pareciam distintos. Na notação de Viète, ax2+bx+c=0 representa todas as equações de grau 2: até então eram considerados vários casos, dependendo dos sinais dos coeficientes a, b e c, e a resolução era diferente em cada caso.

Mas o maior legado da notação literal talvez seja a contribuição à extensão do conceito de número. Por exemplo, até então era possível considerar que equações como x2=4 têm solução, enquanto que outras, como x2=–4, são impossíveis. A partir do momento em que escrevemos x2=a, torna-se natural pensar que a solução é √a e tratar esta expressão como um número, independentemente do sinal de a. Esse ponto de vista foi crucial para a descoberta dos conceitos de número negativo e de número complexo.

Ao publicar a solução do problema de Roomen, em 1595, Viète propôs também um desafio ao colega. "Um homem eminente, um verdadeiro matemático", descreveu Roomen, acrescentando: "Incapaz de admitir que um belga lhe roube a glória, respondeu soberbamente ao meu desafio com um tratado de notável erudição".