Effectivement, il ne faut pas supprimer les outline sur les liens sinon pour les personnes qui naviguent au clavier, il est impossible de naviguer et de se repérer sur une page.
Au contraire, laissons les outline et rendons les beaux en les stylant en CSS !